一种基于动态随机森林与特征压缩器的云边协同推理方法

本发明属于边缘计算技术领域，具体涉及一种基于动态随机森林与特征压缩器的云边协同推理方法。具体过程为：利用自注意力模块对待推理的DNN模型特征进行处理得到特征向量，利用预训练动态随机森林预测器根据特征向量预测出选择不同分割点时的推理时延；动态任务调度器根据不同分割点的推理时延以及网络监视器实时返回的网络状况，从不同分割点中选择满足传输总延迟最小minkTtotal的最佳分割点k*进行DNN模型分割，将其分割为边缘部分和云端部分；由边端完成边缘部分模型推理，预训练的特征压缩器根据目前带宽调整量化位数q对中间特征进行压缩，在完成压缩后将中间特征传输至云端；云端特征解码器对接收数据进行解压缩并完成云端部分模型推理。