动态模型切换框架用于边缘设备的AI推理优化方法及系统

本发明提供动态模型切换框架用于边缘设备的AI推理优化方法及系统，涉及AI优化技术领域，包括通过联邦学习训练量化补偿模型修正量化误差；构建分层异构资源管理系统实现多核心协同调度；集成补偿参数至FPGA加速电路并采用智能功耗均衡技术；利用图神经网络构建动态决策引擎触发模型切换。本发明实现了边缘设备上高精度AI推理与低功耗需求的平衡，提高了计算资源利用效率，降低了能耗。