摘要
本发明公开了一种基于Wav2Lip数字人模型的量化部署方法，具体涉及到人工智能模型的优化和部署领域。本发明使用静态量化将Wav2Lip模型由FP32格式转为INT8格式存储，通过层次化量化，在自定义卷积和反卷积模块内部及输出块重构时插入量化和反量化节点，采用层次化跨模块融合优化方案，将卷积层、批量归一化层和ReLU激活函数层等进行融合；量化过程以QNNPACK为后端，对卷积层采用逐通道对称量化，反卷积和激活值采用逐张量非对称量化；利用LRS2数据集校准模型。最终将量化后的模型导出为ONNX格式，通过ONNX Runtime部署，借助XNNPACK库实现CPU推理加速。该方法在保证精度的前提下，使模型存储占用减少80%，有效解决移动端和嵌入式设备等资源受限环境中的低延迟实时视频处理问题。
