一种针对非均匀分布数据的高精度量化方法

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
一种针对非均匀分布数据的高精度量化方法
申请号:CN202510845442
申请日期:2025-06-23
公开号:CN120354065A
公开日期:2025-07-22
类型:发明专利
摘要
本发明公开了一种针对非均匀分布数据的高精度量化方法,致力于解决传统均匀量化算法在处理复杂数据分布时面临的重建误差显著增大和码本资源浪费现象。本方案首先利用动态规划算法对数据进行局部均匀化处理,通过最小化加权范围平方和实现最优分段;继而引入粒子群优化算法对量化区间端点进行迭代调优,以均方误差MSE最小化为目标构建高效码本。实验结果表明,该方法在128维和420维数据集上的量化误差较传统方法分别降低93.52%和98.05%,同时保持了硬件兼容性,适用于边缘计算节点、AI芯片等对压缩效率与实时性要求严苛的场景。
技术关键词
高精度量化方法 动态规划算法 引入粒子群优化 粒子群优化算法 归一化方法 网格 重建误差 量化误差 端点 数据分布 参数 因子 定义 分段 策略 特征值