引入模型知识的合成回放在线类增量持续学习方法

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
引入模型知识的合成回放在线类增量持续学习方法
申请号:CN202510359649
申请日期:2025-03-25
公开号:CN120375042A
公开日期:2025-07-25
类型:发明专利
摘要
本发明涉及一种引入模型知识的合成回放在线类增量持续学习方法,该方法为接收新任务样本并下采样存入,再进行合成样本的初始化;使用数据集蒸馏更新合成样本,损失为梯度匹配和关系匹配损失,同时更新合成模型参数;分两阶段训练分类模型:第一阶段学习新任务样本和采样的缓存区样本,第二阶段学习缓存区的全部样本。两个阶段均使用软标签蒸馏的方式学习合成模型的知识以提升分类模型的可塑性;分类模型完成增量任务学习后,测试平均分类精度。本发明通过知识蒸馏技术引入合成模型的知识,能够有效增强分类模型的可塑性,并对模型稳定性与可塑性进行合理权衡,提升平均分类精度。
技术关键词
持续学习方法 样本 分类模型训练 在线 双三次插值 蒸馏方法 知识蒸馏技术 训练分类模型 精度 数据 标签 特征提取器 上采样 参数 阶段 关系 像素 图像 多项式