一种用于抗遗忘的多领域中文拼写纠错知识迁移方法

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
一种用于抗遗忘的多领域中文拼写纠错知识迁移方法
申请号:CN202510022668
申请日期:2025-01-07
公开号:CN119808765A
公开日期:2025-04-11
类型:发明专利
摘要
一种用于抗遗忘的多领域中文拼写纠错知识迁移方法,包括:初始化教师模型,用于存储和整合跨领域的中文拼写纠错知识;对于每个新领域,训练学生模型,通过知识蒸馏从教师模型中学习,吸收新旧领域的知识;然后,动态调整蒸馏权重,根据新旧数据比例平衡学习过程,减缓遗忘;学生模型继续更新,同时复制学生模型的当前状态来更新教师模型以包含新领域知识,实现持续学习。此方法的动态教师模型和蒸馏权重调整机制,确保了新旧知识的平衡学习,显著提升了多领域拼写纠错的性能。实验结果表明,本发明在多领域任务中实现了知识的有效迁移和长期保留,具有即插即用、灵活性高、超越现有技术的优势,对提升中文拼写纠错的实用性和推动自然语言处理技术发展具有重要意义。
技术关键词
知识迁移方法 纠错 教师 学生 蒸馏 动态 数据 中文文本 计算机程序产品 模型更新 自然语言 多阶段 可读存储介质 处理器 样本 策略 标签 核心