一种基于多粒度知识蒸馏的多模态命名实体识别方法

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
一种基于多粒度知识蒸馏的多模态命名实体识别方法
申请号:CN202510106372
申请日期:2025-01-23
公开号:CN120106064A
公开日期:2025-06-06
类型:发明专利
摘要
本发明公开了一种基于多粒度知识蒸馏的多模态命名实体识别方法,包括粗粒度模态预训练和细粒度模态微调两个阶段。在粗粒度模态预训练阶段,本发明引入了一种自监督相似度对比学习方法,能够有效地进行知识迁移,为后续任务提供更强的基础;在细粒度模态微调阶段,本发明设计了一个多任务知识蒸馏微调网络,通过教师模型生成伪标签,并结合数据对齐的多模态命名实体识别辅助任务,从多模态数据中提取更有效的知识,进一步提升多模态命名实体识别的准确性和鲁棒性。
技术关键词
文本编码器 命名实体识别方法 预训练模型 视觉特征 解码矩阵 识别工具 图像 跨模态 多任务 语义 蒸馏 多模态 教师 解码器 标签 模块