一种基于多粒度知识蒸馏的多模态命名实体识别方法
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
AITNT公众号
AITNT APP
AITNT交流群
搜索
首页
AI资讯
AI技术研报
AI监管政策
AI产品测评
AI商业项目
AI产品热榜
AI专利库
寻求报道
一种基于多粒度知识蒸馏的多模态命名实体识别方法
申请号:
CN202510106372
申请日期:
2025-01-23
公开号:
CN120106064A
公开日期:
2025-06-06
类型:
发明专利
摘要
本发明公开了一种基于多粒度知识蒸馏的多模态命名实体识别方法,包括粗粒度模态预训练和细粒度模态微调两个阶段。在粗粒度模态预训练阶段,本发明引入了一种自监督相似度对比学习方法,能够有效地进行知识迁移,为后续任务提供更强的基础;在细粒度模态微调阶段,本发明设计了一个多任务知识蒸馏微调网络,通过教师模型生成伪标签,并结合数据对齐的多模态命名实体识别辅助任务,从多模态数据中提取更有效的知识,进一步提升多模态命名实体识别的准确性和鲁棒性。
技术关键词
文本编码器
命名实体识别方法
预训练模型
视觉特征
解码矩阵
识别工具
图像
跨模态
多任务
语义
蒸馏
多模态
教师
解码器
标签
模块