一种面向协同特征感知的大模型微调方法及系统

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
一种面向协同特征感知的大模型微调方法及系统
申请号:CN202510541166
申请日期:2025-04-28
公开号:CN120067618B
公开日期:2025-07-15
类型:发明专利
摘要
本公开提供了一种面向协同特征感知的大模型微调方法及系统,涉及大语言模型微调技术领域,利用不同数据来源组成的多模态数据集,对大模型进行迭代微调,直到微调验证结果满足预设条件,每次迭代为:在上轮微调验证结果的引导下,从多模态数据中筛选文本属性,构建微调提示;利用微调提示,使用低秩适配技术,感知协同特征,对大语言模型进行微调;利用多模态知识迁移,提取多模态数据中的多模态特征,生成微调验证提示;将微调验证提示输入到微调后的大模型中进行推理,生成微调验证结果,微调验证结果不满足预设条件则进行下轮的迭代微调;本发明能提升大模型在特定任务上的性能,并减少训练资源消耗,适用于各类大规模人工智能应用场景。
技术关键词
微调方法 多模态特征 数据 重构 图片 微调系统 微调技术 电子设备 处理器 文本 大语言模型 存储器 计算机程序产品 模块 解码器 编码器