大模型微调方法、装置、设备、存储介质和程序产品

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
大模型微调方法、装置、设备、存储介质和程序产品
申请号:CN202511034441
申请日期:2025-07-25
公开号:CN120745836A
公开日期:2025-10-03
类型:发明专利
摘要
本申请公开了一种大模型微调方法、装置、设备、存储介质和程序产品,涉及人工智能技术领域,包括:用于对待微调大模型进行微调的目标训练数据集是基于待微调大模型生成的,而且,目标训练数据集包括两类问答对,其中第二类问答对中的回答是待微调大模型对第二类问答对中的指令数据对应的原始响应数据进行改写得到的蒸馏响应数据;蒸馏响应数据与对应的原始响应数据具有相同的推理逻辑和风格,也就是说第二类问答对中的回答保留了待微调大模型的推理路径特征,增强了大模型在目标任务学习中对原始推理逻辑的保留能力,提高了微调后的大模型在目标任务上的适应性。
技术关键词
数据 蒸馏 微调方法 计算机可读指令 电子设备 路径特征 存储计算机程序 人工智能技术 计算机程序产品 指标 参数 逻辑 处理器 风格 存储器