一种数据特征分析的医疗问答模型蒸馏构建方法

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
一种数据特征分析的医疗问答模型蒸馏构建方法
申请号:CN202510441389
申请日期:2025-04-09
公开号:CN120371957A
公开日期:2025-07-25
类型:发明专利
摘要
本发明涉及一种数据特征分析的医疗问答模型蒸馏构建方法,涉及模型优化领域,获取基础大模型;获取医疗问答数据集对基础大模型进行监督微调测试,获取多个专家网络的多个测试评分并在完成后还原基础大模型的参数;基于多个测试评分根据医疗问答数据集进行样本数据生成优化获得优化问答数据集;采用优化问答数据集和医疗问答数据集对基础大模型进行监督微调测试获取多个专家网络的多个融合测试评分,根据多个融合测试评分对多个专家网络进行剪枝处理,获得蒸馏完成的医疗问答模型,解决了问答大模型参数量庞大、部署成本大、时延高及难以在资源受限场景中有效应用的技术问题。
技术关键词
问答模型 蒸馏 分支 基础 生成训练数据 样本 生成对抗网络 参数 时延 受限 场景 节点 资源