一种基于知识引导的大语言模型的训练方法及系统

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
一种基于知识引导的大语言模型的训练方法及系统
申请号:CN202511193311
申请日期:2025-08-25
公开号:CN121030341A
公开日期:2025-11-28
类型:发明专利
摘要
本发明实施例提供一种基于知识引导的大语言模型的训练方法及系统,属于人工智能技术领域。所述训练方法包括:获取当前训练集以及对应的输入分布;根据所述输入分布在预设的训练集库中进行匹配,以得到按照相似度从高到低的顺序排列的多个所述历史训练集;获取每个匹配到的历史训练集的权重矩阵;分别按照每个所述权重矩阵,在教师模型集合中搜索对应的教师模型;将所述当前训练集输入搜索到的所述教师模型中,以得到对应的输出分布;采用所述权重矩阵对所述输出分布进行加权操作,以得到多个学习训练集;采用每个所述学习训练集训练学生模型,以得到每个学生模型的输出精度;将所述输出精度最高的所述学生模型作为最优模型输出。
技术关键词
训练集 语义向量 矩阵 教师 学生 训练系统 可读存储介质 人工智能技术 计算机 处理器 指令