大型语言模型任务漂移检测方法、系统、设备及存储介质
申请号:CN202510919957
申请日期:2025-07-04
公开号:CN120430396A
公开日期:2025-08-05
类型:发明专利
摘要
本发明公开了大型语言模型任务漂移检测方法、系统、设备及存储介质,应用于大型语言模型技术领域,通过获取待检测的第一任务实例和第二任务实例;将第一任务实例和第二任务实例分别输入预设大型语言模型中进行提取,得到初始激活值和目标激活值;根据初始激活值和目标激活值,得到激活残差,基于激活残差,调用训练好的逻辑回归探测器或度量学习算法进行处理,得到分类结果或嵌入距离,若得到分类结果,则根据分类结果判断是否存在任务漂移,若得到嵌入距离,则判断嵌入距离是否大于预设阈值,若大于,则存在任务漂移,若小于,则不存在任务漂移,通过上述方法提高了大型语言模型任务漂移检测方法的检测准确性。
技术关键词
漂移检测方法
样本
三元组损失函数
学习算法
探测器
语言模型技术
数据
逻辑
线性分类器
度量
存储计算机程序
表达式
计算机设备
超参数
模块
处理器
索引
存储器