模型推理方法、装置、计算机设备、可读存储介质和程序产品
申请号:CN202510855656
申请日期:2025-06-24
公开号:CN120875022A
公开日期:2025-10-31
类型:发明专利
摘要
本申请涉及一种模型推理方法、装置、计算机设备、计算机可读存储介质和计算机程序产品。所述方法包括:对原始问题进行任务解析,根据解析得到的多个具有层次关系的多个子任务构建任务树,任务树中每个节点表示一个子任务,针对任务树中的每个节点,根据所表示的子任务检索支持内容;针对从任务树的根节点到叶子节点的路径上依次经过的子任务形成的推理任务链,根据包含的子任务和子任务的支持内容,计算推理任务链对应的推理贡献程度;根据推理贡献程度,融合各推理任务链中子任务的支持内容,得到融合文本;根据原始问题和融合文本进行推理,得到推理结果,能够显著降低推理模型在处理复杂问题出现的幻觉现象,提升模型推理的准确性和鲁棒性。
技术关键词
语义
节点
推理方法
树状结构
文本
一致性检测
计算机设备
中子
计算机程序产品
可读存储介质
关系
问答装置
大语言模型
处理器
层级
模块
分支
存储器
鲁棒性