一种基于大语言模型的长文本问答协同推理方法

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
一种基于大语言模型的长文本问答协同推理方法
申请号:CN202510481698
申请日期:2025-04-17
公开号:CN120354945A
公开日期:2025-07-22
类型:发明专利
摘要
本发明公开了一种基于大语言模型的长文本问答协同推理方法,其特点是采用提示工程构建的综合推理与检索增强生成推理协同的长文本问答推理框架,利用大语言模型将两个推理得到的答案整合至结构化提示词,从中筛选出最终答案,所述综合推理采用高斯分布加权将全局文本推理与局部文本推理融合,得到一答案;所述检索增强生成推理利用大语言模型根据检索到的内容回答问题,得到另一答案。本发明与现有技术相比具有增强模型在长文本问答任务中的准确性,缓解长文本中部信息丢失对大语言模型长文本问答性能的负面影响,以及模型上下文窗口尺寸对长文本处理的限制,使回答内容完整、准确,提升用户体验和满意度,具有良好的运用前景。
技术关键词
大语言模型 推理方法 文本 答案 解码器 倒排索引方式 预训练语言模型 切片 符号 模板 编码 框架 指令 尺寸