一种基于多头自注意力与层次化增强的多文档问答方法及设备

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
一种基于多头自注意力与层次化增强的多文档问答方法及设备
申请号:CN202510096383
申请日期:2025-01-22
公开号:CN119537559A
公开日期:2025-02-28
类型:发明专利
摘要
本发明公开了一种基于多头自注意力与层次化增强的多文档问答方法及设备,属于自然语言理解技术领域,用于解决现有的RAG解决方案大多聚焦于单一查询的文档检索,忽视了多方面查询的需求,限制了RAG方法在多文档问答任务中的应用的技术问题。方法包括:在预设格式文档中提取层次结构元数据,并基于层级关系构建层级化文档树,获取预设格式文档中的上下文关系;基于检索信息,确定一条或多条目标检索路径;通过多头自注意力嵌入模块,对每条目标检索路径下的文档进行多文档检索,得到若干个相关文档段落;在相关文档段落中筛选目标文档段落;基于目标文档段落以及对应的上下文关系,在大语言模型中整理出所述检索信息的问答结果。
技术关键词
问答方法 注意力 层级 大语言模型 数据 关系 自然语言理解技术 文本段落 检索算法 深度优先搜索算法 文本生成图像 节点 标识符 元素 格式化 生成表格