一种基于增量解析的受限自回归解码方法、系统及介质

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
一种基于增量解析的受限自回归解码方法、系统及介质
申请号:CN202411827829
申请日期:2024-12-11
公开号:CN119669268A
公开日期:2025-03-21
类型:发明专利
摘要
本发明公开了一种基于增量解析的受限自回归解码方法、系统及介质,该方法包括:对于给定的Text‑to‑SQL任务,将输入的自然语言查询问题和相应的数据库模式进行格式化和编码;采用大语言模型生成SQL查询;根据模型预测的log‑softmax分数和当前假设的令牌来调整分数,在SQL的每个令牌的生成步骤中,对候选令牌进行增量解析,以检查它们是否符合SQL的语法和语义规则;通过预先设置的不同检查模型对生成的SQL查询进行有效性检查;对未通过检查的令牌被赋予负无穷的分数,在束搜索中被排除,通过检查的有效SQL查询序列进行输出、评估与优化。本发明能有效提升语言模型的执行精度。
技术关键词
令牌 解码方法 解码程序 受限 自然语言 语义规则 格式化 序列 大语言模型 编码 分词方法 可读存储介质 解码系统 处理器 模式 有效性 文本 关键字 标识符