一种基于多轮RAG技术的大语言模型提示词工程方法及系统
申请号:CN202510002052
申请日期:2025-01-02
公开号:CN119761521A
公开日期:2025-04-04
类型:发明专利
摘要
本发明提供一种基于多轮RAG技术的大语言模型提示词工程方法及系统,属于人工智能大语言模型领域,本发明通过构造一组包含背景知识、行业特有知识、初步推理结果的提示词,将这组提示词输入训练参数规模较低的、尚未进行行业特有知识微调训练的大模型,可以显著提升推理结果涵盖的知识范围、召回率(Recall)、精确率(Precision)和F1分数(F1 Score),从而实现同等推理结果的前提下,使用更低参数规模、计算资源消耗更少的大模型,实现了大模型使用成本的降低;所述的方法及系统包括提示词构造步骤和一个低算力消耗的大模型问答系统,所述的低算力消耗的大模型问答系统包括:预训练大语言模型、问答系统应用软件和运行这些程序和软件的低成本通用个人计算机。
技术关键词
问答系统
自然语言文本
大语言模型
生成控制器
机器学习算法
索引
低成本
模块
分段
计算机
字词
词语
软件
数值
数学
模板
界面
框架