基于本地知识库的大模型LLaMA3微调知识问答对话系统

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
基于本地知识库的大模型LLaMA3微调知识问答对话系统
申请号:CN202510105477
申请日期:2025-01-23
公开号:CN120067249A
公开日期:2025-05-30
类型:发明专利
摘要
本发明提供了一种基于本地知识库的大模型LLaMA3微调知识问答对话系统,属于知识问答对话技术领域,包括:LLaMA3大模型参数获取模块,用于获取LLaMA3大模型参数;低秩分解技术构建模型建立模块,用于建立低秩分解技术构建模型;模型训练模块,用于训练所述低秩分解技术构建模型;本地知识库构建模块,用于构建本地知识库;训练模型微调模块,用于微调训练模型;模型评估模块,用于评估模型;模型部署模块,用于部署模型。本发明所提供的设备可以根据根据大模型基模,采集本地知识库,构造大模型微调,通过本地知识库对模型进行训练、测试和评估,实现本地知识库的精准问答文本的生成,从而可以降低大模型复杂的高成本的模型预训练,快速获得较好的模型结果。
技术关键词
对话系统 模型训练模块 神经网络模型 序列 正确率 人工智能平台 强化学习框架 数据 问答知识库 参数 模型预训练 预训练模型 文本 人类 注意力机制 多任务 适配器 基础 样本