基于大模型和用户信息检索增强的轻量化对话推荐方法

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
基于大模型和用户信息检索增强的轻量化对话推荐方法
申请号:CN202411054962
申请日期:2024-08-02
公开号:CN118981568A
公开日期:2024-11-19
类型:发明专利
摘要
本发明公开了一种基于大模型和用户信息检索增强的轻量化对话推荐方法,包括如下步骤:步骤1、构建数据集,所述数据集中包括用户对话,以及用户的基础信息;步骤2、针对原始RAG模型,根据RAG模型的运行原理采用检索以及生成的联合训练方法训练RAG模型;步骤3、将用户的基础信息作为输入通过完成训练的RAG模型得到该用户的初步推荐信息;步骤4、使用用户的初步推荐信息和其他用户信息,对初始大语言模型进行轻量化微调,得到目标大语言模型;步骤5、应用目标大语言模型生成最终的推荐内容。该方法采用RAG来获得初步的推荐内容,并且使用该推荐内容来定向增强大语言模型的微调效果,就可以让大语言模型在较少数据量下获得更好的微调效果。
技术关键词
对话推荐方法 信息检索 大语言模型 联合训练方法 历史交互信息 基础 数据 文本 策略