一种广义回归策略优化大模型强化学习实现对话生成的方法

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
一种广义回归策略优化大模型强化学习实现对话生成的方法
申请号:CN202510956507
申请日期:2025-07-11
公开号:CN120875031A
公开日期:2025-10-31
类型:发明专利
摘要
本发明公开一种广义回归策略优化大模型强化学习实现对话生成的方法,涉及大模型及强化学习应用技术领域;包括:步骤1:选取预训练语言模型作为初始化策略网络πθ,其中θ表示模型参数集合,步骤2:收集反馈数据,其中获取对模型生成结果的偏好标注,用于定义强化学习的奖励函数,步骤3:利用反馈数据定义奖励函数;步骤4:进行经验采样与轨迹收集,并使用优势函数估计每个动作的优势值,用于模型执行对话生成,步骤5:构造GRPO目标函数,步骤6:优化更新策略参数,步骤7:动态调节超参数,进行对模型迭代训练直至收敛,步骤8:利用模型进行对话生成。
技术关键词
策略 预训练语言模型 广义 定义 超参数 动态 模块 轨迹 数据 生成动作 图像匹配 网络 多模态 摘要 语义 语音 因子 指标 阶段