AI资讯新闻榜单内容搜索-行为校准强化学习

关键词: AI幻觉抑制,模型训练,行为校准强化学习

大语言模型（LLM）的幻觉问题一直是阻碍其在关键领域部署的核心难题。近日，研究人员提出了一种名为行为校准强化学习（Behaviorally Calibrated Reinforcement Learning）的新方法，通过重新设计奖励函数，让模型学会「知之为知之，不知为不知」。