一文看尽LLM对齐技术：RLHF、RLAIF、PPO、DPO……
一文看尽LLM对齐技术：RLHF、RLAIF、PPO、DPO……为了对齐 LLM，各路研究者妙招连连。
来自主题: AI技术研报
10976 点击 2024-08-05 14:09
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
为了对齐 LLM，各路研究者妙招连连。
大模型展现出了卓越的指令跟从和任务泛化的能力，这种独特的能力源自 LLMs 在训练中使用了指令跟随数据以及人类反馈强化学习（RLHF）。
利用Pearl AI来探索牙科的未来
网友：学术圈该有的样子！ 现在，arXiv的每篇论文，都能直接提问讨论了！ 只需把URL中的arXiv替换成AlphaXiv，就能对任意一篇论文发布提问或讨论。
Meta、UC伯克利、NYU共同提出元奖励语言模型，给「超级对齐」指条明路：让AI自己当裁判，自我改进对齐，效果秒杀自我奖励模型。
OpenAI 的新奖励机制，让大模型更听话了。
如何让大模型更好的遵从人类指令和意图？如何让大模型有更好的推理能力？如何让大模型避免幻觉？能否解决这些问题，是让大模型真正广泛可用，甚至实现超级智能（Super Intelligence）最为关键的技术挑战。这些最困难的挑战也是吴翼团队长期以来的研究重点，大模型对齐技术（Alignment）所要攻克的难题。
李飞飞创办World Labs，估值超10亿美元。
「AI教母」创业，3个月就干出了估值10亿的AI独角兽。
World Labs被曝已完成2轮融资，最新一轮融资金额约1亿美元。