在对齐 AI 时，为什么在线方法总是优于离线方法？
在对齐 AI 时，为什么在线方法总是优于离线方法？在线和离线对齐算法的性能差距根源何在？DeepMind实证剖析出炉
来自主题: AI资讯
9469 点击 2024-05-19 16:20
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
在线和离线对齐算法的性能差距根源何在？DeepMind实证剖析出炉
自从 Ilya 和 超级对齐负责人 Jan 离职后，OpenAI 内部还是心散了，后续也有越来越多的人离职，同时也引发了更多的矛盾。
Ilya Sutskever离职内幕曝光，Sam Altman面临信任崩盘。
OpenAI超级对齐负责人Jan Leike，也就是刚刚追随Ilya离开公司的那位，自曝离职的真正原因，以及更多内幕。
Ilya前脚刚离职，OpenAI超级对齐团队负责人Jan Leike，紧接着也官宣了。
今天，OpenAI 联合创始人、首席科学家 Ilya Sutskever 发推宣告离职。
Ilya Sutskever宣布退出OpenAI，震动整个AI圈。
随着深度学习大语言模型的越来越火爆，大语言模型越做越大，使得其推理成本也水涨船高。模型量化，成为一个热门的研究课题。
Richard Sutton 在 「The Bitter Lesson」中做过这样的评价：「从70年的人工智能研究中可以得出的最重要教训是，那些利用计算的通用方法最终是最有效的，而且优势巨大。」
两周前，OpenBMB开源社区联合面壁智能发布领先的开源大模型「Eurux-8x22B 」。相比口碑之作 Llama3-70B，Eurux-8x22B 发布时间更早，综合性能相当，尤其是拥有更强的推理性能——刷新开源大模型推理性能 SOTA，堪称开源大模型中「理科状元」。