
Ilya预言错了!华人Nature一作给RLHF「判死刑」,全球大模型都不可靠
Ilya预言错了!华人Nature一作给RLHF「判死刑」,全球大模型都不可靠2022年,AI大牛Ilya Sutskever曾预测:「随着时间推移,人类预期和AI实际表现差异可能会缩小」。
来自主题: AI资讯
3249 点击 2024-09-29 16:18
2022年,AI大牛Ilya Sutskever曾预测:「随着时间推移,人类预期和AI实际表现差异可能会缩小」。
“通用人工智能(AGI)的设计和开发,需要进行根本性改变。” 人工智能(AI)模型的参数规模越大,生成的答案就越准确?就更加可信? 还真不一定!
成立不到半年时间,李飞飞创办的 World Labs 融资超过 3 亿,估值超过 10 亿美元,成为新的 AI 独角兽。
LLM说起谎来,如今是愈发炉火纯青了。 最近有用户发现,OpenAI o1在思考过程中明确地表示,自己意识到由于政策原因,不能透露内部的思维链。
虽然 RLHF 的初衷是用来控制人工智能(AI),但实际上它可能会帮助 AI 欺骗人类。
不久之前,李飞飞教授的空间智能创业公司 World Labs 以及全明星的创业阵容正式亮相。 随后,李飞飞与另一位联合创始人 Justin Johnson 接受了 a16z 的专访。
OpenAI的self-play RL新模型o1最近交卷,直接引爆了关于对于self-play的讨论。
李飞飞新创企结束隐身
黄仁勋,投了李飞飞
Self-play RL 开启 AGI 下半场