RLHF到底是不是强化学习？最近，AI大佬圈因为这个讨论炸锅了。和LeCun同为质疑派的Karpathy表示：比起那种让AlphaGo在围棋中击败人类的强化学习，RLHF还差得远呢。
前段时间冲上热搜的问题「9.11比9.9大吗？」，让几乎所有LLM集体翻车。看似热度已过，但AI界大佬Andrej Karpathy却从中看出了当前大模型技术的本质缺陷，以及未来的潜在改进方向。
RLHF 与 RL 到底能不能归属为一类，看来大家还是有不一样的看法。
让模型知道自己擅长什么、不擅长什么是一个很重要的问题。
还记得去年 AI 大牛 Andrej Karpathy 大力宣传的「AutoGPT」项目吗？它是一个由 GPT-4 驱动的实验性开源应用程序，可以自主实现用户设定的任何目标，展现出了自主 AI 的发展趋势。
给全球 80 亿人提供大规模、按需的个性化教育。
80亿人平分不到一个费曼，但可以受教于更多AI教学助理。
离职OpenAI五个月后，AI大神Karpathy终于宣布自创业了。一家专注于AI+教育原生学校Eureka Labs，未来将面向全球80亿人，从0按需辅导AI。从产业界转身教育事业，是Karpathy近20年来的终极梦想，现如愿成真。
论老黄卖铲子的技术含量。
让我们训练一个 Storyteller。
