对话田渊栋:Scaling law代表一个非常悲观的未来
对话田渊栋:Scaling law代表一个非常悲观的未来Scaling law发展到最后,可能每个人都站在一个数据孤岛上。
来自主题: AI资讯
9112 点击 2024-06-03 17:23
搜索
Scaling law发展到最后,可能每个人都站在一个数据孤岛上。
媒体与科技平台所谓的第三次大战里,OpenAI几乎已经不战而胜。
英伟达是今天生成式AI浪潮里最大的赢家,而黄仁勋要告诉世界,这一切跟运气无关,是英伟达预见并用实力创造了今天的一切。
除了OpenAI自己,居然还有别人能用上GPT-4-Base版??
改进Transformer核心机制注意力,让小模型能打两倍大的模型!
无情戳穿“长上下文”大模型的虚标现象
我是万万没想到,现在的AI内容生态,居然也活成了一种“赛博投喂”的无限循环。
工业革命就注定会有钢铁、石油、铁路巨头。互联网也注定会有搜索、电商、即时通讯。历史性变革催生历史性机会,而这种历史性机会往往内置技术的特征。技术特征决定了机会是什么,甚至也决定了机会的先后。
多模态,已经成为大模型最重要的发展方向之一。
首个“脑PU”来了!由“16核”类人脑器官(human brain organoids)组成。