四家大模型顶流罕见同台：Scaling Law和AGI定义，都不是共识
四家大模型顶流罕见同台：Scaling Law和AGI定义，都不是共识AGI太遥远，只有模型降价是共识。
来自主题: AI资讯
9001 点击 2024-06-16 11:47
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
AGI太遥远，只有模型降价是共识。
智源研究院公布大模型全家桶及全栈开源技术基座全新版图。
创造数字世界的能力，对于中小企业而言至关重要。
什么是 AGI？大模型和 Scaling Law 是其实现基座吗？怎么看价格战？四家大模型公司给出了自己的答案。
训练数据的数量和质量，对LLM性能的重要性已经是不言自明的事实。然而，Epoch AI近期的一篇论文却给正在疯狂扩展的AI模型们泼了冷水，他们预测，互联网上可用的人类文本数据将在四年后，即2028年耗尽。
才用了112台A800，就能训出性能达GPT-4 90%的万亿参数大模型？智源的全球首个低碳单体稠密万亿参数大模型Tele-FLM，有望解决全球算力紧缺难题！此外，全新思路的原生多模态「世界模型」Emu 3等都浅亮相了一把。2024的智源大会，依然是星光熠熠，学术巨佬含量超标。
陶哲轩在最新的采访中，系统地谈到了AI可能会对数学领域产生的影响。他乐观地认为，使用Lean等工具「形式化」数学，在AI的辅助下实现规模化生产——一次证明数百或数千条定理。但他也审慎地预测，数学问题在短期内不会像国际象棋一样被「解决」，但有可能会提高人类科学家的洞察力。
刚刚，英伟达全新发布的开源模型Nemotron-4 340B，有可能彻底改变训练LLM的方式！从此，或许各行各业都不再需要昂贵的真实世界数据集了。而且，Nemotron-4 340B直接超越了Mixtral 8x22B、Claude sonnet、Llama3 70B、Qwen 2，甚至可以和GPT-4掰手腕！
人类的教育方式，对大模型而言也很适用。
一年一度的国内「AI 春晚」—— 智源大会又一次拉开了序幕。