站在AGI的大门前，为何我们开始感到恐惧？
站在AGI的大门前，为何我们开始感到恐惧？谁曾想到，一场惊动整个科技圈的内斗大戏，起因竟是一封信。据路透社透露，在Sam Altman遭解雇之前，曾有OpenAI的研究人员向该公司董事会发出举报信，警告一种强大的人工智能可能会威胁到人类。
来自主题: AI资讯
6480 点击 2023-11-25 22:50
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
谁曾想到，一场惊动整个科技圈的内斗大戏，起因竟是一封信。据路透社透露，在Sam Altman遭解雇之前，曾有OpenAI的研究人员向该公司董事会发出举报信，警告一种强大的人工智能可能会威胁到人类。
传闻中OpenAI的Q*，已经引得AI大佬轮番下场。AI2研究科学家Nathan Lambert和英伟达高级科学家Jim Fan都激动的写下长文，猜测Q*和思维树、过程奖励模型、AlphaGo有关。人类离AGI，已是临门一脚了？
最新发布的AI模型Inflection-2在各项基准测试中表现出色，仅次于OpenAI的GPT-4，但性能超越了谷歌和Meta的主流替代方案。Inflection-2的参数量达到1750亿，被认为是当今世界上第二强的大模型。
Hugging Face作为开源AI社区的代表，总结了社区最欢迎的前15个公司和机构。让我们看看在开源社区眼里，哪些机构对于开源AI贡献最大。
在科技圈还在为OpenAI所贡献出的年度大戏唏嘘不已时，中国的互联网云厂商们正在经历着新一轮的变化。近期阿里云、百度云与腾讯云纷纷拿出了自己的三季度成绩单，利润端的提升成为亮点。于此同时，中止分拆后的阿里云调整最新的组织架构，以适应阿里巴巴新CEO吴泳铭口中的「AI驱动、公共云优先」的战略。
本文探讨了AI对齐在OpenAI公司中被忽视的一部分，以及AI对齐在大模型训练中的重要性和影响。文章揭示了OpenAI内部因AI对齐而产生的分歧，并阐述了AI对齐在保证AI按照人类意图和价值观运作方面的作用。同时，文章指出AI对齐在大模型训练中存在的性能阉割和对齐税等问题，以及AI对齐在大模型发展中的隐藏模型和重要性。
连续五天的OpenAI管理层冲突及谈判后，Sam Altman最终回归OpenAI。但皆大欢喜之际，是时候聊聊这次事件的另外一边声音了：OpenAI技术灵魂人物Ilya Sutskeve对AI安全的恐惧和他对技术发展的信念。
本文从Sam Altman离开OpenAI、再次加入OpenAI的事件出发，探讨了AI发展的暗面。文章指出，当理想极端化时，可能成为实现其威胁的最大因素；暗箱操作和阴谋对整个组织不利；自底向上的纠错机制对AI发展至关重要；AI“执剑人”需要新的机制和制衡。文章预测Sam Altman重回OpenAI将推动其崛起。
马斯克爆料OpenAI前员工举报信指控Altman和Greg的不当行为，要求董事会进行调查。信件中指出他们的七大罪行，包括欺骗、剥削资源和缺乏透明度等。OpenAI因内部纷争而岌岌可危，服务也受到影响。
OpenAI开发者大会后不久，它的最强竞对Claude也宣布推出了重磅更新。更新后的Claude 2.1，上下文长度直接翻番到20万，重新超过了GPT-4。