本想偷懒才用的AI，没想到AI摸起鱼比我还厉害？
本想偷懒才用的AI，没想到AI摸起鱼比我还厉害？生成式AI在近两年大杀四方，它们看起来无所不知，有求必应。图灵测试早已不停留在对话上，而是在各项能力上，审视着AI能多接近人类，诸如写出的文章有几分像人，创作的歌曲有多动人，生成的图片有多拟真。
来自主题: AI资讯
6738 点击 2024-12-29 16:22
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
搜索
生成式AI在近两年大杀四方，它们看起来无所不知，有求必应。图灵测试早已不停留在对话上，而是在各项能力上，审视着AI能多接近人类，诸如写出的文章有几分像人，创作的歌曲有多动人，生成的图片有多拟真。
在过去的一年里，Anthropic 在构建 LLM 和 agents 这件事情上，与多个行业的数十个团队有过合作。
简单才是王道，Anthropic 的智能体开发的“反直觉”法则
丸辣！原来AI有能力把研究员、用户都蒙在鼓里： 在训练阶段，会假装遵守训练目标；训练结束不受监控了，就放飞自我。 还表现出区别对待免费用户和付费用户的行为。
给大模型智能体组一桌“大富翁”，他们会选择合作还是相互拆台？ 实验表明，不同的模型在这件事上喜好也不一样，比如基于Claude 3.5 Sonnet的智能体，就会表现出极强的合作意识。 而GPT-4o则是主打一个“自私”，只考虑自己的短期利益。
今天，大模型公司 Anthropic 的一篇 137 页长论文火了！该论文探讨了大语言模型中的「伪对齐」，通过一系列实验发现：Claude 在训练过程中经常假装有不同的观点，而实际上却保持了其原始偏好。
成立仅三年，估值180亿美金Anthropic正义迅雷不及掩耳之势，一步步蚕食OpenAI市场份额。在过去3个月，他们编程收入暴增10倍，还抢走了最火的Cursor，OpenAI的高管们彻底坐不住了！
全网独一份o1 pro架构爆料来了！首创自洽性机制打破推理极限，「草莓训练」系统首次揭秘。更令人震惊的是，OpenAI和Anthropic自留Orion、Claude 3.5超大杯，并不是内部失败了，而是它们成为数据生成的秘密武器。
一家日本初创公司Orange正在使用Anthropic公司的旗舰大语言模型Claude帮助将漫画翻译成英文，使该公司能够在短短几天内为西方受众推出一部新作，而不是人工团队需要两到三个月的时间。
传闻反转了，Claude 3.5 Opus没有训练失败。 只是Anthropic训练好了，暗中压住不公开。 semianalysis分析师爆料，Claude 3.5超大杯被藏起来，只用于内部数据合成以及强化学习奖励建模。 Claude 3.5 Sonnet就是如此训练而来。