Anthropic让AI先读员工手册再上岗：失控率从54%降到7%
Anthropic让AI先读员工手册再上岗：失控率从54%降到7%Anthropic最新研究让AI先读懂规范背后的意义，再接受行为示范，在特定实验中将Agent失控率从54%压到7%。
来自主题: AI资讯
5333 点击 2026-05-07 15:03
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
搜索
Anthropic最新研究让AI先读懂规范背后的意义，再接受行为示范，在特定实验中将Agent失控率从54%压到7%。
当Agent开始真正进入生产环境，安全问题不再是「功能模块」，而是贯穿调用链、运行时与生态层的系统性风险。过去依赖提示词规则、日志审计与框架级防护的方式，正在逐步失效。来自清华大学人工智能学院、交叉信息研究院的方寸跃迁提出一套面向Agent运行全生命周期的多层安全体系。
在对多位内部开发者的采访中得知，这个模型的研发已被叫停。LPM 1.0 并非仍在推进的核心项目，而是视频团队对过去一年工作成果的集中汇报——既是对外展示，也是对内总结。该视频团队由“童姥”（ 前微软亚研院首席研究员童欣） 带领， AilingZeng做Tech Lead，作者中近半数来自 Anuttacon内部，蔡浩宇本人并未直接参与模型研发。
AI最好的用途，是改善人类健康。 如果真正把这项技术用在科学和医学上，它不仅能解决今天最难的研究问题，也会打开药物发现和疾病理解的一整串下游可能性。
在具身智能研究中，如何让智能体精准理解周围环境的精细几何结构与开放语义信息，始终是具身感知的核心难题。近年来，语义占据预测（Semantic Occupancy Prediction） 将稠密几何与语义信息统一到三维体素网格中，用于构建 3D 语义占据地图，为机器人的空间推理、导航与交互操作提供了场景表达基础。
2026年，一群AI研究者给模型制造了毒品。 没错，论文中就叫毒品——AI Drugs。 他们生成了一些256×256像素的图片，这些我们看着全是毫无意义的色块。但AI看了之后表现得近乎狂喜——它自己报告的幸福感飙到6.5/7。
自学习 AI 的融资神话，正在告诉我们一件事——这场 AI 军备竞赛，连研究员本身都要被「卷」进去了。 作者｜桦林舞王 编辑｜靖宇 1956 年，一批科学家聚在达特茅斯，第一次正式讨论「机器能否思考」
斯坦福大学宣布：将旗下两大AI与数据科学组织——Stanford HAI（以人为本人工智能研究院）和Stanford Data Science（斯坦福数据科学）合并为一个统一机构，名称保留Stanford HAI，由计算机科学家James Landay全面掌舵。
哈佛研究登上Science：在76名真实急诊患者的双盲对决中，OpenAI o1诊断准确率67%碾压人类医生的50%，治疗方案得分89%对34%更是断崖式领先——但AI还看不见患者的脸色和痛苦，真正的变革不是「AI赢了」，而是急诊室正在走向「医生×患者×AI」三方共治的新范式。
近日，由普林斯顿大学 Tri Dao（FlashAttention 的一作）和加州大学伯克利分校 Ion Stoica 领导的一个联合研究团队也做出了一个超快的索尼克：SonicMoE。据介绍，SonicMoE 能在英伟达 Blackwell GPU 上以峰值吞吐量运行！并且运算性能超过了 DeepSeek 之前开源并引发巨大轰动的 DeepGEMM。