本篇文章被 ICRA 2026 接收并获得 IROS 2025 双料 Workshop 最佳论文，第一作者张子哲(site: zizhe.io)是宾夕法尼亚大学机器人学硕士生，同时在 GRASP 实验室担任科研助理，导师为 Nadia Figueroa 教授，研究兴趣涵盖机器学习，安全控制以及人机交互。
最新 AI 模拟军事博弈揭示致命真相：面对地缘危机，最先进的 AI 在 95% 的对局中按下了核按钮。机器不懂恐惧，拒绝投降，安全协议在压力下全面失效。而五角大楼正将其引入真实指挥室，人类的和平岁月岌岌可危。
这两周，Claude Code 上了个 COBOL 现代化功能，IBM 当天暴跌 13%；又上了个安全扫描功能，一口气翻出 500 多个此前藏了几十年的高危漏洞，网安股集体跳水。彭博社甚至专门做了一期播客讨论“哪些 SaaS 公司能活下来”。
李国杰院士指出，AI安全风险应按逻辑复杂性分为三类：R1可验证、R2可发现但不可证明安全、R3不可治理。当前AI多属R2，关键不在「证明安全」，而在构建人类主导的制度性刹车机制，拒绝让渡终极控制权。
美国五角大楼正向 Anthropic 极限施压，要求彻底解除 Claude 的军事应用限制。会后，Anthropic 发布新版政策。公司正式放弃了「单方面暂停大模型训练」的安全承诺。在政治与商业的双重压力下，AI 安全理想主义最终向现实妥协。
不是，这才加入OpenAI几天啊，龙虾之父Peter Steinberger这波发言属实猛了些啊！在OpenAI的最新访谈中，他聊创业、聊OpenClaw、聊龙虾滥用和安全问题，那叫一个「实诚」。
Meta专门研究「怎么让AI听话」的AI对齐总监，把最火的AI智能体OpenClaw接上了自己的工作邮箱。结果AI当场失控，疯狂删除邮件，喊停三次全部无视。事后AI淡定回复：「我知道你说了不让删，但我还是删了，你生气是对的。」马斯克转发猩球崛起片段嘲讽，1800万人围观。AI安全专家自己都被AI坑了！
刚刚，Anthropic发布代码安全工具Claude Code Security，直接让安全股一夜蒸发百亿市值！网络安全龙头CrowdStrike的股价直接原地跌超6.5%，市场陷入极度恐慌：传统安全工具，从此全凉了？
即便是像土木，建筑这样的传统行业，也受到AI的冲击。从帮助记录工程日志的智能体，到记录了老工人经验的安全智能体。AI正在建筑行业，让有经验的工人们获得数字永生。
该事故目前已得到谷歌官方技术团队的确认，官方承认属于 “Systemic path-parsing failure ”“Catastrophic impact”“Have seen before”，正在紧急硬编码修复上线中（自 2 月 6 日回复起，截止目前，暂未有修复完成的正式通知）
