被OpenAI解雇后，三名安全研究员联名公开信曝光内幕
被OpenAI解雇后，三名安全研究员联名公开信曝光内幕上周，OpenAI 宣布解雇三名员工，理由是内部调查发现三人违反了公司关于敏感信息访问与处理的规定，涉嫌在既定程序之外向第三方 AI 安全评估组织分享机密信息。
来自主题: AI资讯
9368 点击 2026-10-09 16:24
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
搜索
上周，OpenAI 宣布解雇三名员工，理由是内部调查发现三人违反了公司关于敏感信息访问与处理的规定，涉嫌在既定程序之外向第三方 AI 安全评估组织分享机密信息。
Anthropic 发了一篇科学博客：约翰斯·霍普金斯大学的天体物理学家 Brice Ménard（同时也是 Anthropic 的研究员），用自家的科研工作台 Claude Science，做出了第一张完整的全天紫外地图
在与用户的实时对话中，AI能否及时感知情绪？模型给出的“高置信度”结论，又是否经得起推敲？
智能体时代，安全研究不仅要关心模型说了什么，现在还必须进一步回答：它做了什么、为什么这么做，以及这次的执行轨迹是否越过了当前场景明确规定的安全边界。
大模型解短题常能给出流畅答案，推理链一长，却可能每一步都看似合理、终点仍然失效。来自弗吉尼亚理工大学、威斯康星大学麦迪逊分校和达特茅斯学院的研究团队在 NeurIPS2026 论文中提出 SAGE：用符号闭包分析（SCA）解释长推理中的探索偏差与累积偏差，再把这一诊断变成训练时的结构引导。
Anthropic强化学习技术负责人Sholto Douglas预测，能力等于甚至超过所有人类的AGI可能在未来几年内出现，2028年AI年度资本开支或达4万亿美元，而研究员Nick Marwell对AI无需人类搭档后的后果表示紧张。
Anthropic部分早期员工因担忧AI失控开始考虑在美国偏远地区买地避难，这群源自湾区AI安全圈的研究者也因风险判断不同而选择留下或离开。
一位北大数学系校友认为，OpenAI和Anthropic借AI高调宣传数学突破，可能误导公众并打击青年学习数学的热情，学界仍应支持人类数学研究与公平成果归属。
来自上海创智学院、复旦大学、伦敦国王学院与牛津大学等机构的研究团队推出SocioVerse2，将大模型社会模拟扩展为可干预、可迭代、可回溯的开源社会科学研究框架。
Harvey联合创始人Gabe Pereyra表示，AI应用公司不必与大模型公司比拼资金和算力，可借助真实任务评测、领域专家、开源模型和外部研究团队建立持续学习能力。