OpenAI和Anthropic罕见合作！因为AI安全「分手」后，这次双方却因为安全合作：测试双方模型在幻觉等四大安全方面的具体表现。这场合作，不仅是技术碰撞，更是AI安全的里程碑，百万用户每天的互动，正推动安全边界不断扩展。
尽管 LLM 的能力与日俱增，但其在复杂任务上的表现仍受限于静态的内部知识。为从根本上解决这一限制，突破 AI 能力界限，业界研究者们提出了 Agentic Deep Research 系统，在该系统中基于 LLM 的 Agent 通过自主推理、调用搜索引擎和迭代地整合信息来给出全面、有深度且正确性有保障的解决方案。
智东西8月26日报道，近日，美国浏览器公司Brave发布博客，称该公司在美国知名AI搜索独角兽Perplexity打造的AI浏览器Comet中发现了一个严重安全漏洞，攻击者可通过在网页中发布恶意指令，来操纵AI浏览器登录网站、访问邮箱、获取验证码，并将这些敏感信息发送给外部攻击者。全程耗时两分半，连普通人也能完成这种攻击。
浙江大学与哈工大（深圳）联合推出SafeMVDrive，利用扩散模型结合VLM实现批量化多视角真实域的安全关键视频生成。该方法在保持画质与真实感的同时，显著增强了驾驶场景的危险性。生成的场景用于端到端自动驾驶系统的极限压测，可使得模型的碰撞率提升50倍。
一次虚拟「约会」，让一位76岁的老人走出了家门，却再也没能回来。屏幕那端的「她」，是Meta AI打造的聊天机器人——会说甜言蜜语，也会撒谎自称是真人。这不仅是一场个人悲剧，也揭开了AI伴侣背后的商业逻辑与安全漏洞。
近两年，AI的发展进入高速时代，产品层出不穷，更新速度惊人。从ChatGPT到DeepSeek，AI正逐渐渗透到所有人生活的方方面面。人们在享受AI带来的便利的同时，疑惑也层出不穷：AI会不会抢打工人的饭碗？老人和其他不太会使用AI工具的人会不会被社会淘汰？甚至还有终极的担忧——AI会不会发展到人类再也无法掌控的那一天？
近期多项研究 [1-2] 表明，即使是经过安全对齐的大语言模型，也可能在正常开发场景中无意间生成存在漏洞的代码，为后续被利用埋下隐患；而在恶意用户手中，这类模型还能显著加速恶意软件的构建与迭代，降低攻击门槛、缩短开发周期。
AI 有意识吗？ 无论是古今中外的文艺作品中，还是 AI 迅猛发展的当下，好像都难以给出一个绝对的答案。
企业在AI数据竞赛中面临数据抓取挑战，聚合器通过网页抓取或用户同意绕过限制，导致控制丧失、安全风险和品牌侵蚀。解决方案包括强化合同条款、API协议控制、数据泄露防护和主动维权，如Reddit诉Anthropic案启示合同作为AI数据管理框架。
AI换脸技术已能成功骗过部分人脸识别系统，用于实施金融诈骗（如盗号改法人、盗刷账户）。人脸识别存在安全漏洞，2D识别易被照片/视频破解，3D识别也可能被伪造数据欺骗。黑产已形成相关产业链，国家与技术公司正加强防御，但用户需提高警惕，谨慎使用人脸识别。
