AI资讯新闻榜单内容搜索-安全

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
搜索: 安全
北航领衔发布300页代码智能综述:从基础模型到智能体,一次读懂Code LLM全景图

北航领衔发布300页代码智能综述:从基础模型到智能体,一次读懂Code LLM全景图

北航领衔发布300页代码智能综述:从基础模型到智能体,一次读懂Code LLM全景图

这篇学术论长文由北京航空航天大学复杂关键软件环境全国重点实验室领衔。《From Code Foundation Models to Agents and Applications》一文是对过去几年代码智能领域的一次系统梳理:模型、任务、训练、智能体、安全与应用都被串联成了一条完整、连贯的技术链路。

来自主题: AI技术研报
8091 点击    2025-12-06 10:54
斯坦福用一句Prompt就结束了提示工程。。。

斯坦福用一句Prompt就结束了提示工程。。。

斯坦福用一句Prompt就结束了提示工程。。。

最近口述采样很火。如果您经常使用经过“对齐”训练(如RLHF)的LLM,您可能已经注意到一个现象:模型虽然变得听话、安全了,但也变得巨“无聊”。

来自主题: AI技术研报
5607 点击    2025-12-04 10:25
MIT模拟1.5亿打工人:程序员竟是安全?AI首波「血洗」1.2万亿白领薪资!

MIT模拟1.5亿打工人:程序员竟是安全?AI首波「血洗」1.2万亿白领薪资!

MIT模拟1.5亿打工人:程序员竟是安全?AI首波「血洗」1.2万亿白领薪资!

都在聊AI会取代谁,有人说是程序员,有人说是UI设计师和插画师。但MIT最近的一项重磅研究告诉我们:我们看到的只是「冰山一角」,广大白领才是最可能被取代的第一波人。

来自主题: AI资讯
7113 点击    2025-12-01 15:11
终结OpenAI垄断的11人

终结OpenAI垄断的11人

终结OpenAI垄断的11人

估值飙升至3500亿美元,Claude Opus 4.5强势登顶企业级市场,Anthropic正式终结了OpenAI的独角戏时代。从Instagram创始人到OpenAI的「决裂者」,这11位顶尖人物组成了硅谷最豪华的「复仇者联盟」。他们用一场惊天逆袭证明,在通往AGI的狂飙突进中,对安全的极致坚守才是最深的护城河。

来自主题: AI资讯
7303 点击    2025-12-01 10:43
速递|成立五年的AI安全初创公司Veza,拟超10亿美元被ServiceNow收购

速递|成立五年的AI安全初创公司Veza,拟超10亿美元被ServiceNow收购

速递|成立五年的AI安全初创公司Veza,拟超10亿美元被ServiceNow收购

Veza 的订阅软件帮助企业了解其员工以及自动化软件任务的 AI Agent对特定客户或公司数据的访问权限,以及他们能对这些数据做什么。ServiceNow 一直在加强其 AI Agent相关的产品,这些产品旨在自动化客户服务和响应IT 帮助台请求等任务。

来自主题: AI资讯
7654 点击    2025-11-30 11:26
AI生成的“末日安全屋”,每晚正陪着年轻人入睡

AI生成的“末日安全屋”,每晚正陪着年轻人入睡

AI生成的“末日安全屋”,每晚正陪着年轻人入睡

窗外是极端天气,看上去不适合出门。房间内点着一团噼啪作响的篝火,角落里还有充足的物资来捱过这个冬天……这里看起来像是世界末日场景下的庇护所,在每天晚上,你都能在抖音和B站的直播间内找到这些由AI生成的安全屋实景视频,它们正陪伴着很多人,度过一个又一个不眠之夜。

来自主题: AI资讯
7200 点击    2025-11-29 09:55
上线24小时就被黑!曝谷歌新AI编程工具存在严重Bug:哪怕卸载重装,后门仍会「自动复活」

上线24小时就被黑!曝谷歌新AI编程工具存在严重Bug:哪怕卸载重装,后门仍会「自动复活」

上线24小时就被黑!曝谷歌新AI编程工具存在严重Bug:哪怕卸载重装,后门仍会「自动复活」

如果说过去一年里,AI 让开发者生产力翻倍,那么如今它也开始以同样的速度放大风险。 上周,Google 刚刚推出的基于 Gemini 的全新 AI 编码工具 Antigravity,上线不到 24 小时便被一名安全研究员攻破,指出它存在严重的安全Bug。

来自主题: AI资讯
7600 点击    2025-11-28 21:03
念首诗,就能让AI教你造核弹!Gemini 100%中招

念首诗,就能让AI教你造核弹!Gemini 100%中招

念首诗,就能让AI教你造核弹!Gemini 100%中招

最新研究发现,只要把恶意指令写成一首诗,就能让Gemini和DeepSeek等顶尖模型突破安全限制。这项针对25个主流模型的测试显示,面对「诗歌攻击」,百亿美金堆出来的安全护栏瞬间失效,部分模型的防御成功率直接归零。最讽刺的是,由于小模型「读不懂」诗里的隐喻反而幸免于难,而「有文化」的大模型却因为过度解读而全线破防。

来自主题: AI资讯
8002 点击    2025-11-25 15:31
特朗普按下「创世纪」核按钮,AI曼哈顿计划正式启动!

特朗普按下「创世纪」核按钮,AI曼哈顿计划正式启动!

特朗普按下「创世纪」核按钮,AI曼哈顿计划正式启动!

特朗普正式签署「创世纪计划」,打响AI版「曼哈顿计划」!核心任务由美国能源部挂帅,集结举国超算资源与联邦数据,誓打造「美国科学与安全平台」。剑指核聚变、芯片、生物技术等六大命门,勒令9个月内构建AI科研闭环。

来自主题: AI资讯
7959 点击    2025-11-25 12:18
AAAI 2026 Oral | 通过视觉安全提示与深度对齐实现大型视觉语言模型的安全对齐

AAAI 2026 Oral | 通过视觉安全提示与深度对齐实现大型视觉语言模型的安全对齐

AAAI 2026 Oral | 通过视觉安全提示与深度对齐实现大型视觉语言模型的安全对齐

随着大型视觉语言模型在多个下游任务的广泛应用,其潜在的安全风险也开始快速显露。研究表明,即便是最先进的大型视觉语言模型,也可能在面对带有隐蔽的恶意意图的图像 — 文本输入时给出违规甚至有害的响应,而现有的轻量级的安全对齐方案都具有一定的局限性。

来自主题: AI技术研报
7741 点击    2025-11-25 09:30