AI安全新漏洞：一首诗就能攻破顶级大模型？
AI安全新漏洞：一首诗就能攻破顶级大模型？如果你想恶意攻击一个大语言模型（LLM），比如 Gemini 或者 Deepseek，你会怎么做？
来自主题: AI资讯
6699 点击 2025-11-24 10:44
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
如果你想恶意攻击一个大语言模型（LLM），比如 Gemini 或者 Deepseek，你会怎么做？
前沿AI竞赛在2025年11月达到高潮。48小时内，谷歌推出Gemini 3 Pro宣称在主要推理基准测试中领先，而OpenAI立即用GPT-5.1-Codex-Max反击，这是一款专门训练用于通过创新"压缩"（compaction）技术自主工作超过24小时的专业编码模型[43]。加上Claude Sonnet 4.5已确立的编码统治地位和激进的安全过滤器，开发者面临前所未有的选择：
无需重新训练，也能一键恢复模型的安全意识了。
做过独立开发的朋友都清楚，虽然现在 AI 已经能写出相当不错的前端，后端也有成熟的 BaaS 服务，但应用开发并不仅仅只是写份代码。
从智能手表到TWS耳机，从扫地机器人到AR眼镜，越来越多搭载AI功能的小型设备开始要求本地推理能力。它们不需要千亿参数的大模型，但必须低功耗、实时响应、隐私安全。这催生了一个被长期忽视却至关重要的需求：高性能、小体积、低延迟的嵌入式存储。
这一次带来如此新SOTA效果的，是全球首个实现项目级开发的AI IDE——Vinsoo。刚刚，Vinsoo上新Beta 3.0版本，仅用国产大模型（Qwen），就超越了搭载Claude的Cursor、Codex、Claude Code等一众流行AI编程产品。Vinsoo是芸思智能推出的全球首个搭载云端安全Agent编程团队的AI IDE，主打从需求确认到交付验收，AI全流程自动推进项目开发。
新星闪耀！28位学者获1800万美元，华人天才齐上阵。AI2050瞄准AI普惠与安全。一文速览谷歌前CEO看好的AI方向和研究项目。
OpenAI Atlas、Perplexity Comet等AI浏览器的推出，虽提升了网页自动化效率，却也使智能爬虫威胁加剧。南洋理工大学团队研发的WebCloak，创新性地混淆网页结构与语义，打破爬虫技术依赖，为数据安全筑起轻量高效防线，助力抵御新型智能攻击，守护网络安全。
微软AI CEO苏莱曼领导的17名核心高管阵容曝光：新增9名核心成员中有5位来自谷歌（包含DeepMind）系；8名老将中有2名来自苏莱曼共同创办的Inflection AI；17人中有7位是原微软的资深高管。新核心团队将聚焦AI产品落地、安全与隐私、增长与商业化。
刚刚，OpenAI推出了使用GPT-5寻找和修复安全漏洞的智能体Aardvark。目前，Aardvark还处于beta测试阶段。OpenAI称，Aardvark开创了「防御者优先」的新范式：作为自主安全研究智能体，随代码不断演化，为团队提供持续保护（continuous protection）。