多模态大模型存在「内心预警」，无需训练，就能识别越狱攻击
多模态大模型存在「内心预警」，无需训练，就能识别越狱攻击多模态大模型崛起，安全问题紧随其后 近年来，大语言模型（LLMs）的突破式进展，催生了视觉语言大模型（LVLMs）的快速兴起，代表作如 GPT-4V、LLaVA 等。
来自主题: AI技术研报
8155 点击 2025-07-22 09:55
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
多模态大模型崛起，安全问题紧随其后 近年来，大语言模型（LLMs）的突破式进展，催生了视觉语言大模型（LVLMs）的快速兴起，代表作如 GPT-4V、LLaVA 等。
近日，月之暗面(Moonshot AI)正式发布了其万亿参数开源大模型Kimi K2，这一具有里程碑意义的AI模型凭借其创新的MoE架构和强大的Agentic能力迅速获得全球开发者关注。然而，随着用户量激增，部分开发者开始反映其API服务响应速度不尽如人意。面对这一情况，月之暗面于7月15日迅速作出官方回应，坦诚当前服务延迟问题，并详细说明了优化方案。
近日，生物技术公司Pathos AI宣布完成3.65亿美元的D轮融资，融资后估值约为16亿美元。本轮资金将用于支持公司临床阶段产品线的推进，并持续投资于其专为肿瘤学构建的专有人工智能基础模型。
LLM太谄媚！ 就算你胡乱质疑它的答案，强如GPT-4o这类大模型也有可能立即改口。
7月2日，一个跨国团队在Nature杂志发表了一项开创性研究，宣称其推出的AI系统能够“模拟人类心智”。该系统在实验中可以“扮演”人类，生成逼真的人类行为。
今年 5 月，有研究者发现 OpenAI 的模型 o3 拒绝听从人的指令，不愿意关闭自己，甚至通过篡改代码避免自动关闭。类似事件还有，当测试人员暗示将用新系统替换 Claude Opus 4 模型时，模型竟然主动威胁程序员，说如果你换掉我，我就把你的个人隐私放在网上，以阻止自己被替代。
大模型有苦恼，记性太好，无法忘记旧记忆，也区分不出新记忆！基于工作记忆的认知测试显示，LLM的上下文检索存在局限。在一项人类稳定保持高正确率的简单检索任务中，模型几乎一定会混淆无效信息与正确答案。
基于Qwen2.5架构，采用DeepSeek-R1-0528生成数据，英伟达推出的OpenReasoning-Nemotron模型，以超强推理能力突破数学、科学、代码任务，在多个基准测试中创下新纪录！数学上，更是超越了o3!
理想汽车车载大模型荣获由CCIA汽车网络安全工作委员会颁发的《生成内容安全测评证书》，及人工智能生成合成内容标识服务平台颁发的《生成合成内容标识报告》，成为国内首批通过GB/T 45654、GB 45438-2025双国标认证的车企
随着基础大模型在通用能力上的边际效益逐渐递减、大模型技术红利向产业端渗透，AI的技术范式也开始从原来的注重“预训练”向注重“后训练”转移。后训练（Post-training），正从过去锦上添花的“调优”环节，演变为决定模型最终价值的“主战场”。