一个指令误导智能模型！北航等首创3D语义攻击框架，成功率暴涨119%
一个指令误导智能模型！北航等首创3D语义攻击框架，成功率暴涨119%人工智能模型的安全对齐问题，一直像悬在头顶的达摩克利斯之剑。 自对抗样本被发现以来，这一安全对齐缺陷，广泛、长期地存在与不同的深度学习模型中。
来自主题: AI资讯
6809 点击 2025-10-23 16:00
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
人工智能模型的安全对齐问题，一直像悬在头顶的达摩克利斯之剑。 自对抗样本被发现以来，这一安全对齐缺陷，广泛、长期地存在与不同的深度学习模型中。
时隔两月，Baichuan-M2 Plus重磅出世！成为业内首个循证增强的医疗大模型，幻觉要比DeepSeek-R1低3倍，可信度比肩资深临床专家。新模型将「循证医学」理念深度融入训练和推理，通过首创「六源循证范式」，模拟人类医生思维，有效辨别不同层级医学证据、评估其可靠性，并在回答中优先引用高等级证据。
年初的 DeepSeek-R1，带来了大模型强化学习（RL）的火爆。无论是数学推理、工具调用，还是多智能体协作，GRPO（Group Relative Policy Optimization）都成了最常见的 RL 算法。
10月23日，AI应用公司LiblibAI宣布完成1.3亿美元B轮融资，由红杉中国、CMC资本及一战略投资方联合领投，多家老股东超额增持。高榕创投曾于2023年联合领投LiblibAI天使轮。 在AI
整个Hugging Face的趋势版里，前4有3个OCR，甚至Qwen3-VL-8B也能干OCR的活，说一句全员OCR真的不过分。然后在我上一篇讲DeepSeek-OCR文章的评论区里，有很多朋友都在把DeepSeek-OCR跟PaddleOCR-VL做对比，也有很多人都在问，能不能再解读一下百度那个OCR模型（也就是PaddleOCR-VL）。
当谷歌用量子计算机窥探到经典世界无法触及的物理秘密时，我们离那个能设计新药、创造新材料的「量子霸权」又近了一大步，下一个诺贝尔奖的种子或许已在此刻种下。
OpenAI前研究副总裁Liam Fedus与DeepMind材料科学领军者Ekin Cubuk共创Periodic Labs，以一轮高达3亿美元的种子融资走出隐身模式，震惊硅谷。然而，曾给出祝福的前东家OpenAI，并未参与本轮投资。
视频里，演员们穿着精致的戏服，在片场与工作人员互动、准备拍摄；摄影机、灯光、演员、助理，全都在忙。 就是这样一个 35 秒的「泄露」片段，在社交媒体上迅速疯传，YouTube 相关视频播放量破千万。
在3D内容创作领域，如何像玩乐高一样，自由生成、编辑和组合对象的各个部件，一直是一个核心挑战。香港大学、VAST、哈尔滨工业大学及浙江大学的研究者们联手，推出了一个名为 OmniPart 的全新框架，巧妙地解决了这一难题。该研究已被计算机图形学顶会 SIGGRAPH Asia 2025 接收。
美国签证体系，尤其在科技人才领域，长期被诟病为成本高、周期长、透明度低。前微软科学家Priyanka Kulkarni创办Casium，尝试用AI改造签证服务，把3–6个月的材料准备缩至10个工作日左右；部分案例不到1个月即可入职。