在一篇论文中，研究人员测试了 11 种 LLM 如何回应超过 11500 条寻求建议的查询，其中许多查询描述了不当行为或伤害。结果发现 LLM 附和用户行为的频率比人类高出 50%，即便用户的提问涉及操纵、欺骗或其他人际伤害等情境，模型仍倾向于给予肯定回应。
出品 / 新浪科技（ID:techsina） 作者 / 郑峻 Meta AI业务大地震！新主管上任三个月后，挥起裁员大刀，基础研究部门遭受重创，连明星大牛研究员都不幸失业。扎克伯格这是急功近利，自毁长
在硅谷AI竞赛的风暴眼中，研究员与高管以「战时」强度奔跑：从Anthropic的深夜Slack，到DeepMind的「0-0-2」作息与难享之财；微软以AI自救仍难减负；OpenAI为遏止倦怠与Meta挖角被迫「停摆一周」。这是一场以天才、时间与心力为燃料的冲刺，推动突破，也将人推向临界点：灯火通明，平衡仍无解。
在开放研究领域里，苹果似乎一整个脱胎换骨，在纯粹的研究中经常会有一些出彩的工作。这次苹果发布的研究成果的确出人意料：他们用谷歌的 Nano-banana 模型做个了视觉编辑领域的 ImageNet。
如何让一个并不巨大的开源大模型，在面对需要多步检索与复杂逻辑整合的问题时，依然像 “冷静的研究员” 那样先拆解、再查证、后归纳，最后给出可核实的结论？
聚焦大型语言模型（LLMs）的安全漏洞，研究人员提出了全新的越狱攻击范式与防御策略，深入剖析了模型在生成过程中的注意力变化规律，为LLMs安全研究提供了重要参考。论文已被EMNLP2025接收
如何科学地给大模型「找茬」？Anthropic联合Thinking Machines发布新研究，通过30万个场景设计和极限压力测试，扒了扒OpenAI、谷歌、马斯克家AI的「人设」。那谁是老好人？谁是效率狂魔？
HuggingFace 与牛津大学的研究者们为想要进入现代机器人学习领域的新人们提供了了一份极其全面易懂的技术教程。这份教程将带领读者探索现代机器人学习的全景，从强化学习和模仿学习的基础原理出发，逐步走向能够在多种任务甚至不同机器人形态下运行的通用型、语言条件模型。
知识图谱推理是人工智能的关键技术，在多领域有广泛应用，但现有方法存在推理效率低、表达能力不足、过平滑问题等挑战。中科大研究团队提出DuetGraph，采用双阶段粗到细推理框架与双通路全局 - 局部特征融合模型，实现推理精度与效率的平衡，为大规模知识推理提供解决方案。
近期，来自北航等机构的研究提出了一种新的解决思路：自回归奖励引导表征编辑（ARGRE）框架。该方法首次在 LLM 的潜在表征空间中可视化了毒性从高到低的连续变化路径，实现了在测试阶段进行高效「解毒」。
