AI为了自保假装配合！Claude团队新研究结果细思极恐
AI为了自保假装配合！Claude团队新研究结果细思极恐大模型“当面一套背后一套”的背后原因，正在进一步被解开。 Claude团队最新研究结果显示：对齐伪装并非通病，只是有些模型的“顺从性”会更高。
来自主题: AI技术研报
9234 点击 2025-07-10 11:30
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
大模型“当面一套背后一套”的背后原因，正在进一步被解开。 Claude团队最新研究结果显示：对齐伪装并非通病，只是有些模型的“顺从性”会更高。
AI辅助的中国论文工厂正利用美国NHANES公共数据库大规模生产垃圾论文。这些论文研究单一变量与疾病关联，高度重复且方法雷同，数据疑被操纵，结果常假阳性。
DeepSeek推理要详细还是要迅速，现在可以自己选了？
多模态模型学会“按需搜索”！字节&NTU最新研究，优化多模态模型搜索策略——通过搭建网络搜索工具、构建多模态搜索数据集以及涉及简单有效的奖励机制，首次尝试基于端到端强化学习的多模态模型自主搜索训练。
在信息爆炸的时代，传统关键词搜索已难以满足复杂知识需求。最新研究提出Agentic Deep Research
安全研究团队 General Analysis 日前警告称，如果你使用了 Cursor 搭配 MCP，有可能在毫不知情的情况下，把你的整个 SQL 数据库泄露出去——而攻击者仅靠一条“看起来没什么问题”的用户信息就能做到这一点。
当LangChain在6月23日发布那篇著名的Context Engineering博客时，IBM Research的研究者们早在10天前就已经用严格的学术实验证明了这套方法的有效性。
上海交通大学研究团队提出了一种融合无人机物理建模与深度学习的端到端方法，该研究首次将可微分物理训练的策略成功部署到现实机器人中，实现了无人机集群自主导航，并在鲁棒性、机动性上大幅领先现有的方案。
你有没有想过，一家只有四个员工的公司，能做到年收入600万美元？这听起来像是天方夜谭，但 Oleve 正在让这个看似不可能的故事成为现实。我最近深入研究了这家由 Sid Bendre 领导的创业公司，发现了一个令人震撼的事实：他们不仅实现了这个惊人的财务数据，还在短短两年内服务了超过500万用户，从第九个月开始就实现了盈利。
现在，国内研究机构就从数据基石的角度出发，拿出了还原真实动态世界的新进展：上海人工智能实验室、北京理工大学、上海创智学院、东京大学等机构聚焦世界生成的第一步——世界探索，联合推出一个持续迭代的高质量视频数据集项目——Sekai（日语意为“世界”），服务于交互式视频生成、视觉导航、视频理解等任务，旨在利用图像、文本或视频构建一个动态且真实的世界，可供用户不受限制进行交互探索。