DeepSeek“防弹衣”来了，模型内生安全加固方案，拒绝杀敌一千自损八百｜上海AI Lab
DeepSeek“防弹衣”来了，模型内生安全加固方案，拒绝杀敌一千自损八百｜上海AI Lab最新研究显示，以超强推理爆红的DeepSeek-R1模型竟藏隐形危险——
来自主题: AI技术研报
9696 点击 2025-03-13 14:53
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
最新研究显示，以超强推理爆红的DeepSeek-R1模型竟藏隐形危险——
在实际应用过程中，闭源模型（GPT-4o）等在回复的全面性、完备性、美观性等方面展示出了不俗的表现。
回顾 AGI 的爆发，从最初的 pre-training (model/data) scaling，到 post-training (SFT/RLHF) scaling，再到 reasoning (RL) scaling，找到正确的 scaling 维度始终是问题的本质。
与3D物理环境交互、适应不同机器人形态并执行复杂任务的通用操作策略，一直是机器人领域的长期追求。
近日，上海 AI Lab 具身智能中心研究团队在机器人控制领域取得了最新突破，提出的 HoST（Humanoid Standing-up Control）算法，成功让人形机器人在多种复杂环境中实现了自主站起，并展现出强大的抗干扰能力。
Llama都在用的RoPE（旋转位置嵌入）被扩展到视频领域，长视频理解和检索更强了。
上海拥有全国1/3的人工智能重点企业、41%的智能芯片产能和日均处理的20PB级城市数据，却在2025年伊始遭遇了尴尬的叩问： 一家总部杭州的初创公司DeepSeek横空出世，其开源大模型的开发者调用量在一周内突破微软亚洲研究院十年累积量，直接促成全球170个国家开发者建立起47万个衍生模型
传统的偏好对⻬⽅法，如基于⼈类反馈的强化学习（RLHF）和直接偏好优化（DPO），依赖于训练过程中的模型参数更新，但在⾯对不断变化的数据和需求时，缺乏⾜够的灵活性来适应这些变化。
仅使用20K合成数据，就能让Qwen模型能力飙升——
随着语言大模型的成功，视觉 - 语言多模态大模型 (Vision-Language Multimodal Models, 简写为 VLMs) 发展迅速，但在长上下文场景下表现却不尽如人意，这一问题严重制约了多模态模型在实际应用中的潜力。