何恺明LeCun联手改造Transformer！9行代码替代归一化层，性能不减还加速
何恺明LeCun联手改造Transformer！9行代码替代归一化层，性能不减还加速何恺明LeCun联手：Transformer不要归一化了，论文已入选CVPR2025。
来自主题: AI技术研报
11637 点击 2025-03-15 17:12
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
搜索
何恺明LeCun联手：Transformer不要归一化了，论文已入选CVPR2025。
AI！都是AI！
一边是目前AI的能力还有限，另一边则是游戏厂商希望AI介入生产流程。
该是产品经理发力的时候
大模型架构研究进展太快，数据却快要不够用了，其中问题数据又尤其缺乏。
「压缩即智能」。这并不是一个新想法，著名 AI 研究科学家、OpenAI 与 SSI 联合创始人 Ilya Sutskever 就曾表达过类似的观点。
当前，视觉语言模型（VLMs）的能力边界不断被突破，但大多数评测基准仍聚焦于复杂知识推理或专业场景。本文提出全新视角：如果一项能力对人类而言是 “无需思考” 的本能，但对 AI 却是巨大挑战，它是否才是 VLMs 亟待突破的核心瓶颈？
Transformer架构迎来历史性突破！刚刚，何恺明LeCun、清华姚班刘壮联手，用9行代码砍掉了Transformer「标配」归一化层，创造了性能不减反增的奇迹。
30天学会编程、7天AI入门、40分钟教会你如何使用DeepSeek！不要998、不要88，现在只要9.8就能轻松入门！对于这些宣传语，相信很多人都不会陌生。每一次有新的技术和商业风口出现时，相关的网络课程就会从四面八方出现，以各种方式完成收割。
从去年8月开始，SAG-AFTRA（美国演员工会-美国广播电视艺术家联合会，下称“SAG”）针对游戏行业大规模滥用AI的现象，发起了大规模罢工——SAG的诉求，主要包括资方使用AI技术时保证配音演员和动捕演员的权益不受侵害、明确告知声像作品的使用用途等等。