多模态预训练，才是大模型的下一条路？Yann LeCun、谢赛宁参与
多模态预训练，才是大模型的下一条路？Yann LeCun、谢赛宁参与基础模型时代，大模型能力的爆发，很大程度上源于在海量文本上的预训练。然而问题在于，文本本质上只是人类对现实世界的一种抽象表达，是对真实世界信息的有损压缩。
来自主题: AI技术研报
9468 点击 2026-03-09 09:53
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
基础模型时代，大模型能力的爆发，很大程度上源于在海量文本上的预训练。然而问题在于，文本本质上只是人类对现实世界的一种抽象表达，是对真实世界信息的有损压缩。
「2018 到 2023 年间在 EMNLP 会议上发表的那篇论文中，第一作者本科就读于达特茅斯学院、第四作者本科就读于宾夕法尼亚大学的那篇科学论文，题目是什么？」
面对 OpenClaw（龙虾）可能存在的「恶意利用用户数据和资金」的重大风险，Transformer 八子之一 Illia Polosukhin 出手了。今天，Illia Polosukhin 在 Reddit 上发了一则帖子，深谈了其使用 Rust 来构建安全版 OpenClaw 的心路历程，引起了热议。
3月6日，腾讯混元发布了一篇名为“HY-WU (Part I): An Extensible Functional Neural Memory Framework and An Instantiation in Text-Guided Image Editing”的技术报告。提出了一种崭新的功能性记忆（functional neural memory）范式（weight unleashing），
火山引擎官网，现已公布Seedance 2.0模型定价。包含视频输入的价格是28元/百万tokens，不含视频输入的价格则是46元/百万tokens。使用Seedance 2.0生成一条15秒的标准视频（720p，24fps），大概要消耗30.888万tokens。
让AI自己写高性能GPU代码，字节Seed与清华AIR团队做到了。
Seedance 2.0 有多火爆，这几天国内外网友分享的实测视频，或许都能略窥一二。
me stepping down. bye my beloved qwen.（我将卸任。再见了，我深爱的 qwen。） 3 月 4 日凌晨，阿里通义千问（Qwen）技术负责人林俊旸在 X 突然发文，向自己一手带大的开源模型项目告别。
莫理这两天在 GitHub 上淘到了一个开源的实用工具，刚好能把这块短板给彻底补齐！这就是咱们今天的主角：Edit Banana，通用内容再编辑器。
我天！感觉 Seed 1.8 发布还没多久，没想到 Doubao-Seed-2.0 这么快就杀到了…今天发都算是晚讯了。据官方介绍，这次 Seed 2.0 多模态理解能力全面升级，还强化了 LLM 与 Agent 能力，模型在真实长链路任务中可以稳定推进。