全面超越ViT，美团、浙大等提出视觉任务统一架构VisionLLAMA
全面超越ViT，美团、浙大等提出视觉任务统一架构VisionLLAMA半年多来，Meta 开源的 LLaMA 架构在 LLM 中经受了考验并大获成功（训练稳定、容易做 scaling）。
来自主题: AI技术研报
5779 点击 2024-03-07 14:01
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
搜索
半年多来，Meta 开源的 LLaMA 架构在 LLM 中经受了考验并大获成功（训练稳定、容易做 scaling）。
很快啊，“文生图新王”Stable Diffusion 3的技术报告，这就来了。
苹果旗下的各类产品中，HomePod估计是最不成功的（如果暂不考虑刚开售的Vision Pro)。初代HomePod 2018年发布，三年后停产，直到2023年苹果才推出了第二代产品。
在众多前沿成果都不再透露技术细节之际，Stable Diffusion 3 论文的发布显得相当珍贵。
Stability AI放出了号称能暴打闭源模型的Stable Diffusion 3的技术报告，采用DiT构架的新模型在灵活性和性能上都达到了新的高度。
苹果放弃了最为野心勃勃的项目之一——造车，并考虑将2000名员工转移到人工智能部门。有接近苹果的相关人士向虎嗅透露，此前就有Vision Pro和汽车项目组的人转岗至人工智能项目。
最近，OpenAI 视频生成模型 Sora 的爆火，给基于 Transformer 的扩散模型重新带来了一波热度，比如 Sora 研发负责人之一 William Peebles 与纽约大学助理教授谢赛宁去年提出的 DiT（Diffusion Transformer）。
ControlNet作者最新推出的一项研究受到了一波高度关注——给一句prompt，用Stable Diffusion可以直接生成单个或多个透明图层（PNG）！
而早在一年前，ChatGPT横空出世，由此我对AI+教育格外感兴趣，我认为ChatGPT的出现会重塑整个教育行业。
近期，DiT（Diffusion Transformer）论文的作者谢赛宁在朋友圈分享了他对 Sora 的看法，其中核心资源的排序是——人才第一、数据第二、算力第三，其他都没有什么是不可替代的。