Jamba是第一个基于 Mamba 架构的生产级模型。Mamba 是由卡内基梅隆大学和普林斯顿大学的研究人员提出的新架构，被视为 Transformer 架构的有力挑战者。
出任Gemini联合技术主管！
Noam Shazeer 2021 年离职谷歌，3 年后又以特殊方式重回谷歌。
从一大堆图片中精准找图，有新招了！论文已经中了ECCV 2024。
Attention is all you need.
2024年，落地，无疑是大模型最重要的主题。
当一家人工智能公司的首席执行官更像是计算机科学家而不是推销员时，我感觉更舒服
在当今数字化时代，人工智能（artificial intelligence，AI）技术迅猛发展，尤其是生成式技术，如ChatGPT（chat generative pre-trained transformer），对人类生活的影响日益深远。
Mamba 虽好，但发展尚早。
过去几年间，Transformer 架构已经取得了巨大的成功，同时其也衍生出了大量变体，比如擅长处理视觉任务的 Vision Transformer（ViT）。本文要介绍的 Body Transformer（BoT） 则是非常适合机器人策略学习的 Transformer 变体。
