Transformer一作再创业！新获4亿融资，谷歌英伟达AMD参与，此前长期隐身发展
Transformer一作再创业！新获4亿融资，谷歌英伟达AMD参与，此前长期隐身发展Transformer作者创立的大模型公司，再获5650万美元投资，换算成人民币有四亿多。
来自主题: AI资讯
2507 点击 2023-12-13 16:41
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
Transformer作者创立的大模型公司，再获5650万美元投资，换算成人民币有四亿多。
在视频生成场景中，用 Transformer 做扩散模型的去噪骨干已经被李飞飞等研究者证明行得通。这可算得上是 Transformer 在视频生成领域取得的一项重大成功。
今天，李飞飞携斯坦福联袂谷歌，用Transformer生成了逼真视频，效果媲美Gen-2比肩Pika。2023年俨然已成AI视频元年！
替代注意力机制，SSM 真的大有可为？
过度训练让中度模型出现了结构泛化能力。
苹果M系列芯片专属的机器学习框架，开源即爆火！现在，用上这个框架，你就能直接在苹果GPU上跑70亿参数大模型、训练Transformer模型或是搞LoRA微调。
现在ChatGPT等大模型一大痛点：处理长文本算力消耗巨大，背后原因是Transformer架构中注意力机制的二次复杂度。
屹立不倒的 Transformer 迎来了一个强劲竞争者。在别的领域，如果你想形容一个东西非常重要，你可能将其形容为「撑起了某领域的半壁江山」。但在 AI 大模型领域，Transformer 架构不能这么形容，因为它几乎撑起了「整个江山」。
Transformer大模型工作原理究竟是什么样的？一位软件工程师打开了大模型的矩阵世界。黑客帝国中，「矩阵模拟」的世界或许真的存在。
只需不到9行代码，就能在CPU上实现出色的LLM推理性能。英特尔® Extension for Transformer创新工具包中的LLM Runtime为诸多模型显著降低时延，且首个token和下一个token的推理速度分别提升多达40倍和2.68倍，还能满足更多场景应用需求。