无问芯穹提出混合稀疏注意力方案MoA，加速长文本生成，实现最高8倍吞吐率提升
无问芯穹提出混合稀疏注意力方案MoA，加速长文本生成，实现最高8倍吞吐率提升随着大语言模型在长文本场景下的需求不断涌现，其核心的注意力机制（Attention Mechanism）也获得了非常多的关注。
来自主题: AI技术研报
5866 点击 2024-11-08 19:19
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
搜索
随着大语言模型在长文本场景下的需求不断涌现，其核心的注意力机制（Attention Mechanism）也获得了非常多的关注。
自从 Sora 横空出世，业界便掀起了一场「视频生成模型到底懂不懂物理规律」的争论。图灵奖得主 Yann LeCun 明确表示，基于文本提示生成的逼真视频并不代表模型真正理解了物理世界。之后更是直言，像 Sora 这样通过生成像素来建模世界的方式注定要失败。
微软和Google在同一天发布的最新财报，AI都作为云增长的重点，但却是截然不同的两种路径。
在Prompt工程领域，规划任务一直以来都是一个巨大的挑战，因为这要求大语言模型（LLMs）不仅能够理解自然语言，还能有效执行复杂推理和应对长时间跨度的操作。
很多 AI 产品，就像你在全是陌生人的活动上，遇见的很多擦肩而过、加了微信的「好友」。 Let's be honest，你不会再跟 ta 发消息的。
2024年，AI在游戏行业正不断由表及里，不断触及游戏机制的核心。
跌宕起伏的美国大选已经落下帷幕。同时有一些人受不了情绪大起大落，决定暂时进入影院屏蔽一些信息。
目前苹果在AI服务器市场的需求相对较小，但寻找合适的供应商并不简单。
Netflix 公司一位高管透露，该公司的电子游戏部门正在投资开发生成式 AI，旨在“加快开发速度，解锁前所未有的新鲜游戏体验，希望让玩家们感到惊喜、愉悦和振奋”。
我们请到了边塞科技创始人 & CEO 吴翼。他一直活跃在 AI 研究的各个领域。2020 年，他辞去了 OpenAI 的研究员工作，回到清华叉院担任助理教授，并开启了自己的 AI 创业项目。