3倍生成速度还降内存成本，超越Medusa2的高效解码框架终于来了
3倍生成速度还降内存成本，超越Medusa2的高效解码框架终于来了传统上，大型语言模型（LLMs）被认为是顺序解码器，逐个解码每个token。
来自主题: AI技术研报
5084 点击 2024-05-10 23:29
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
传统上，大型语言模型（LLMs）被认为是顺序解码器，逐个解码每个token。
尽管苹果在生成式 AI 方面的进展没有像谷歌、Meta 和微软等竞争对手那样高调，但该公司一直在进行相关研究，其构筑新生态的思路总是显得与众不同。
在机器学习社区中，ICLR （国际学习表征会议）是较为「年轻」的学术会议，它由深度学习巨头、图灵奖获得者 Yoshua Bengio 和 Yann LeCun 在 2013 年牵头举办。但 ICLR 很快就获得了研究者的广泛认可，并且在 AI 圈拥有了深度学习会议「无冕之王」的称号。
阿里云正式发布通义千问2.5大模型，同时宣布性能全面赶超GPT-4 Turbo。
芝麻粒大小的人脑组织，突触规模就相当于一个GPT-4！
ControlNet作者新作，玩儿得人直呼过瘾，刚开源就揽星1.2k。
机器学习三大顶会之一的ICLR 2024，正在维也纳如火如荼地举行。
传统 LLM-based AI Agent 运维平台在复杂应用开发方面存在一定局限 ，复旦大学人工智能创新与产业研究院（AI³）徐盈辉研究员与 AI2Apps 团队打造的 AI2Apps 可视化集成开发环境集成了工程级的开发工具，覆盖 AI Agent 完整开发周期，具有完全开放的扩展性，并自带浏览器沙盒环境，借鉴 Figma 的理念
近年来，在经历了ChatGPT、Midjourney等国际AIGC产品的飞速发展，以及百度文心、阿里通义、Kimi等国内AIGC产品的激烈追赶后，2024年，几乎每位互联网用户都或多或少接触了AIGC技术产生的内容。从智能手机中的大模型助手，到日常所见的AI生成图片，再到职场中的AIGC工具辅助优化工作，AIGC内容已遍布人们的生活中。
腾讯科技讯 作为搜索领域无可争议的霸主，谷歌改变了我们生活的方方面面，从日常琐事到工作事务，再到我们的沟通方式。多年来，谷歌一直是互联网的窗口，为我们提供大量知识和信息，但如今，随着其他类似平台的崛起，谷歌可能不再是我们寻找答案的首要选择。那么，面对这样的挑战，谷歌又将如何应对？
当人们还在呼唤GPT-5、辗转于各种聊天机器人争夺战时，Google已经把人工智能模型与现实世界的距离又拉近了一大步。
“逐梦AI圈”的中小创业者，何时圆梦？
“用智能，开启无限可能” 2024惠普商用AI战略暨AI PC新品发布会在北京盛大举行。
Sora 的第一批使用者，详细讲述了自己使用其生成完整视频的制作过程。
OpenAI挖角谷歌、加班加点研发的AI搜索产品，马上就要上线了。
Gartner估计，到2028年，75%的程序员将使用AI编程工具。
因AI概念去年股价一飞冲天的“彩票大王”鸿博股份（002229.SZ），交出了一份令人失望的成绩单。
TOP FAVOR已经在服装创造上实现了AI的深度参与，涵盖设计、营销、供应链以及柔性智造等各个环节。
智东西5月8日报道，近日，微软发布了首个年度《负责任的人工智能透明度报告》。报告概述了微软2023年制定并部署的各种措施，以及其在安全部署AI产品方面取得的成就，如创建了30个负责任的人工智能（RAI）工具，扩大了RAI团队等。
由于规格高、论文多，顶会论文审稿过程的公平性和透明度，向来是业界关注和争议的焦点。
推荐系统对于应对信息过载挑战至关重要，它们根据用户的个人偏好提供定制化推荐。近年来深度学习技术极大地推动了推荐系统的发展，提升了对用户行为和偏好的洞察力。
Character.AI 在效率工具的维度外，开辟了情感娱乐的赛道，甚至引发了 AI 聊天陪伴产品的热潮。在国内，类似的 AI 聊天陪伴类产品也越来越多。得益于新的技术变量，这类产品以一种新的方式，满足用户已被发掘过的需求。
把AlphaGo的核心算法用在大模型上，“高考”成绩直接提升了20多分。
图学习领域的数据饥荒问题，又有能缓解的新花活了！
AlphaFold 3再登Nature！
首届ICLR时间检验奖，颁向变分自编码器VAE
OpenAI正在秘密A/B测试下一代模型，实力超强被怀疑是GPT-4.5或GPT-5。
据外媒The Verge 5月4日报道，自去年年初起，青少年开始流行与AI聊天机器人交朋友。The Verge记者杰西卡·卢卡斯（Jessica Lucas）近日采访了来自北美洲的4名未成年人，他们均沉迷于Character AI的聊天服务。
最近，网上出现大量“黏土”风格的人物照片。尤其是在小红书、微信朋友圈等社交平台，这类型的分享数量急剧上升，一股浓浓的《小羊肖恩》风。
据《华尔街日报》7日报道，苹果公司正在为数据中心服务器研发设计运行人工智能（AI）软件的芯片，这一举措或将使苹果在日益激烈的AI领域军备竞赛中占据优势。