超大模型推理加速2.18倍！SGLang联合美团技术团队开源投机采样训练框架
超大模型推理加速2.18倍！SGLang联合美团技术团队开源投机采样训练框架专门适用超大模型、带来2.18倍推理加速，最新投机采样训练框架开源！ SGLang团队联合美团搜推平台、Cloudsway.AI开源SpecForge。
来自主题: AI资讯
8726 点击 2025-07-27 13:22
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
专门适用超大模型、带来2.18倍推理加速，最新投机采样训练框架开源！ SGLang团队联合美团搜推平台、Cloudsway.AI开源SpecForge。
MiniMax 在 7 月 10 日面向全球举办了 M1 技术研讨会，邀请了来自香港科技大学、滑铁卢大学、Anthropic、Hugging Face、SGLang、vLLM、RL领域的研究者及业界嘉宾，就模型架构创新、RL训练、长上下文应用等领域进行了深入的探讨。
大家都还记得 00 后韩裔小孩哥三个月前创办的初创公司 Cluely 吗？这家公司凭借极具争议性的口号和病毒式的营销，成为了硅谷最受关注的初创公司之一。
AI 助手，向着「低调实用」方向发展。几周前，我为了一份行业深度文章的撰写，在堆积如山的数据分析文件和浏览器标签页中挣扎了整整两天。
近日，来自SGLang、英伟达等机构的联合团队发了一篇万字技术报告：短短4个月，他们就让DeepSeek-R1在H100上的性能提升了26倍，吞吐量已非常接近DeepSeek官博数据！
从Google Glasses到HoloLens，再到近几年雷鸟创新、Even Realities、影目、星纪魅族、Rokid等陆续发布量产产品，AR眼镜在不断刷新其轻薄程度。
AI眼镜热潮，迎来了XR实力派的降维打击。
Gladia筹集了1600万美元用于AI转录和分析。
用来运行 Llama 3 405B 优势明显。
20美元，所有眼镜都能变成AI智能眼镜