DeepSeek开源真香！vLLM/SGLang连夜性能反超，推理速度卷出新高度
DeepSeek开源真香！vLLM/SGLang连夜性能反超，推理速度卷出新高度还得是「源神」D老师，善呐！
来自主题: AI资讯
10013 点击 2026-10-27 10:32
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
搜索
还得是「源神」D老师，善呐！
LLM智能体如何在部署过程中，通过自身执行持续进化？
GPT-6 Luna 要被扩散 LLM 抢饭碗了？
谷歌与Meta联合开源TorchTPU，使TPU成为PyTorch原生设备，并完成vLLM、SGLang、Hugging Face、Ray、TorchTitan等主流项目接入，CUDA的软件生态护城河开始松动。
在将 LLM 真正应用到产品的过程中，我们经常会遇到一个看似简单、却非常关键的问题：模型生成的内容，究竟有多可信？
团队提出免训练评测方法RAVEL，通过带稳定项的PCA白化和局部图像块匹配提升视觉编码器评测准确性，在三个LLM上的平均Spearman相关系数达0.85，并开源210个MLLM权重。
真是活久见！ 连Linux之父，都让Claude来写内核了。就在最近，一位开发者在刷新Linus的官方内核仓库时，赫然发现了一个极不寻常的新分支——noref-filemap-read-with-llm
vLLM Semantic Router推出并开源Decision 3.0系列多模态决策模型，覆盖0.6B至27B六款模型，其中d3在Jev Decision Index 0.3.1文本榜和视觉榜均排名第一。
Karpathy在推文中估计，全球真正能直接使用最前沿内部AI系统的人可能仅有约5000人，而约60亿人几乎尚未真正接触LLM。
扩散智能DiffuSpace连续完成两轮融资，总金额达数亿元，由经纬创投、顺为资本、君联资本联合领投，创下全球扩散语言模型（dLLM）最大规模融资纪录。