10倍吞吐提升无损性能：多模态适用的KV cache量化策略来了，即插即用无需改原模型
10倍吞吐提升无损性能：多模态适用的KV cache量化策略来了，即插即用无需改原模型在InternVL-2.5上实现10倍吞吐量提升，模型性能几乎无损失。
来自主题: AI技术研报
7901 点击 2025-04-03 16:12
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
在InternVL-2.5上实现10倍吞吐量提升，模型性能几乎无损失。
视觉Token可以与LLMs词表无缝对齐了！
随着人工智能和大语言模型（LLMs）的不断突破，如何将其优势赋能于现实世界中可实际部署的高效工具，成为了业界关注的焦点。
大模型写代码早就是基操了，但让它写算法竞赛题或企业级系统代码，就像让只会煮泡面的人去做满汉全席 —— 生成的代码要么是 “铁板一块” 毫无章法，要么是 “一锅乱炖” 难以维护。
扩展无语言的视觉表征学习。
当我们遇到新问题时，往往会通过类比过去的经验来寻找解决方案，大语言模型能否如同人类一样类比？在对大模型的众多批判中，人们常说大模型只是记住了训练数据集中的模式，并没有进行真正的推理。
双人动作生成新SOTA！
如何从一张普通的单幅图像准确估计物体的三维法线和材质属性，是计算机视觉与图形学领域长期关注的难题。
一个7B奖励模型搞定全学科，大模型强化学习不止数学和代码。
4D LangSplat通过结合多模态大语言模型和动态三维高斯泼溅技术，成功构建了动态语义场，能够高效且精准地完成动态场景下的开放文本查询任务。该方法利用多模态大模型生成物体级的语言描述，并通过状态变化网络实现语义特征的平滑建模，显著提升了动态语义场的建模能力。