在以 transformer 模型为基础的大模型中，键值缓存虽然用以存代算的思想显著加速了推理速度，但在长上下文场景中成为了存储瓶颈。为此，本文的研究者提出了 MILLION，一种基于乘积量化的键值缓存压缩和推理加速设计。
多模态大模型（MLLMs）在视觉理解与推理等领域取得了显著成就。然而，随着解码（decoding）阶段不断生成新的 token，推理过程的计算复杂度和 GPU 显存占用逐渐增加，这导致了多模态大模型推理效率的降低。
在当前大语言模型（LLMs）广泛应用于问答、对话等任务的背景下，如何更有效地结合外部知识、提升模型对复杂问题的理解与解答能力，成为 RAG（Retrieval-Augmented Generation）方向的核心挑战。
大型语言模型（LLMs）在广泛的自然语言处理（NLP）任务中展现出了卓越的能力。
今天的Agent框架虽然功能强大，但对于没有编程经验的客户服务专业人员来说却过于复杂。这些框架如AutoGen、LangGraph、CrewAI等通常将Agent声明嵌入到复杂的Python代码中，使整体工作流程难以把握，门槛过高。对于仅需构建带有业务逻辑的客服聊天机器人的非技术人员而言，这些框架犹如天书，让他们望而却步。
近年来，大语言模型（LLMs）在自然语言理解、代码生成与通用推理等任务上取得了显著进展，逐步成为通用人工智能的核心基石。
什么开源算法自称为DeepSeek-R1（-Zero） 框架的第一个复现？
仅调整5%的骨干网络参数，就能超越全参数微调效果？！
复旦大学和美团的研究者们提出了UniToken——一种创新的统一视觉编码方案，在一个框架内兼顾了图文理解与图像生成任务，并在多个权威评测中取得了领先的性能表现。
GPT-4o带火的漫画风角色生成，现在有了开源版啦！
