近期，基于大语言模型的智能体（LLM-based agent）在学术界和工业界中引起了广泛关注。对于智能体而言，记忆（Memory）是其中的重要能力，承担了记录过往信息和外部知识的功能，对于提高智能体的个性化等能力至关重要。
大型语言模型已展现出卓越的能力，但其部署仍面临巨大的计算与内存开销所带来的挑战。随着模型参数规模扩大至数千亿级别，训练和推理的成本变得高昂，阻碍了其在许多实际应用中的推广与落地。
本文第一作者操雨康，南洋理工大学MMLab博士后，研究方向是3D/4D重建与生成，人体动作/视频生成，以及图像生成与编辑。
Transformer杀手来了？KAIST、谷歌DeepMind等机构刚刚发布的MoR架构，推理速度翻倍、内存减半，直接重塑了LLM的性能边界，全面碾压了传统的Transformer。网友们直呼炸裂：又一个改变游戏规则的炸弹来了。
你说：“帮我列下今天的会议日程。” 它迅速回复：“9 点产品部，11 点市场部，下午 2 点财务汇报。”——完美。
LLM用得越久，速度越快！Emory大学提出SpeedupLLM框架，利用动态计算资源分配和记忆机制，使LLM在处理相似任务时推理成本降低56%，准确率提升，为AI模型发展提供新思路。
集成市场各类日历、会议与任务管理应用程序，可智能规划日程。
随着大模型应用场景的不断拓展，其在处理长期对话时逐渐暴露出的记忆局限性日益凸显，主要表现为固定长度上下文窗口导致的“健忘”问题。
我们常把LangGraph、RAG、memory、evals等工具比作乐高积木，经验丰富的人知道如何搭配使用，就能迅速解决问题
自Agent火了以后，有关"记忆"的框架如雨后春笋般涌现，但绝大多数仍是为"单兵作战"设计，难以适应需要复杂协作、信息交互量暴增10倍的多智能体系统（MAS）
