大模型到底是怎么「思考」的？第一篇系统性综述SAE的文章来了
大模型到底是怎么「思考」的？第一篇系统性综述SAE的文章来了在 ChatGPT 等大语言模型（LLMs）席卷全球的今天，越来越多的研究者意识到：我们需要的不只是 “会说话” 的 LLM，更是 “能解释” 的 LLM。
来自主题: AI技术研报
7840 点击 2025-06-22 16:25
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
在 ChatGPT 等大语言模型（LLMs）席卷全球的今天，越来越多的研究者意识到：我们需要的不只是 “会说话” 的 LLM，更是 “能解释” 的 LLM。
无需蒸馏任何大规模语言模型，小模型也能自给自足、联合提升？
在 AI 领域，英伟达开发的 CUDA 是驱动大语言模型（LLM）训练和推理的核心计算引擎。
大语言模型（LLMs）在决策场景中常因贪婪性、频率偏差和知行差距表现欠佳。研究者提出强化学习微调（RLFT），通过自我生成的推理链（CoT）优化模型，提升决策能力。实验表明，RLFT可增加模型探索性，缩小知行差距，但探索策略仍有改进空间。
随着语言模型在强化学习和 agentic 领域的进步，agent 正在从通用领域快速渗透到垂直领域，科学和生物医药这类高价值领域尤其受到关注。
在人工智能领域，大型语言模型（LLM）的推理能力正以前所未有的速度发展。
人人都绕不开的推荐系统，如今正被注入新的 AI 动能。 随着 AI 领域掀起一场由大型语言模型（LLM）引领的生成式革命，它们凭借着强大的端到端学习能力、海量数据理解能力以及前所未有的内容生成潜力，开始重塑各领域的传统技术栈。
近年来，强化学习 (RL) 在提升大型语言模型 (LLM) 的链式思考 (CoT) 推理能力方面展现出巨大潜力，其中直接偏好优化 (DPO) 和组相对策略优化 (GRPO) 是两大主流算法。
大语言模型解决不等式证明问题时，可以给出正确答案，但大多数时候是靠猜。推理过程经不起推敲，逻辑完全崩溃。
GRIT能让多模态大语言模型（MLLM）通过生成自然语言和图像框坐标结合的推理链进行「图像思维」，仅需20个训练样本即可实现优越性能！