AI资讯新闻榜单内容搜索-框架

关键词: Transformer,AI框架,Mamba 2,模型训练

自 2017 年被提出以来，Transformer 已经成为 AI 大模型的主流架构，一直稳居语言建模方面 C 位。

关键词: 多模态,多模态大模型,GPT-4v,AI打扑克

只用强化学习来微调，无需人类反馈，就能让多模态大模型学会做决策！

关键词: Mamba-2,AI框架,注意力机制,Transforme,模型训练

Transformer挑战者、新架构Mamba，刚刚更新了第二代：

关键词: FlashST,智慧交通,AI交通,时空预测模型

华南理工大学和香港大学的研究人员在ICML 2024上提出了一个简单而通用的时空提示调整框架FlashST，通过轻量级的时空提示网络和分布映射机制，使预训练模型能够适应不同的下游数据集特征，显著提高了模型在多种交通预测场景中的泛化能力。

关键词: Mamba-2,AI框架,注意力机制,Transforme,模型训练

在开源社区引起「海啸」的Mamba架构，再次卷土重来！这次，Mamba-2顺利拿下ICML。通过统一SSM和注意力机制，Transformer和SSM直接成了「一家亲」，Mamba-2这是要一统江湖了？

关键词: Transformer,DCFormer,AI框架,模型训练

改进Transformer核心机制注意力，让小模型能打两倍大的模型！

关键词: 模型训练,AI,AI框架,大模型

3D 重建和新视图合成技术在虚拟现实和增强现实等领域有着广泛的应用。NeRF 通过隐式地将场景编码为辐射场，在视图合成上取得了显著的成功。

关键词: Transformer,AI框架,AI论文,LLM,模型训练

即使最强大的 LLM 也难以通过 token 索引来关注句子等概念，现在有办法了。

关键词: MoE,Llama3,token,AI框架

每个token只需要5.28%的算力，精度就能全面对标Llama 3。

关键词: AI,注意力机制,SAPT,AI框架,模型训练

在大模型实际部署落地的过程中，如何赋予大模型持续学习的能力是一个至关重要的挑战。这使其能够动态适应新的任务并不断获得新的知识。大模型的持续学习主要面临两个重大挑战，分别是灾难性遗忘和知识迁移。灾难性遗忘是指模型在学习新任务时，会忘记其已掌握的旧任务。知识迁移则涉及到如何在学习新任务时有效地应用旧任务的知识来提升新任务学习的效果。