AI资讯新闻榜单内容搜索-三模式的大语言模型

关键词: AI新闻,扩散模型,三模式的大语言模型,模型训练

英伟达提出了全球首个三模式的大语言模型系列，只需简单更改注意力模式 / 掩码，即可在自回归、扩散和自推测解码之间切换。一个模型，三种解码模式，没有额外的草稿模型，没有架构变更。最快的模式 token 吞吐量能提升 4 倍。