73年前,香农已经给大模型发展埋下一颗种子 73年前,香农已经给大模型发展埋下一颗种子 关键词: 香农,AGI,AI,大模型,人工智能 AI 考古,追溯到了祖师爷头上。 来自主题: AI资讯 5250 点击 2024-07-02 17:45
讨论下一个token预测时,我们可能正在走进陷阱 讨论下一个token预测时,我们可能正在走进陷阱 关键词: 模型训练,token,上下文,AI学术 自香农在《通信的数学原理》一书中提出「下一个 token 预测任务」之后,这一概念逐渐成为现代语言模型的核心部分。最近,围绕下一个 token 预测的讨论日趋激烈。 来自主题: AI资讯 6511 点击 2024-03-25 17:05