大模型+蒙特卡洛树搜索，一招让LLaMa-3 8B奥数水平直逼GPT-4
大模型+蒙特卡洛树搜索，一招让LLaMa-3 8B奥数水平直逼GPT-4通过算法层面的创新，未来大语言模型做数学题的水平会不断地提高。
来自主题: AI技术研报
10690 点击 2024-06-17 19:32
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
通过算法层面的创新，未来大语言模型做数学题的水平会不断地提高。
文章讲述了彩云科技团队在改进Transformer架构方面的努力，尤其是推出的全新通用模型架构DCFormer，以及团队面临的种种挑战和突破。
即使Sora已经强势“炸”过场，Pika还是再次带着硅谷一众明星资方的投票回到了舆论中心。
DeepMind发表了一篇名为「To Believe or Not to Believe Your LLM」的新论文，探讨了LLM的不确定性量化问题，通过「迭代提示」成功将LLM的认知不确定性和偶然不确定性解耦。研究还将新推导出的幻觉检测算法应用于Gemini，结果表明，与基线方法相比，该方法能有效检测幻觉。
本文介绍了KAN网络算法的原理和优势，探讨了其在深度学习领域可能引发的范式转变。 • ⚡ KAN网络将可学习的激活函数从神经元移到了神经网络的边上，表现出更高的准确性和更少的参数量 • ???? KAN在数学和物理领域的实验中展现了卓越性能，提供了一种新的科学发现的路径 • ???? KAN具有更快的神经缩放定律和可解释性，为AI领域带来了新的探索可能性
一般而言，训练神经网络耗费的计算量越大，其性能就越好。在扩大计算规模时，必须要做个决定：是增多模型参数量还是提升数据集大小 —— 必须在固定的计算预算下权衡此两项因素。
最近，《柳叶刀》上的一篇医学文章发表了有关心血管疾病风险预测的里程碑式结果。之所以如此有影响力，是因为这项名为CaRi-Heart的技术结合了AI视觉识别和预测算法，可以在没有明显症状时提前10年识别出重大的心血管疾病风险。
谁能想到，某天和你聊天的那个人竟是一个AI。来自TUM等研究人员提出了一种全新算法NPGA，能够生成高保真3D头像，表情逼真到让你怀疑自己的眼睛。
在LLM能力突飞猛进的当下，所有研究者似乎都在关注数据、算力、算法等模型开发的各个方面，但OpenAI研究员Jason Wei最近发布的一篇博客文章提醒我们，模型评估的工作同样非常重要。如何开发出优秀的评估测试，对AI能力的发展方向至关重要。
就在刚刚，一份2500页的内部文档泄露，谷歌搜索算法的内幕，让不少人大跌眼镜。