「专业智能体指导」让小模型学会数学推理！微调Mistral-7B实现86.81%准确率
「专业智能体指导」让小模型学会数学推理！微调Mistral-7B实现86.81%准确率对于小型语言模型（SLM）来说，数学应用题求解是一项很复杂的任务。
来自主题: AI技术研报
7795 点击 2024-04-29 20:35
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
对于小型语言模型（SLM）来说，数学应用题求解是一项很复杂的任务。
大型语言模型（LLM）往往会追求更长的「上下文窗口」，但由于微调成本高、长文本稀缺以及新token位置引入的灾难值（catastrophic values）等问题，目前模型的上下文窗口大多不超过128k个token
近期，大语言模型、文生图模型等大规模 AI 模型迅猛发展。在这种形势下，如何适应瞬息万变的需求，快速适配大模型至各类下游任务，成为了一个重要的挑战。受限于计算资源，传统的全参数微调方法可能会显得力不从心，因此需要探索更高效的微调策略。
视觉语言模型屡屡出现新突破，但ViT仍是图像编码器的首选网络结构。
最近，一家名为 Reka 的初创公司发布了一款多模态语言模型——Reka Core，这是他们自2022 年成立以来第三款模型。
在人工智能的前沿领域，大语言模型（Large Language Models，LLMs）由于其强大的能力正吸引着全球研究者的目光。在 LLMs 的研发流程中，预训练阶段占据着举足轻重的地位，它不仅消耗了大量的计算资源，还蕴含着许多尚未揭示的秘密。
继 1 月推出国内首个基于 MoE 架构的千亿参数量大语言模型 abab6 后，上周，通用人工智能创业公司、中国估值最高的大模型公司之一 MiniMax 推出了万亿 MoE 模型 abab 6.5。根据 MiniMax 发布的技术报告，在各类核心能力测试中，abab 6.5接近 GPT-4、 Claude 3 Opus 、Gemini 1.5 Pro 等世界领先的大语言模型。
在对齐大型语言模型（LLM）与人类意图方面，最常用的方法必然是根据人类反馈的强化学习（RLHF）
虽然大型语言模型（LLM）在各种常见的自然语言处理任务中展现出了优异的性能，但随之而来的幻觉，也揭示了模型在真实性和透明度上仍然存在问题。
继2023年文生文大语言模型带来行业内外的狂欢之后，2024年春节期间，OpenAI再次曝出了正在内测的文生视频大模型Sora，其高清、丝滑、可以以假乱真的视频内容展示，再次让人见识到了科技的进步。