开源大模型王座再易主，1320亿参数DBRX上线，基础、微调模型都有
开源大模型王座再易主，1320亿参数DBRX上线，基础、微调模型都有这是迄今为止最强大的开源大语言模型，超越了 Llama 2、Mistral 和马斯克刚刚开源的 Grok-1。
来自主题: AI技术研报
11549 点击 2024-03-28 14:26
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
这是迄今为止最强大的开源大语言模型，超越了 Llama 2、Mistral 和马斯克刚刚开源的 Grok-1。
AI 时代，在大模型能力还在进化、还在苦苦寻找 PMF 之前，创业者之间的交流和共识似乎变得更为重要。一次成功的尝试，或者是失败的反思；或者是最近的创业新方向和新收获；或者是对于某个垂直领域的新观察。
大连理工大学信息检索研究室在始智AI wisemodel.cn开源社区发布了司法大模型--太令(TaiLing)1.0版，“太令”是专门为司法领域定制的大语言模型，其训练基础是庞大的通用中文语料库，并结合了裁判文书、合同、司法考试材料以及司法问答等专业司法数据进行深度训练。
上下文长度真的能形成护城河吗？
RLHF 通过学习人类偏好，能够在难以手工设计奖励函数的复杂决策任务中学习到正确的奖励引导，得到了很高的关注，在不同环境中选择合适的人类反馈类型和不同的学习方法至关重要
除了没有成熟商业模式，Stability AI更缺乏能力证明他们可以继续开发顶尖大模型。
2022年底，OpenAI（美国人工智能研究公司）发布的大模型ChatGPT（对话生成式预训练大模型）引发了广泛关注。在“大模型+大数据+大算力”的加持下，ChatGPT能够通过自然语言交互完成多种任务，具备了多场景、多用 途、跨学科的任务处理能力。
随着 Sora 的成功发布，视频 DiT 模型得到了大量的关注和讨论。设计稳定的超大规模神经网络一直是视觉生成领域的研究重点。DiT [1] 的成功为图像生成的规模化提供了可能性。
图是组织信息的一种有用方式，但LLMs主要是在常规文本上训练的。谷歌团队找到一种将图转换为LLMs可以理解的格式的方法，显著提高LLMs在图形问题上超过60%的准确性。
王炸Sora发布后，想要分辨AI视频和真实视频变得更难了，各行各业都面临新的挑战与危机。