AI资讯新闻榜单内容搜索-LLaMA

关键词: GPU,AI,Llama 3.1,算力,AI硬件,超算集群

是时候用CPU通用服务器跑千亿参数大模型了！

关键词: 大模型,AI,Llama 3.1,SOTA,人工智能

最近一段时间开源大模型市场非常热闹，先是苹果开源了70亿参数小模型DCLM，然后是重量级的Meta的Llama 3.1 和Mistral Large 2相继开源，在多项基准测试中Llama 3.1超过了闭源SOTA模型。 不过开源派和闭源派之间的争论并没有停下来的迹象。

关键词: AI,AI人物,李沐,Llama 3.1,AI八卦

AI大神李沐老师时隔1年多，终于回归B站“填坑”经典论文精读系列了！

关键词: AI,Llama 7B,Meta,LLM,RLHF,DPO,模型训练

Meta、UC伯克利、NYU共同提出元奖励语言模型，给「超级对齐」指条明路：让AI自己当裁判，自我改进对齐，效果秒杀自我奖励模型。

关键词: GPT-5,Llama 4,AI,大模型,Meta

今年的图形学顶级会议 SIGGRAPH 2024 上，老黄把扎克伯格请来了。

关键词: LLaMA3,AI,大模型,人工智能

LLaMA3-405B的模型效果已经赶上目前最好的闭源模型GPT-4o和Claude-3.5，这可能是未来大模型开源与闭源的拐点，这里就LLaMA3的模型结构、训练过程与未来影响等方面说说我的看法。

关键词: Llama 3.1,模型训练,数据集,合成数据集

适逢Llama 3.1模型刚刚发布，英伟达就发表了一篇技术博客，手把手教你如何好好利用这个强大的开源模型，为领域模型或RAG系统的微调生成合成数据。

关键词: Llama 3.1,H100,AI芯片,GPU

在Meta的Llama 3.1训练过程中，其运行的1.6万个GPU训练集群每3小时就会出现一次故障，意外故障中的半数都是由英伟达H100 GPU和HBM3内存故障造成的。

关键词: Llama3.1,H100,AI,人工智能,算力

每3个小时1次、平均1天8次，Llama 3.1 405B预训练老出故障，H100是罪魁祸首？

关键词: 小模型,GPT-4o mini,AI,人工智能,Llama 3.1

不是大模型用不起，而是小模型更有性价比。