AI资讯新闻榜单内容搜索-训练集群

关键词: AI,AI算力,Sim2Train,大规模训练集群

就在刚刚，华为首次亮相了一套“虚”的技术—— 数字化风洞，一个在正式训推复杂AI模型之前，可以在电脑中“彩排”的虚拟环境平台

关键词: 字节AI,NeurIPS,AI实习生,田柯宇

太戏剧了！攻击字节训练集群的实习生，居然刚刚获得了NeurIPS 2024最佳论文奖？虽然看起来像爽文剧情，但这位高材生接下来的路，应该是难走了。

关键词: AI,AI芯片,AI训练集群,AI基础设施

2024年7月22日凌晨，xAI创始人Elon Musk在推特上正式宣布，在凌晨4:20分正式启动了世界上最强的AI训练集群。 这个训练集群建设在美国田纳西州孟菲斯市，集合了10 万个液冷H100芯片。

关键词: Scaling Law,GPT-6,AI,模型训练

9 月 2 日，马斯克发文称，其人工智能公司 xAI 的团队上线了一台被称为「Colossus」的训练集群，总共有 100000 个英伟达的 H100 GPU。

关键词: AI,智算中心,Colossus,训练集群

马斯克又搞出了一个超级厉害的东西——人工智能训练集群Colossus！

关键词: Llama3,AI,豆包大模型,模型训练

伴随大模型迭代速度越来越快，训练集群规模越来越大，高频率的软硬件故障已经成为阻碍训练效率进一步提高的痛点，检查点（Checkpoint）系统在训练过程中负责状态的存储和恢复，已经成为克服训练故障、保障训练进度和提高训练效率的关键。

关键词: Llama 3.1,H100,AI芯片,GPU

在Meta的Llama 3.1训练过程中，其运行的1.6万个GPU训练集群每3小时就会出现一次故障，意外故障中的半数都是由英伟达H100 GPU和HBM3内存故障造成的。

关键词: 马斯克,AI,AI集群,H100,算力

10万块液冷H100正式开工，马斯克19天建成世界最强AI训练集群。

关键词: GPT-6,GPT-5,chatGPT,openai,AI

【新智元导读】GPT-5还未发布，GPT-6已经在路上了？微软工程师曝出，为GPT-6搭建10万个H100训练集群，整个电网却被搞崩。通往AGI大关，还需要破解电力难题。

关键词: Meta,Llama 3,AI显卡集群,训练集群,H100,AGI

LLM开源从Infra做起！Meta公布了自己训练Llama 3的H100集群细节，看来Llama 3快来了。