全美TOP 5机器学习博士:痛心,实验室H100数量为0!同实验室博士用GPU得靠抢
全美TOP 5机器学习博士:痛心,实验室H100数量为0!同实验室博士用GPU得靠抢全美TOP 5的机器学习博士痛心发帖自曝,自己实验室里H100数目是0!这也引起了ML社区的全球网友大讨论。显然,相比普林斯顿、哈佛这样动辄三四百块H100的GPU大户,更常见的是GPU短缺的「穷人」。同一个实验室的博士,甚至时常会出现需要争抢GPU的情况。
全美TOP 5的机器学习博士痛心发帖自曝,自己实验室里H100数目是0!这也引起了ML社区的全球网友大讨论。显然,相比普林斯顿、哈佛这样动辄三四百块H100的GPU大户,更常见的是GPU短缺的「穷人」。同一个实验室的博士,甚至时常会出现需要争抢GPU的情况。
在谈到 AI、大模型、算力等关键词时,如果要提及硬件产品,很多人应该会不假思索的说出英伟达。
可在单张A100/H100 GPU或TPU主机上高效运行全精度推理。
算力需求仍在,服务器大有可为。
千卡GPU只是开始。
说起半导体行业面临的难题,人们第一时间想到的是什么?是光刻机?是5nm?是一块方方正正的芯片,我们造不出来?
一年一届的AI行业顶级路演又来了!这次,继续征集国内外新生的AI初创公司前来参赛,不仅有千万算力等着你,还有超豪华的投资天团齐聚“模都”上海。报名倒计时7天!
AI的终点是电力。因为数据中心最终要实现可持续发展,净零碳排放,AI的真正的终点是清洁电力。
在英伟达市值猛涨、各家科技巨头囤芯片的热潮中,我们往往会忽视GPU芯片是如何转变为数据中心算力的。最近,一篇SemiAnalysis的技术文章就深入解读了10万卡H100集群的构建过程。
强过英伟达Thor