AI资讯新闻榜单内容搜索-GPU

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
搜索: GPU
无问芯穹夏立雪:目标将大模型算力成本压缩四个数量级,为算力市场带来增量

无问芯穹夏立雪:目标将大模型算力成本压缩四个数量级,为算力市场带来增量

无问芯穹夏立雪:目标将大模型算力成本压缩四个数量级,为算力市场带来增量

算力不足仍然是制约通用人工智能发展的重要因素。GPU Utils 今年 8 月的一份数据显示,全球目前 H100 等效算力的供给缺口达到 43 万张。在解决算力不足的问题上,除了抢购和囤积英伟达,更多的方案正在浮出水面。

来自主题: AI资讯
10294 点击    2023-12-24 15:20
国产千卡千亿模型训练平台落地:70B到130B大模型训练,线性加速比达91%

国产千卡千亿模型训练平台落地:70B到130B大模型训练,线性加速比达91%

国产千卡千亿模型训练平台落地:70B到130B大模型训练,线性加速比达91%

国内首个以国产全功能GPU为底座的大规模算力集群,正式落地了!这便是来自摩尔线程的KUAE智算中心,全国产千卡千亿模型训练平台。

来自主题: AI资讯
9489 点击    2023-12-21 11:03
李飞飞吴恩达等2024年AI十大预测!GPU短缺,AI智能体一年内大爆发

李飞飞吴恩达等2024年AI十大预测!GPU短缺,AI智能体一年内大爆发

李飞飞吴恩达等2024年AI十大预测!GPU短缺,AI智能体一年内大爆发

2023这个大模型爆发的元年即将过去,展望未来,比尔盖茨,李飞飞,吴恩达等人对2024年人工智能的发展作出了自己的预测。

来自主题: AI资讯
9584 点击    2023-12-20 14:56
苹果大模型最大动作:开源M芯专用ML框架,能跑70亿大模型

苹果大模型最大动作:开源M芯专用ML框架,能跑70亿大模型

苹果大模型最大动作:开源M芯专用ML框架,能跑70亿大模型

苹果M系列芯片专属的机器学习框架,开源即爆火!现在,用上这个框架,你就能直接在苹果GPU上跑70亿参数大模型、训练Transformer模型或是搞LoRA微调。

来自主题: AI资讯
9240 点击    2023-12-07 16:14
 4GB 显存单卡居然能跑 70B 大模型了!

4GB 显存单卡居然能跑 70B 大模型了!

4GB 显存单卡居然能跑 70B 大模型了!

大语言模型需要消耗巨量的GPU内存。有可能一个单卡GPU跑推理吗?可以的话,最低多少显存?70B大语言模型仅参数量就有130GB,仅仅把模型加载到GPU显卡里边就需要2台顶配100GB内存的A100。

来自主题: AI资讯
7530 点击    2023-12-07 11:00
最强AI芯片H200?黄仁勋又在挤牙膏了

最强AI芯片H200?黄仁勋又在挤牙膏了

最强AI芯片H200?黄仁勋又在挤牙膏了

英伟达推出的新一代GPU,NVIDIA HGX H200,被称为“最强AI芯片”。H200在推理速度、显存容量和带宽等方面相较于H100有显著提升。文章还提到了英伟达为中国市场推出的改良版GPU H20,虽然性能较H200有所降低,但在带宽方面更高,成本也更低。

来自主题: AI资讯
3002 点击    2023-11-16 10:56
不做大模型的AI芯片,清华大学“ACCEL”有何不同?

不做大模型的AI芯片,清华大学“ACCEL”有何不同?

不做大模型的AI芯片,清华大学“ACCEL”有何不同?

提及人工智能AI相关的算力芯片,现在绝大多数人的第一反应都是英伟达NVIDIA的GPU,作为AI模型搭建的基础,英伟达的A100/H100几乎成为了一块块“金砖”,深受业界喜爱。

来自主题: AI资讯
1910 点击    2023-11-10 09:43
OpenAI大佬甩出「喵喵GPT」调戏黑客!分享ChatGPT成功的秘密:极限压榨GPU资源

OpenAI大佬甩出「喵喵GPT」调戏黑客!分享ChatGPT成功的秘密:极限压榨GPU资源

OpenAI大佬甩出「喵喵GPT」调戏黑客!分享ChatGPT成功的秘密:极限压榨GPU资源

OpenAI的工程团队经理(Engineering Manager)Evan Morikawa在一个开发者活动中分享了如何带领OpenAI的工程团队来应对ChatGPT的爆发式增长,以及用猫来调戏黑客等一系列趣事。

来自主题: AI资讯
4880 点击    2023-11-08 15:17