百万卡AI集群,离不开英伟达网络
百万卡AI集群,离不开英伟达网络马斯克xAI建超算集群,以太网助AI云迅猛发展。
来自主题: AI资讯
4219 点击 2024-08-22 17:38
马斯克xAI建超算集群,以太网助AI云迅猛发展。
本期我们邀请到了 纽约大学计算机科学院博士 童晟邦 带来【多模态大模型:视觉为中心的探索】的主题分享。
AI市场迎来又一位新玩家。
AI芯片的竞争,又多了几分看点。
大模型进入推理阶段,性价比压过算力。
AI 大模型的爆发带动了 GPU 的强劲需求,从云端到边缘渗透的 AI 应用也将带动边缘 AI 服务器及加速处理器的需求。
2024年上海的7月是一个沉闷的雨季,但对国产AI 行业来说,却迎来了堪比摇滚乐集会的WAIC(世界人工智能大会)。
在一平方毫米的硅片上建立数百万个连接。
跨GPU的注意力并行,最高提速8倍,支持512万序列长度推理。
有CPU就能跑大模型,性能甚至超过NPU/GPU!