搜索
当备受期待的GPT-5历经数次跳票，OpenAI全新发布的o1模型及时挽回了行业的信心，并从此为大模型领域开启了一个新的竞技方向——当推理模型大行其道时，行业如何从Infra层面着手降低推理阶段的算力成本？
Alexnet对人工智能世界具有象征意义，因为现代人工智能的三个基本要素第一次汇聚在一起，第一个要素是神经网络，第二个要素是大数据，即使用ImageNet，第三个要素是GPU计算......
一家名为 VESSL AI 的韩国 MLOps 平台正试图通过专注于使用结合本地和云环境的混合基础设施来优化 GPU 费用，从而为自己开辟新的市场。
近日，来自 CMU 的 Catalyst Group 团队发布了一款 PyTorch 算子编译器 Mirage，用户无需编写任何 CUDA 和 Triton 代码就可以自动生成 GPU 内核，并取得更佳的性能。
世界上首台基于Arm架构的超算，现如今终于退役了。 2018年5月，这台拥有10000个核心的系统Isambard 2首次部署。 它使用了由Cavium开发、台积电制造的64位Armv8 ThunderX2处理器，外加几个Nvidia P100 GPU。
世界上首台基于Arm架构的超算，现如今终于退役了。
为满足AI服务器先进封装的产能需求，台积电正在摩拳擦掌。
在 AI 领域，有两大场景对 GPU 的需求最大，一个是模型训练，另一个是 AI 推理任务。
LLaMA-Omni能够接收语音指令，同步生成文本和语音响应，响应延迟低至 226ms，低于 GPT-4o 的平均音频响应延迟 320ms。
有经销商称已无法下单英伟达H20芯片，有终端厂商称部分国内经销商不再接H20订单。H20或将遭停售的传闻早已在业内传开，其命运走向受关注。业内多方反馈称，H20年内到货已超出全年预期。