2024年英伟达GPU全球最大买家，竟是微软？购买总量将近50万块，超所有竞争对手近两倍。xAI已开心晒出首批发货的GB200 NVL72，喜滋滋的像是提前过年了。囤的GPU越多，模型就会越好吗？来不及解释了，赶紧上车，车门焊死！
抢疯了！马斯克找老黄加价插队拿显卡——为了加速xAI产品研发。
NVIDIA DGX GB200 超级计算集群数据中心部署指南解读，NVIDIA AI 工厂部署与 Broadcom AI 计算 ASIC 光学连接技术
继首台DGX H200之后，OpenAI再次收到了英伟达的首批工程版DGX B200。外媒爆料称，由于微软提供算力不足，OpenAI正与甲骨文开始谈判了。
32GB GDDR7内存，CUDA核心数21760个——
英伟达最强芯片B200被迫推迟三个月，传闻闹的沸沸扬扬。
马斯克官宣xAI建造的世界最大超算集群，由10万块H100搭建，预计本月末开始投入训练。另一边，OpenAI再次加码，将打造由10万块GB200组成的超算，完全碾压xAI。
史上最快Transformer芯片诞生了！用Sohu跑Llama 70B，推理性能已超B200十倍，超H100二十倍！刚刚，几位00后小哥从哈佛辍学后成立的公司Etached，宣布再融资1.2亿美元。
生成式 AI 推理性价比是 GPU 的 140 倍。
基于 Transformer架构的大型语言模型在各种基准测试中展现出优异性能，但数百亿、千亿乃至万亿量级的参数规模会带来高昂的服务成本。例如GPT-3有1750亿参数，采用FP16存储，模型大小约为350GB，而即使是英伟达最新的B200 GPU 内存也只有192GB ，更不用说其他GPU和边缘设备。
