OpenAI自研芯片帝国,全揭秘
OpenAI自研芯片帝国,全揭秘OpenAI挖来前谷歌芯片员工,正与博通洽谈芯片开发。
搜索
OpenAI挖来前谷歌芯片员工,正与博通洽谈芯片开发。
整个市场不再追求大而全,都在走小而精的路线了。
马斯克官宣xAI建造的世界最大超算集群,由10万块H100搭建,预计本月末开始投入训练。另一边,OpenAI再次加码,将打造由10万块GB200组成的超算,完全碾压xAI。
全球第一大半导体代工厂台积电的市值在本周一度超过1万亿美元,该公司将在本月晚些时候公布二季度财报,届时,将会再带动一波股票飞涨。其2nm芯片也进展顺利,最快将于下周试产,早于市场预期。
740 TFLOPS!迄今最强 FlashAttention 来了。
芯片巨头AMD刚刚官宣要再做大做强:
全球首个芯片设计开源大模型SemiKong正式发布,基于Llama 3微调而来,性能超越通用大模型。未来5年,SemiKong或将重塑价值5000亿美元的半导体行业。
微软的这项研究让开发者可以在单卡机器上以 10 倍的速度处理超过 1M 的输入文本。
「无问芯穹」Infini-AI云平台已集成大模型异构千卡混训能力,是全球首个可进行单任务千卡规模异构芯片混合训练的平台。
马斯克连回两条推文为xAI造势,宣布8月发布Grok 2,年底将推出在10万张H100上训练的Grok 3,芯片加持创新数据训练,打造对标GPT的新一代大语言模型。