“存算一体”是大模型AI芯片的破局关键?
“存算一体”是大模型AI芯片的破局关键?近年来,随着Transformer模型的大规模发展和应用,模型大小每两年平均增长240倍,GPT-3等大模型的参数增长已经超过了GPU内存的增长。在大算力激增的需求下,越来越多行业人士认识到,新的计算架构或许才是算力破局的关键。
近年来,随着Transformer模型的大规模发展和应用,模型大小每两年平均增长240倍,GPT-3等大模型的参数增长已经超过了GPU内存的增长。在大算力激增的需求下,越来越多行业人士认识到,新的计算架构或许才是算力破局的关键。
AI手机,距离取代传统手机不远了。
如果把AI塞进一盏台灯,会是什么样子?
又一苹果高管被曝将加入OpenAI首个硬件设备研发项目中!他就是苹果产品设计副总裁Tang Tan,曾参与iPhone、Apple Watch的产品设计。
英伟达正式发布针对中国市场的4090 D,性能砍了10%,价格却没降。不过重要的是,又能买到英伟达的旗舰显卡了。
在12月推出AI新品之际,英特尔CEO基辛格把枪口对准了英伟达。基辛格先是公开强调英伟达CUDA软件的护城河没有外界想象的那么深,接着在麻省理工的一场论坛上名褒暗贬,称英伟达在AI GPU领域极其幸运(extraordinarily lucky)。
千呼万唤始出来,第五代英特尔® 至强® 可扩展处理器,它来了!若是用一句话来概括它的特点,那就是——AI味道越发得浓厚。
最近,两位哈佛辍学生共同创立的AI芯片公司,估值已达3400万美元,并计划明年交付一款名为「Sohu」的AI推理加速芯片——其LLM推理性能达到H100的10倍,而单价吞吐量更是高达140倍。
大模型的下一场战争:带摄像头的智能眼镜?大模型之战席卷了整个2023年,紧接着的是,各大科技巨头似乎都瞄准了AI可穿戴设备,尤其是智能眼镜!
苹果新发布适用于苹果芯片的机器学习框架MLX,MLX是一个类似于NumPy的阵列框架,旨在为使用苹果硬件的研究人员简化 ML 模型的训练和部署。