AI资讯新闻榜单内容搜索-ASIC

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
搜索: ASIC
新注意力让大模型上下文内存占用砍半!精度不减还能加速2倍

新注意力让大模型上下文内存占用砍半!精度不减还能加速2倍

新注意力让大模型上下文内存占用砍半!精度不减还能加速2倍

大模型同样的上下文窗口,只需一半内存就能实现,而且精度无损? 前苹果ASIC架构师Nils Graef,和一名UC伯克利在读本科生一起提出了新的注意力机制Slim Attention。

来自主题: AI资讯
5786 点击    2025-03-17 19:52
Deepseek的隐喻:GPU失其鹿,ASIC、SOC们共逐之

Deepseek的隐喻:GPU失其鹿,ASIC、SOC们共逐之

Deepseek的隐喻:GPU失其鹿,ASIC、SOC们共逐之

诚如我们在《Deepseek的意义、价值与影响》中所阐述的那样,开源模型Deepseek的率先冲线,标志着 “机器智能寒武纪时刻”的启动,产业即将因此进入应用创新大爆发周期。

来自主题: AI资讯
6720 点击    2025-02-06 12:08
揭秘transformer专用ASIC芯片:Sohu!

揭秘transformer专用ASIC芯片:Sohu!

揭秘transformer专用ASIC芯片:Sohu!

2022年,我们打赌说transformer会统治世界。 我们花了两年时间打造Sohu,这是世界上第一个用于transformer(ChatGPT中的“T”)的专用芯片。

来自主题: AI资讯
7074 点击    2025-01-03 14:44
博通开启AI基建2.0时代?美股又一批公司创新高,透露这些信号

博通开启AI基建2.0时代?美股又一批公司创新高,透露这些信号

博通开启AI基建2.0时代?美股又一批公司创新高,透露这些信号

与英伟达的震荡走势形成对比的是,美股AI产业链新一批“明星股”正在崛起。这些公司覆盖了AEC、DCI、存储、ASIC、光纤等业务,多家透露订单强劲,从中或许不难窥见AI基建投资的最新风向。

来自主题: AI资讯
6490 点击    2024-12-18 09:35
纯技术文章(PPT原文):英伟达 GB200 超级计算集群数据中心部署;AI 工厂与 Broadcom AI ASIC光学连接

纯技术文章(PPT原文):英伟达 GB200 超级计算集群数据中心部署;AI 工厂与 Broadcom AI ASIC光学连接

纯技术文章(PPT原文):英伟达 GB200 超级计算集群数据中心部署;AI 工厂与 Broadcom AI ASIC光学连接

NVIDIA DGX GB200 超级计算集群数据中心部署指南解读,NVIDIA AI 工厂部署与 Broadcom AI 计算 ASIC 光学连接技术

来自主题: AI技术研报
6694 点击    2024-11-05 09:38
从架构、工艺到能效表现,全面了解LLM硬件加速,这篇综述就够了

从架构、工艺到能效表现,全面了解LLM硬件加速,这篇综述就够了

从架构、工艺到能效表现,全面了解LLM硬件加速,这篇综述就够了

大语言模型(LLM)的发展同时往往伴随着硬件加速技术的进化,本文对使用 FPGA、ASIC 等芯片的模型性能、能效表现来了一次全面概览。

来自主题: AI资讯
9533 点击    2024-09-20 13:29
AI芯片的未来,未必是GPU

AI芯片的未来,未必是GPU

AI芯片的未来,未必是GPU

在商业需求更明确的未来,FPGA或ASIC将成为更优的底层计算设备。

来自主题: AI资讯
5477 点击    2024-06-20 13:56
小白也能看懂的国内外 AI 芯片概述

小白也能看懂的国内外 AI 芯片概述

小白也能看懂的国内外 AI 芯片概述

随着越来越多的企业将人工智能应用于其产品,AI芯片需求快速增长,市场规模增长显著。因此,本文主要针对目前市场上的AI芯片厂商及其产品进行简要概述。

来自主题: AI技术研报
7457 点击    2024-02-07 11:49