SPECTRA

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
SPECTRA
访问
98
31725

一键将任意 LLM 压缩至原来的三分之一,近乎无损,10 秒内完成。


SPECTRA 可在 10 秒内一键将任意 LLM 压缩约 3 倍,并近乎无损地将物理显存占用最多缩减 3.3 倍,让数十亿参数模型原生运行在入门级 4GB 边缘 GPU 上。它通过网络拓扑分析直接缩减模型,无需域偏移或漫长预处理,支持每秒 82+ tokens 的高速推理并避免显存溢出。