PCIe显卡被低估了!内核补齐+通信重构,DeepSeek推理吞吐直接翻近7倍
PCIe显卡被低估了!内核补齐+通信重构,DeepSeek推理吞吐直接翻近7倍是石科技自研Meta-Infer高效推理引擎通过内核补齐、算子通信重构、并行调优与缓存复用等纯软件手段,在不改动模型前提下将DeepSeek-V4.1-Flash在PCIe显卡上的推理吞吐提升近7倍,该方法论同样适用于DeepSeek-V4-Flash、GLM5.3及国产GPU。
来自主题: AI资讯
7736 点击 2026-09-25 10:09