AI资讯新闻榜单内容搜索-本地模型部署技术

关键词: AI新闻,DeepSeek V4Flash,端侧大模型部署技术,本地模型部署技术,FreeToken

本周五，AI 社区热烈讨论的是一个端侧大模型部署技术，它能让笔记本 RTX 4060 跑 Qwen 3.6-35B，桌面 RTX 5090 跑得起 DeepSeek-V4-Flash 284B。而且都是单卡，模型都是满血的。Codex 生产 trace 的中位 decode 速度是 33 token/s