实测基元律动 OpenSquilla,我终于不用替AI 选模型了

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
实测基元律动 OpenSquilla,我终于不用替AI 选模型了
8417点击    2026-11-19 09:10

国产模型当中,DeepSeek 写文档最有人味,GLM-5.3 写代码性价比最高,Kimi 做前端最好看。


这些特性几乎人人都知道。


但也几乎没人天天照着用。


原因很简单,在同一个会话里来回切模型,太麻烦了。


难不成我每次派任务出去,还要自己心里先掂量一下,这活到底该用哪个模型?


这就真的很烦。


所以大多数时候,我们都是挑一个最强的模型,一路用到底。


只是这样一来,就有了一个很荒诞的画面。你发一句哈喽,回复你的,是一个旗舰模型。


牛刀杀鸡,几乎每天都在发生。


直到我最近在 GitHub 上看到一个项目,叫 OpenSquilla,它想干的事就一件,根据任务的难度,自动调度不同档位的模型。


实测基元律动 OpenSquilla,我终于不用替AI 选模型了


/同一场对话,模型自己换/


听着有点意思,于是我把它下载下来体验了一下。


先给它发了一句,“哈喽”。


回复上方有一条「智能模型路由」,四个模型一字排开,这次用的是 qwen3.8-flash,四个里最便宜的那个。


实测基元律动 OpenSquilla,我终于不用替AI 选模型了


接着我让它快速探索一下本地的一个开源项目 Multica,梳理出它的定位和核心功能,这次它自动切到了 glm-5.3。


实测基元律动 OpenSquilla,我终于不用替AI 选模型了


有点东西。


然后我让它基于刚才梳理的信息,输出一份 Multica 的架构文档,它又自动切回了 qwen3.8-flash。


实测基元律动 OpenSquilla,我终于不用替AI 选模型了


按开头那个说法,写文档本该是 DeepSeek 的活。


结果它派给了四个里最便宜的那个。


想想也说得通,项目上一步已经被 glm-5.3 摸清楚了,这一步是在梳理好的东西上往下写,用不着贵的。而且这份文档也不糊弄,用时 2 分 48 秒,有 Mermaid 画的系统全景图,还把 120 张左右的表按 9 个业务域归了类。


顺手查了一下两个模型的官方价。qwen3.8-flash 每百万 token 输入 0.8 元、输出 2.7 元,glm-5.3 是 8 元和 28 元,差了整整 10 倍。


这一来一回,贵的 glm-5.3 只花在了读懂项目的那 31 秒上。用时最长、大概率也最吃 token 的写文档那一步,交给了便宜 10 倍的模型。


/选模型这件事,本身也得省钱/


测试到这里,我就比较好奇 OpenSquilla 到底是怎么实现自动调度的?


于是我就去翻了一下他们的论文。


实测基元律动 OpenSquilla,我终于不用替AI 选模型了


翻完发现,这东西技术上还真有点含金量。论文里有组数,在端到端的 Agent 基准上,它的本地路由保住了固定用旗舰模型 99.96% 的任务质量,成本降了 88.9%。


换成钱就是,全程用 Claude Opus 4.7 要花 6.23 美元的一套题,它只花了 0.69 美元。


它的路由原理大概是这样的,我画了个简单的动态图来描述:


实测基元律动 OpenSquilla,我终于不用替AI 选模型了


它先把模型按能力分成四档,从快速简单到最高质量,你可以理解成一个团队里的四个岗位,实习生、正式员工、骨干、专家。


然后在你电脑上装了一个调度员,你每发一句话,它判断一下该派给哪个岗位。


这个调度员由两个很小的模型组成。一个叫 BERT,负责看懂你这句话想干嘛。一个叫 LightGBM,负责拍板分到哪一档。


它看的东西也很简单,你说了什么、带没带代码、上下文有多长、前面几轮判的是哪一档。


所以同一件事接着聊,它会沿用原来那一档,你点了重做,它才往上升一档。


那为什么不直接让大模型来当调度员?


因为用大模型来判断该用哪个大模型,本身就是牛刀杀鸡。


这两个小模型都在本地跑,判断一次几毫秒,不花一分钱 token,直接本地就搞定。


/新模型出来,也不用自己去测/


不过真正有意思的是,岗位是固定的,坐在岗位上的模型,每个月都可以换。


模型一个月一代,所以 OpenSquilla 每个月会拿不同的模型去修代码、跨 App 办事这些真实任务,把主流模型考一遍,既看成绩也看花费,又好又便宜的,下个月上岗。


十一月是第一期,模型排班是这样的。


实习生岗 qwen3.8-flash,正式员工岗 deepseek-v4.1-flash,骨干岗 glm-5.3,专家岗 kimi-k3,也就是下面截图里的 C0 到 C3。


实测基元律动 OpenSquilla,我终于不用替AI 选模型了


模型路由这里有个使用 TokenRhythm 推荐分层的按钮,启动时检查一次,之后每 24 小时检查一次。


也就是说,新模型出来,你完全不用自己去测,OpenSquilla 测完新模型的含金量,会按照实际效果,动态下发给你确认后再用。


这样你本地的 Agent 就可以尽量兼顾效果和成本。


有没有很爽?


不过想让它在这几个模型之间来回调度,前提是这几个模型你都得调得到。要是一家家去注册、充值、拿 key,那又是另一种麻烦了。


所以 OpenSquilla 直接内置了 TokenRhythm 和 OpenRouter,一个 key 就能覆盖全部四档。


拿 TokenRhythm 来说,充好 Token 额度,把 API key 填进 OpenSquilla,或者直接在客户端里登录账号,就能用起来了,余额和当天用量在客户端里也能直接查看。


OpenSquilla 本身是开源免费的,花钱的只是模型调用。


文章来自于"贾克斯的平行世界",作者 "贾克斯的平行世界"。

AI转型,免费服务,就找AITNT
AITNT资源拓展
根据文章内容,系统为您匹配了更有价值的资源信息。内容由AI生成,仅供参考
1
智能体

【开源免费】AutoGPT是一个允许用户创建和运行智能体的(AI Agents)项目。用户创建的智能体能够自动执行各种任务,从而让AI有步骤的去解决实际问题。

项目地址:https://github.com/Significant-Gravitas/AutoGPT


【开源免费】MetaGPT是一个“软件开发公司”的智能体项目,只需要输入一句话的老板需求,MetaGPT即可输出用户故事 / 竞品分析 / 需求 / 数据结构 / APIs / 文件等软件开发的相关内容。MetaGPT内置了各种AI角色,包括产品经理 / 架构师 / 项目经理 / 工程师,MetaGPT提供了一个精心调配的软件公司研发全过程的SOP。

项目地址:https://github.com/geekan/MetaGPT/blob/main/docs/README_CN.md