baar-core

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
baar-core
访问
49
15465

在大语言模型 API 账单产生之前就止住它,而不是事后补救


baar-core 是一款帮助你控制 LLM API 开销的开源工具,它会在每次 API 调用前检查预算,一旦超出限额就会在本地触发异常中断请求,从源头避免意外产生高额账单。它支持语义路由降低 84% 成本、按用户分配配额,同时兼容 LangGraph 与 FastAPI,可通过 pip 直接安装。