Avarodh

基于 DSPy 路由与语义缓存的零信任 AI 网关

Avarodh 是一款面向 LLM 生产部署的零信任 AI 网关，通过 DSPy 智能路由与语义缓存，有效降低重复查询带来的 API 成本。它充当应用后端与外部 AI 服务之间的透明反向代理，内置 DSPy 驱动的防火墙防护提示注入等威胁，并提供租户隔离的缓存、实时遥测面板和隐私优先的缓存控制，让团队无需改造架构就能放心应对安全审计与高并发场景。