LLM Test Server

无需依赖供应商的 LLM 测试

LLM Test Server 是一款本地运行、结果确定的大模型测试替身，可模拟 13 家 LLM 提供商的 API；应用只需保留官方 SDK，并将请求指向 /openai/v1 等命名空间路由。其响应、工具调用、流式输出和异常均由测试夹具控制，面板还能追踪系统提示词、工具 Schema、对话轮次及提示缓存的 Token 消耗。项目专为 .NET 与 Aspire 打造，也提供 Docker 镜像，开源且免费。