快速开始

One AI Gateway 主要通过 https://modelplane.dev 的 Web 控制台使用。你可以在控制台添加 Provider 账号、组装 Model Group、设置路由、查看用量和管理计费。开发者只需要拿到最终的 model group 名称来发起 LLM 调用。

首次配置

1. 打开 https://modelplane.dev 上的 One AI Gateway 控制台。
2. 进入 Backends，添加团队要使用的 Provider 账号或 Coding Plan。
3. 进入 Model Groups，为每个产品场景创建一个模型组。
4. 打开 Routing Editor，设置 fallback 顺序、负载均衡池和安全触发器。
5. 把 model group 名称交给开发者，用于 LLM 调用。

你会在 UI 里配置什么

Backends

可复用的 Provider 账号、自定义兼容端点和 Coding Plan 账号。

Model Groups

面向业务的模型别名，例如 coding-agent、smart-llm 或 fast-cheap。

Routing

Fallback 链、负载均衡、条件分支、预算限制、额度触发器和并发触发器。

Usage

请求量、tokens、费用、错误率、延迟，以及按 API key、group、backend 或 model 归因。

推荐上线流程

先用一个可靠 backend 和一个 model group 上线。集成稳定后，再增加 fallback 层和用量监控。对 coding-heavy 工作负载，建议把 Coding Plan backend 放在第一层，把按量计费 Provider 账号放在后续 fallback 层。