Skip to content

Providers 与 Backends

Backend 是可复用的 Provider 账号或兼容模型端点。你只需要在控制台添加一次,就可以在多个 model group 中重复使用。

Backends 管理

支持的 Provider 类型

内置 Provider

使用 OpenAI、Anthropic、OpenRouter、DeepSeek、Z.AI、Minimax、Novita AI 等 catalog Provider。

Coding Plans

添加面向 coding 的 plan 账号,并监控额度、重置窗口和 fallback 行为。

自定义端点

接入私有或第三方 OpenAI-compatible / Anthropic-compatible 服务。

共享容量

一个 backend 可以被多个 model group 使用,同时仍然按 backend 查看健康和用量。

Backend 页面显示什么

  • Provider 和模型身份。
  • Backend 是按量计费还是 plan。
  • 可用余额、quota 或 reset window。
  • 实时并发和限流压力。
  • 当前有哪些 model group 在使用它。

最佳实践

  • 使用清晰名称,例如 anthropic-prodopenai-backupglm-coding-plan
  • 分开生产、测试和合作伙伴账号。
  • 编辑或删除 backend 前,先检查 “used in”。
  • 对 Coding Plan 配置可靠的按量计费 fallback。

面向多模型、多 Provider 和 Coding Plan 场景的统一 AI Gateway 文档。