跳转到内容

路由与 Provider

路由与 Provider

路由回答的是：这个入站请求应该交给哪个已配置 provider？ Provider 配置回答的是：这个 provider 使用什么 wire protocol 和哪个上游 endpoint？

请求协议 vs provider 协议

request_protocol 是可选 route 过滤条件，基于 ProxAI 从入站 endpoint 检测出的协议。
Provider protocol 控制发给上游时使用的 wire format。
如果 route 省略 request_protocol，它可以匹配从请求 path 检测出的任意入站协议。
如果 route 设置了 request_protocol，并且模型命中但入站协议不同，ProxAI 会返回配置错误，而不是静默落到默认 provider。

支持的协议值

协议值	使用位置	含义
`openai_responses`	`请求与 provider`	OpenAI Responses API
`openai_chat_completions`	`请求与 provider`	OpenAI Chat Completions API
`anthropic_messages`	`请求与 provider`	Anthropic Messages API

Route 匹配模型

一条 route 通常类似：

[[routing.routes]]
name = "minimax_m3_chat"
request_protocol = "openai_chat_completions"
match_kind = "exact"
model_pattern = "MiniMax-M3-preview"
provider = "minimax"
upstream_model = "MiniMax-M3"

关键字段：

字段	作用
`name`	CLI override 使用的稳定标识
`request_protocol`	可选 endpoint/protocol 保护条件
`match_kind`	`exact`、`glob`、`regex` 或 `auto`
`model_pattern`	逻辑模型选择器
`provider`	route 命中时选择的 provider 名称
`upstream_model`	发往上游前可选模型改写

Provider 定义

Provider 描述一个具体上游：

[providers.minimax]
protocol = "anthropic_messages"
base_url = "https://example.invalid"
api_key = "..."
compatibility = "anthropic_compatible"
read_idle_timeout_secs = 60

Provider protocol 决定是否需要请求转换。例如，一个入站 openai_chat_completions 请求如果被路由到 anthropic_messages provider，就需要 openai_chat_completions -> anthropic_messages 转换路径。Provider api_key 一定会发给上游（OpenAI provider 用 Authorization: Bearer，Anthropic provider 用 x-api-key），并覆盖客户端传入的认证 header，见行为契约 C11 和 C12。

相关文档