路由与备用模型
控制由哪个服务商运行模型,并在某个服务商繁忙时继续工作。
大多数模型都由多个服务商运行。默认情况下,每次调用都会发往一个合适的服务商,当它宕机时改用另一个。
要按提示的内容把它交给不同的模型,请写一个 bRoute。
变体
在模型 id 后加上变体来引导这一选择:
| 变体 | 作用 |
|---|---|
:nitro | 优先选择最快的服务商。有些收费更高,所以预留会覆盖它们。 |
:floor | 优先选择最便宜的服务商。 |
:exacto | 优先选择已知工具调用最准确的服务商。 |
:online | 先联网搜索。参见联网搜索。 |
{ "model": "deepseek/deepseek-v4.1-flash:nitro" }:batch 以及已停用的变体(如 :thinking)不提供。:free 选择模型的免费版本,它不能再加其他变体:参见免费模型。
备用模型
在 models 中列出其他模型,当第一个模型繁忙或宕机时,调用会沿着列表往下切换:
{
"model": "anthropic/claude-sonnet-5.5",
"models": [
"anthropic/claude-sonnet-5.5",
"openai/gpt-6.1-sol",
"google/gemini-3.8-flash"
],
"max_tokens": 1024
}预留按列表中最贵的模型计算。回答中的 model 字段会说明实际运行的是哪一个。
所有服务商都繁忙时
如果一个模型在它所有的服务商那里都繁忙,会返回 503 model_busy(在 Messages 上为 529),需要等待的时间在 Retry-After-Ms 中。该模型会在这段时间内暂停,所以对它的调用会立即收到同样的回答,不预留任何费用。你备用列表中的模型照常工作。