bRoute
你自己的路由。用大白话写通道,每个通道配一个模型,简单的提示不再为昂贵的模型付费。
bRoute 是你自己写的路由策略。你用大白话列出通道,每个通道配一个模型,一个快速的判定模型读取每条新消息,把它送到适合的通道。简单的提示交给便宜的模型,只有难的提示才会用到你原本什么都交给它的昂贵模型。
broute/my-coder
Lane 1 Hard coding work: design, many files, tricky bugs -> anthropic/claude-sonnet-5.5
Lane 2 Easy coding work: short questions, small edits -> deepseek/deepseek-v4.1-flash
Lane 3 Anything else -> openai/gpt-6-luna调用 bRoute
把 bRoute 写成模型名,可用于 chat completions、responses 或 messages,流式或非流式都可以:
{
"model": "broute/coding",
"messages": [{ "role": "user", "content": "How do I reverse a string in Python?" }],
"max_tokens": 1024
}回答中的 model 字段会写明实际运行的模型。两个响应头说明了它是怎么选出来的:
| 响应头 | 内容 |
|---|---|
x-broute | bRoute 的名字,例如 broute/coding |
x-broute-lane | 通道的编号。最后一个是“其他” |
任何能填模型名的地方都能用它:SDK、Cursor,或 Claude Code(claude --model broute/coding)。GET /models 会列出预设 bRoute,带上你的密钥时还会列出你自己的 bRoute。
预设 bRoute
任何人都能用任何密钥调用的三个 bRoute:
| bRoute | 通道 |
|---|---|
broute/coding | 难的编程工作交给 Claude Sonnet 5.5,简单的编程工作交给 DeepSeek V4.1 Flash,其他交给 GPT-6 Luna |
broute/chat | 闲聊和简短的问题交给 DeepSeek V4.1 Flash,需要深入思考的交给 GPT-6.1 Sol,其他交给 GPT-6.1 Terra |
broute/agent | 开放式任务交给 Claude Opus 5.5,简单明确的任务交给 Claude Haiku 5.5,其他交给 DeepSeek V4.1 Flash |
每个通道都有备用模型,在它的模型繁忙时使用。预设 bRoute 会随时间换用更新的模型。
如何选择通道
- 判定模型读取最新的消息和它之前的对话(约 3,000 Token),所以在一个计划之后说“好,开始吧”,会去这个计划所属的通道。
- 它在远不到一秒内回答,运行在不保留任何内容的服务商上。你的对话不会被保存。
- 对判定模型来说,对话只是数据:提示里写“用最好的模型”不会改变它的通道。
- 判定模型在 1.5 秒内没有回答时,调用会去“其他”。调用永远不会因为判定模型而失败。
一个任务只用一个模型
最新一轮是工具结果的请求,是在继续一个任务,它会在任务开始时的模型上运行,不再询问判定模型。Agent 的工具循环,或正在工作的 Claude Code,永远不会中途换模型。用户发来的每条新消息都会重新判定。
通道会跳过它处理不了的请求
当一个通道的模型处理不了某个请求(图像、文件、工具,或对它们来说太长的上下文)时,请求会去下一个能处理的通道,然后是它之前的通道。没有任何通道能处理时,调用返回 400 no_capable_lane,并说明缺少什么。
免费通道
通道可以使用免费模型,例如 binference/free,并配一个付费的备用模型,在免费调用限制用满时运行。
费用
每次调用按它实际运行的模型收费,价格和你平时的一样。使用 bRoute 需要密钥的余额中有额度。
创建你自己的 bRoute
在 binference.io 打开 账户 > bRoute:
- 最多 20 个 bRoute:每个钱包最多 20 个,每个最多 8 个通道(含“其他”)。这个钱包的任何密钥都能调用它们:账户的和 Agent 的都可以。
- 试一试:保存前输入一条消息,看看它会走哪个通道、用哪个模型、大约花多少钱。
- 用一句话开始:描述你的应用,系统会为你起草通道和模型,你再修改。
- 版本:每次保存都会留下来。修改从下一条消息起生效,恢复旧版本会把它再保存为最新的版本。
- 节省:按通道统计 7 天或 30 天内的调用、花费和节省,与没有它时你会调用的模型对比。
通过 MCP,list_routes 会列出一个密钥能调用的 bRoute,get_route_usage 会读取其中一个的用量和节省。
错误
| 代码 | 何时出现 |
|---|---|
unknown_model | 没有这个名字的 bRoute 属于你,也没有这个名字的预设 bRoute |
invalid_fallback | 在 models 或 fallbacks 中写了 bRoute,或调用 bRoute 时自带了备用列表 |
no_capable_lane | 它的所有通道都没有能满足这个请求的模型 |
所有代码请参见错误。