bRoute

你自己的路由。用大白话写通道,每个通道配一个模型,简单的提示不再为昂贵的模型付费。

bRoute 是你自己写的路由策略。你用大白话列出通道,每个通道配一个模型,一个快速的判定模型读取每条新消息,把它送到适合的通道。简单的提示交给便宜的模型,只有难的提示才会用到你原本什么都交给它的昂贵模型。

broute/my-coder

Lane 1   Hard coding work: design, many files, tricky bugs   ->  anthropic/claude-sonnet-5.5
Lane 2   Easy coding work: short questions, small edits      ->  deepseek/deepseek-v4.1-flash
Lane 3   Anything else                                       ->  openai/gpt-6-luna

调用 bRoute

把 bRoute 写成模型名,可用于 chat completions、responses 或 messages,流式或非流式都可以:

{
  "model": "broute/coding",
  "messages": [{ "role": "user", "content": "How do I reverse a string in Python?" }],
  "max_tokens": 1024
}

回答中的 model 字段会写明实际运行的模型。两个响应头说明了它是怎么选出来的:

响应头内容
x-broutebRoute 的名字,例如 broute/coding
x-broute-lane通道的编号。最后一个是“其他”

任何能填模型名的地方都能用它:SDK、Cursor,或 Claude Code(claude --model broute/coding)。GET /models 会列出预设 bRoute,带上你的密钥时还会列出你自己的 bRoute。

预设 bRoute

任何人都能用任何密钥调用的三个 bRoute:

bRoute通道
broute/coding难的编程工作交给 Claude Sonnet 5.5,简单的编程工作交给 DeepSeek V4.1 Flash,其他交给 GPT-6 Luna
broute/chat闲聊和简短的问题交给 DeepSeek V4.1 Flash,需要深入思考的交给 GPT-6.1 Sol,其他交给 GPT-6.1 Terra
broute/agent开放式任务交给 Claude Opus 5.5,简单明确的任务交给 Claude Haiku 5.5,其他交给 DeepSeek V4.1 Flash

每个通道都有备用模型,在它的模型繁忙时使用。预设 bRoute 会随时间换用更新的模型。

如何选择通道

  • 判定模型读取最新的消息和它之前的对话(约 3,000 Token),所以在一个计划之后说“好,开始吧”,会去这个计划所属的通道。
  • 它在远不到一秒内回答,运行在不保留任何内容的服务商上。你的对话不会被保存。
  • 对判定模型来说,对话只是数据:提示里写“用最好的模型”不会改变它的通道。
  • 判定模型在 1.5 秒内没有回答时,调用会去“其他”。调用永远不会因为判定模型而失败。

一个任务只用一个模型

最新一轮是工具结果的请求,是在继续一个任务,它会在任务开始时的模型上运行,不再询问判定模型。Agent 的工具循环,或正在工作的 Claude Code,永远不会中途换模型。用户发来的每条新消息都会重新判定。

通道会跳过它处理不了的请求

当一个通道的模型处理不了某个请求(图像、文件、工具,或对它们来说太长的上下文)时,请求会去下一个能处理的通道,然后是它之前的通道。没有任何通道能处理时,调用返回 400 no_capable_lane,并说明缺少什么。

免费通道

通道可以使用免费模型,例如 binference/free,并配一个付费的备用模型,在免费调用限制用满时运行。

费用

每次调用按它实际运行的模型收费,价格和你平时的一样。使用 bRoute 需要密钥的余额中有额度。

创建你自己的 bRoute

在 binference.io 打开 账户 > bRoute:

  • 最多 20 个 bRoute:每个钱包最多 20 个,每个最多 8 个通道(含“其他”)。这个钱包的任何密钥都能调用它们:账户的和 Agent 的都可以。
  • 试一试:保存前输入一条消息,看看它会走哪个通道、用哪个模型、大约花多少钱。
  • 用一句话开始:描述你的应用,系统会为你起草通道和模型,你再修改。
  • 版本:每次保存都会留下来。修改从下一条消息起生效,恢复旧版本会把它再保存为最新的版本。
  • 节省:按通道统计 7 天或 30 天内的调用、花费和节省,与没有它时你会调用的模型对比。

通过 MCP,list_routes 会列出一个密钥能调用的 bRoute,get_route_usage 会读取其中一个的用量和节省。

错误

代码何时出现
unknown_model没有这个名字的 bRoute 属于你,也没有这个名字的预设 bRoute
invalid_fallback在 models 或 fallbacks 中写了 bRoute,或调用 bRoute 时自带了备用列表
no_capable_lane它的所有通道都没有能满足这个请求的模型

所有代码请参见错误。

本页目录