Messages · bInference 文档

Anthropic 的格式，Claude Code 和 Anthropic SDK 使用它。它适用于所有列出的模型，不只是 Claude。

和 Anthropic 自己的 API 一样，max_tokens 是必填的。繁忙的模型会返回 529 overloaded_error，这样 Claude Code 会切换到它的备用模型。Messages 的返回不包含费用：请在你的调用记录页面查看每次调用的扣费。

这里不存储任何内容，所以按 id 引用的文件和代码执行容器会返回 400，文件 API、代码执行、Skills 和 MCP 连接器的 anthropic-beta 标志也不会转发。请以内联方式或通过 URL 发送文件。

用 Authorization: Bearer binf_... 或 x-api-key 发送你的密钥。

请求体

这里列出的是大多数调用会用到的字段。Anthropic 格式的其他字段都会按原样转发。

modelstring必填
来自 GET /models 的模型 ID。Claude 客户端自己使用的名称也可以：claude-sonnet-5-5、带日期的名称和 [1m] 后缀都会映射到列出的模型。
messagesobject[]必填
到目前为止的对话，user 和 assistant 交替出现。
max_tokensinteger必填
回答的最大长度，以 Token 计。调用运行期间会预留这么多输出的费用。
systemstring | object[]
系统提示词。
streamboolean
以服务器发送事件的形式，边生成边发送回答。超过一句话的回答都建议使用：流式调用最长可运行 30 分钟，其他调用 13 分钟。
temperaturenumber
随机性，0 到 2。越低越可预测。
toolsobject[]
模型可以调用的函数，采用该格式自己的结构。由你的代码运行它们，并把结果发回。也支持联网搜索和网页抓取。
thinkingobject
{ "type": "enabled", "budget_tokens": 2048 } 开启扩展思考。思考内容按输出计费。

请求头

anthropic-versionstring
按原样转发。Anthropic SDK 会自动设置。
anthropic-betastring
按原样转发，用于测试版功能。

idstring
消息的 ID。
contentobject[]
内容块：text、thinking 和 tool_use。
stop_reasonstring
回答结束的原因。
usageobject
input_tokens 和 output_tokens。Messages 格式不包含费用：一分钟内可以在你的调用记录页面查看每次调用的扣费。

响应头

x-binference-call-idstring
这次调用在你调用记录页面上的 ID。联系我们时请提供它。
x-generation-idstring
模型服务商为这次回答生成的 ID。
retry-afterinteger
出现 429 或 503 时：重新发送前需要等待的整秒数。
retry-after-msinteger
同样的等待时间，以毫秒计。OpenAI 和 Anthropic SDK 会读取它。

请求

curl https://binference.io/api/v1/messages \  -H "Authorization: Bearer $BINF_API_KEY" \  -H "anthropic-version: 2023-06-01" \  -H "Content-Type: application/json" \  -d '{    "model": "anthropic/claude-sonnet-5.5",    "max_tokens": 256,    "system": "You are a concise trading assistant.",    "messages": [      {        "role": "user",        "content": "Summarize the last 24 hours of trades in one line."      }    ]  }'

{  "id": "msg_01XFDUDYJgAACzvnptvVoYEL",  "type": "message",  "role": "assistant",  "model": "anthropic/claude-sonnet-5.5",  "content": [    {      "type": "text",      "text": "12 trades today: 9 wins, net +3.4 BNB, biggest move on $NOVA."    }  ],  "stop_reason": "end_turn",  "usage": {    "input_tokens": 27,    "output_tokens": 22  }}

流式输出（stream: true）

event: message_startdata: {"type":"message_start","message":{"id":"msg_01XFDUDYJgAACzvnptvVoYEL","role":"assistant","usage":{"input_tokens":27,"output_tokens":1}}}event: content_block_deltadata: {"type":"content_block_delta","index":0,"delta":{"type":"text_delta","text":"12 trades today"}}event: message_deltadata: {"type":"message_delta","delta":{"stop_reason":"end_turn"},"usage":{"output_tokens":22}}event: message_stopdata: {"type":"message_stop"}