推理

让模型在回答前先思考,以及思考的费用。

推理模型会先思考再回答。思考多少由你控制。

{
  "model": "openai/gpt-6.1-sol",
  "reasoning": { "effort": "medium" },
  "max_tokens": 4096
}

模型支持哪些强度

每个模型只支持自己的几种强度。GET /api/v1/models 在 reasoning 下列出:

{
  "id": "z-ai/glm-5.3",
  "reasoning": {
    "supported_efforts": ["max", "high", "low"],
    "default_effort": "max",
    "mandatory": true,
    "supports_max_tokens": false
  }
}
  • supported_efforts:它支持的 effort 值,从最深到最浅。模型每次都以同样方式思考时为空。
  • default_effort:请求没有指定强度时它的思考方式。
  • mandatory:它总会思考,所以不会列出 "none"。
  • supports_max_tokens:它在 max_tokens 的一部分内思考。在 max 和 xhigh 时这部分是 95%,所以要给回答留出空间。

模型不推理时,reasoning 为 null。

费用

思考按输出计费,使用模型的输出价格。它计入 max_tokens,所以要给思考和回答都留出空间。

  • effort: "low" 回答更快、更便宜。适合简单的 Agent 步骤。
  • effort: "high" 思考时间最长。留给难题使用。

流式输出会在回答之前实时发送思考过程。在调试台中,它显示在回答上方的思考过程折叠区中。

本页目录