首页/高级用法/优先处理

优先处理

为文本请求提供更高的调度优先级,降低延迟。

优先处理为文本请求提供更高的调度优先级,适合对延迟敏感的应用。 优先请求按标准费率的 2 倍 溢价计费。

标准 vs 优先

标准优先
Token 定价标准费率2x 标准费率
响应时间标准调度优先级更高调度优先级

2 倍乘数适用于所有 token 类型 — 输入、输出、缓存和推理。提示缓存折扣在乘数之前应用。

计费说明:只有当响应确认 "service_tier": "priority" 时,才按优先费率计费。 如果请求以默认层级服务,则按标准费率计费。

使用限制

  • 仅适用于 Chat Completions 和 Responses 端点
  • 不支持图像生成和视频生成
  • 不支持 Batch API 请求

适用场景

  • 实时聊天机器人 — 需要快速响应的用户交互
  • 实时编码助手 — 需要低延迟的代码补全
  • 生产环境关键应用 — 对延迟敏感的核心服务
  • 高峰时段 — 在负载较高时保持响应速度