Batch API 允许你以折扣价格异步处理大量请求。批量请求在后台排队处理， 大多数在 24 小时内完成。这对于不需要即时响应的大规模处理任务非常理想。
实时 API vs Batch API
| 实时 API | Batch API | |
|---|---|---|
| Token 定价 | 标准费率 | 折扣费率（因模型而异） |
| 响应时间 | 即时（秒级） | 通常 24 小时内 |
| 速率限制 | 按分钟限制 | 不计入速率限制 |
批量折扣
批量折扣适用于所有 token 类型 — 输入、输出、缓存和推理 tokens。
| 模型 | 批量折扣 |
|---|---|
| grok-4.3, grok-4.20-0309-reasoning, grok-4.20-0309-non-reasoning, grok-4.20-multi-agent-0309 | 20% |
未列出的模型没有批量折扣。批量折扣仅适用于文本和语言模型。图像和视频生成在 Batch API 中支持，但按标准费率计费。
使用流程
- 准备批量请求文件（JSONL 格式，每行一个请求）
- 上传批量请求文件
- 等待批量处理完成（通常 24 小时内）
- 下载结果文件
适用场景
- 大规模文本分类和标记
- 批量内容生成（如产品描述）
- 数据集处理和扩充
- 定期报告生成
- 离线推理任务