您可以使用支出提醒跟踪每月的 API 费用。如果希望在累计支出达到设定金额后停止相关 API 流量,请为组织或单个项目启用硬性支出限额。
硬性支出限额可能会中断生产环境中的 API 流量。当累计支出达到适用的硬性限额时,受影响的 API 请求会返回 429 错误,错误代码为 organization_spend_limit_exceeded 或 project_spend_limit_exceeded。限额生效需要时间,因此记录的支出可能略高于设定金额。
选择支出控制方式
支出提醒和硬性支出限额的作用不同:
| 控制方式 | 达到设定金额时的行为 | 适用场景 |
|---|---|---|
| 支出提醒 | 发送通知,API 流量不中断 | 希望在不中断流量的情况下跟踪支出 |
| 硬性支出限额 | 受影响的 API 请求返回 429 错误 |
需要强制执行组织或项目的每月支出上限 |
支出提醒不会强制执行支出上限。添加硬性支出限额后,已有的提醒仍然有效,您可以在流量因达到硬性限额而中断之前收到通知。
OpenAI 还会根据组织的用量等级核定每月用量上限。OpenAI 核定的用量上限独立于您设置的支出限额。
设置支出限额
您需要具备管理相应组织或项目设置的权限。有关详情,请参阅 API 平台权限。
了解硬性限额如何生效
同一个请求可以同时受到组织和项目硬性限额的约束:
- 组织硬性限额适用于组织内所有项目的 API 流量。
- 项目硬性限额仅适用于费用计入该项目的 API 流量。
- 达到组织硬性限额时,受影响的请求会返回
429错误,错误代码为organization_spend_limit_exceeded。 - 达到项目硬性限额时,受影响的请求会返回
429错误,错误代码为project_spend_limit_exceeded。 - 如果提高或移除已达到的限额,流量即可在更新生效后恢复。否则,限额会在下一个月度周期开始时重置。
限额不会立即生效。在限额状态同步期间,API 平台可能还会处理请求,产生少量额外用量,因此记录的支出可能略高于设定金额。
支出提醒
使用支出提醒,您可以在支出达到硬性限额之前收到通知。设置提醒阈值时,请留出足够的时间来调整用量、提高限额或排查异常流量。
恢复 API 流量
如果请求因计费相关限额或额度余额不足而失败:
- 检查
error.code,确认请求失败是因为达到了组织支出限额、项目支出限额或 OpenAI 分配的用量上限,还是因为组织已用完预付额度。 - 如果错误代码为
organization_spend_limit_exceeded或project_spend_limit_exceeded,请将当前用量与您设置的支出限额进行比较。如果需要在限额按月重置前恢复流量,请提高或移除已达到的限额。 - 如果错误代码为
organization_usage_limit_exceeded,请申请提高核定的用量上限。 - 如果错误代码为
credit_balance_exhausted,请充值额度。 - 如果错误提示已达到请求速率限制或 Token 速率限制,请按速率限制指南中的说明操作。