使用支出提醒跟踪每月 API 费用。要在跟踪到的支出达到设定金额后停止流量,请为您的组织或单个项目启用硬性支出限额。
硬性支出限额可能会中断生产环境流量。当跟踪到的支出达到
适用的硬性限额时,受影响的 API 请求会返回 429 错误,
错误代码为 organization_spend_limit_exceeded 或 project_spend_limit_exceeded。
限额不会即时生效,因此记录的支出可能会略微超过
设定金额。
选择支出控制方式
支出提醒和硬性支出限额的作用不同:
| 控制方式 | 达到设定金额时的行为 | 适用需求 |
|---|---|---|
| 支出提醒 | 发送通知;API 流量继续 | 跟踪支出,同时不中断流量 |
| 硬性支出限额 | 受影响的 API 请求会返回 429 错误 | 强制执行组织或项目的每月支出上限 |
支出提醒不会强制执行支出上限。添加硬性支出限额后,提醒仍会生效,因此您可以使用提醒,在硬性限额中断流量之前收到通知。
OpenAI 还会根据您组织的用量层级,为其核定每月用量限额。OpenAI 核定的这一用量限额与您配置的支出限额相互独立。
配置支出限额
您需要拥有管理相应组织或项目设置的权限。有关详情,请参阅 API 平台权限。
了解硬性限额的行为
组织和项目的硬性限额可以同时适用于同一个请求:
- 组织硬性限额适用于该组织内所有项目的 API 流量。
- 项目硬性限额仅适用于计费到该项目的 API 流量。
- 达到组织硬性限额时,会返回
429错误,错误代码为organization_spend_limit_exceeded。 - 达到项目硬性限额时,会返回
429错误,错误代码为project_spend_limit_exceeded。 - 提高或移除已触发的限额后,流量会在更新传播完成后恢复。否则,限额会在下一个月度周期重置。
限额不会即时生效。在限额状态传播期间,API 平台可能会处理少量额外用量,因此记录的支出可能会略微超过设定金额。
支出提醒
使用支出提醒,在支出达到硬性限额之前收到通知。请在适当的阈值处添加提醒,以便留出时间调整用量、提高限额或调查意外流量。
恢复 API 流量
如果请求因计费相关限额或额度余额问题而失败:
- 检查
error.code,以确定请求是否触发了组织支出限额、项目支出限额或 OpenAI 分配的用量限额,或组织是否已用尽预付额度。 - 对于
organization_spend_limit_exceeded或project_spend_limit_exceeded,请将当前用量与您的支出限额进行比较。如果需要在每月重置之前恢复流量,请提高或移除已触发的限额。 - 对于
organization_usage_limit_exceeded,请申请提高核定用量限额。 - 对于
credit_balance_exhausted,请添加额度。 - 如果错误提示触发了请求或 Token 速率限制,请按照速率限制指南操作。