使用支出警示追蹤每月 API 費用。如果希望累計支出達到設定金額後停止 API 流量,請為組織或個別專案啟用強制支出上限。
強制支出上限可能會中斷正式環境的流量。當累計支出達到適用的強制上限時,受影響的 API 請求會傳回 429 錯誤,錯誤代碼為 organization_spend_limit_exceeded 或 project_spend_limit_exceeded。上限生效需要一點時間,因此記錄的支出可能會略高於設定金額。
選擇支出控管方式
支出警示和強制支出上限的作用不同:
| 控管方式 | 達到設定金額時 | 適用情境 |
|---|---|---|
| 支出警示 | 系統會傳送通知,API 流量不中斷 | 想在不中斷流量的情況下追蹤支出 |
| 強制支出上限 | 受影響的 API 請求會傳回 429 錯誤 |
想強制執行組織或專案的每月支出上限 |
支出警示只會發出通知,不會強制限制支出。啟用強制支出上限後,原有的警示仍然有效,因此你可以在流量因達到上限而中斷前收到通知。
OpenAI 也會依據組織的使用量級別核定每月使用量上限。OpenAI 核定的使用量上限與你自行設定的支出上限彼此獨立。
設定支出上限
你需要具備管理該組織或專案設定的權限。詳情請參閱 API 平台權限。
強制上限的運作方式
同一個請求可能同時受組織和專案的強制上限約束:
- 組織的強制上限適用於組織內所有專案的 API 流量。
- 專案的強制上限僅適用於費用計入該專案的 API 流量。
- 組織支出達到強制上限時,API 請求會傳回
429錯誤,錯誤代碼為organization_spend_limit_exceeded。 - 專案支出達到強制上限時,API 請求會傳回
429錯誤,錯誤代碼為project_spend_limit_exceeded。 - 如果調高或移除已達到的上限,流量就能在設定更新生效後恢復。否則,上限會在下一個月度週期開始時重設。
強制上限不會立即生效。在上限狀態同步期間,API 平台可能仍會處理少量額外用量,因此記錄的支出可能會略高於設定金額。
支出警示
使用支出警示,即可在支出達到強制上限前收到通知。設定警示門檻時,請預留足夠時間,以便調整用量、調高上限或調查非預期的流量。
恢復 API 流量
如果請求因帳務相關限制或點數餘額不足而失敗,請依下列步驟處理:
- 檢查
error.code,確認請求失敗是因為已達到組織支出上限、專案支出上限或 OpenAI 核定的使用量上限,還是因為組織已用完預付點數。 - 如果錯誤代碼為
organization_spend_limit_exceeded或project_spend_limit_exceeded,請比對目前的使用量與支出上限。如果需要在每月上限重設前恢復流量,請調高或移除已達到的上限。 - 如果錯誤代碼為
organization_usage_limit_exceeded,請申請調高核定的使用量上限。 - 如果錯誤代碼為
credit_balance_exhausted,請加值點數。 - 如果錯誤訊息指出已達到請求或 Token 的速率限制,請依照速率限制指南處理。