如需查看完整的文档索引,请参阅 llms.txt。在文档页面的 URL 末尾加上 .md 即可查看该页面的 Markdown 版本。
主导航
主题

预留层级

为生产工作负载和高峰流量预留模型容量。

通过预留层级,Enterprise 客户可以为特定模型预留 API 容量。OpenAI 提供容量保障,上限取决于您每分钟预留的美元金额。当该模型需求较高时,OpenAI 会优先处理您预留额度内的请求,其优先级高于同一共享基础设施上的按量付费流量。如果您的生产工作负载需要可预测的容量,或您预计在产品发布或黑色星期五、网络星期一等特殊活动期间流量会激增,可以使用预留层级。

预留容量自动适用于该模型符合条件的标准模式和快速模式请求。即使实际用量低于预留容量,您仍需按预留容量全额付费。超出预留容量的用量按您平时的按量付费费率计费,并受您平时的速率限制约束。

Astra、Sol、Terra 和 Luna 系列中的部分模型支持预留层级。如需开通,请联系销售团队。如果您的组织已开通预留层级,获得授权的采购人员可以在容量管理中选择添加容量,查看可预留容量的模型。