如需查看完整的文档索引,请参阅 llms.txt。在文档页面的 URL 末尾加上 .md 即可查看该页面的 Markdown 版本。
主导航
主题

超快速模式

速度最快的 API 服务层级,适用于对延迟敏感的任务。

超快速模式

超快速模式是 OpenAI API 中速度最快的服务层级,支持 GPT-6.2 Astra、GPT-6.2 Sol、GPT-6 Astra 和 GPT-6.1 Sol。如果您的任务值得为更快的响应速度支付更高的费用,可以使用此模式。

要在 ChatGPT 工作或 Codex 中使用超快速模式,请在编辑器中选择速度。

我们强烈建议使用 WebSocket,尤其是在智能体应用需要短时间内连续多次调用工具时。如果不使用持久连接,网络开销可能会抵消一部分延迟优势。

所有 API 用户都可以在 GPT-6 Astra 和 GPT-6.1 Sol 上使用超快速模式。 超快速模式的速率限制独立于标准模式和快速模式。增加流量前,请先查看您所在组织的速率限制。 如果您的组织有对接的 OpenAI 客户团队,请联系该团队申请提高速率限制。

配置请求

将 model 设为 gpt-6.2-astra、gpt-6.2-sol、gpt-6-astra 或 gpt-6.1-sol。在每个 response.create 事件中,将 service_tier 设为 ultrafast。

请按照建立连接并创建响应中的说明,安装您所用编程语言的 SDK 和 WebSocket 依赖项。运行示例前,请在环境中设置 OPENAI_API_KEY。

在同一 WebSocket 连接上使用超快速模式进行多轮交互
# Install: pip install --upgrade "openai[realtime]"
# Set OPENAI_API_KEY in your environment.

from openai import OpenAI

client = OpenAI()

previous_response_id: str | None = None
prompts = [
    "Explain why the sky is blue in one sentence.",
    "Now explain why sunsets look red.",
]

with client.responses.connect() as connection:
    for prompt in prompts:
        connection.response.create(
            model="gpt-6-astra",
            service_tier="ultrafast",
            store=False,  # Keep this conversation on the current connection.
            previous_response_id=previous_response_id,
            input=prompt,
        )

        for event in connection:
            if event.type == "response.output_text.delta":
                print(event.delta, end="", flush=True)
            elif event.type == "response.completed":
                previous_response_id = event.response.id
                print()
                break
            elif event.type in {"response.failed", "response.incomplete", "error"}:
                raise RuntimeError(event.to_json())
        else:
            raise RuntimeError("Connection closed before the response finished.")

这些示例通过同一连接发送两个请求,并打印每个响应。Go、Java 和 Ruby 示例会等到收到完整响应后再打印。第二个请求会发送新的提示词,并将第一个响应的 ID 作为 previous_response_id 传入。在后续轮次中以及发送工具结果时,请继续使用同一连接。请参阅使用增量输入继续交互。

通过 HTTP 发送请求

超快速模式也支持通过 SDK 发送 HTTP 请求。对于频繁调用工具的智能体应用,请使用持久 WebSocket 连接,以减少请求之间的网络开销。

通过 HTTP 创建超快速模式响应
from openai import OpenAI

client = OpenAI()

response = client.responses.create(
    model="gpt-6-astra",
    input="Explain why the sky is blue in one sentence.",
    service_tier="ultrafast",
)

print(response.output_text)

此示例会等待完整响应。如果希望边接收边显示输出,请启用流式传输。

可用性

请查看您所在组织对 GPT-6.2 Astra 和 GPT-6.2 Sol 的速率限制。

GPT-6.1 Sol 在超快速模式下的默认 Token 速率限制如下:

API 使用层级 每分钟 Token 数(TPM)
Build 1,000,000
Launch 4,000,000
Grow 40,000,000

GPT-6 Astra 在超快速模式下的默认 Token 速率限制如下:

API 使用层级 每分钟 Token 数(TPM)
Build 500,000
Launch 1,000,000
Grow 5,000,000

有关输入、缓存输入、缓存写入和输出的价格,请参阅超快速模式价格表。

GPT-6.2 Astra 和 GPT-6.2 Sol 的超快速模式仅支持美国数据驻留。有关其他服务层级的信息,请参阅数据驻留指南。

GPT-6.1 Sol 的超快速模式支持美国和欧盟的数据驻留,并支持全球处理。GPT-6 Astra 的超快速模式仅支持美国数据驻留和全球处理。