Den vollständigen Index der Dokumentation findest du in llms.txt. Die Markdown-Version einer Dokumentationsseite erhältst du, indem du .md an die URL der Seite anhängst.
Hauptnavigation
Design

Ultrafast-Modus

Unsere schnellste API-Servicestufe für Anwendungen, bei denen es auf geringe Latenz ankommt.

Ultrafast

Der Ultrafast-Modus ist die schnellste Servicestufe der OpenAI API. Er ist für GPT-6 Astra und GPT-6.1 Sol allgemein verfügbar. Nutze ihn, wenn die kürzere Antwortzeit die höheren Kosten rechtfertigt.

Wir empfehlen ausdrücklich WebSockets, besonders für agentenbasierte Anwendungen, die viele Tool-Aufrufe in kurzer Folge ausführen. Ohne dauerhafte Verbindung kann der zusätzliche Netzwerkaufwand den Latenzvorteil schmälern.

Alle, die die API nutzen, haben Zugriff auf den Ultrafast-Modus für GPT-6 Astra und GPT-6.1 Sol. Für Ultrafast gelten eigene Ratenlimits, unabhängig vom Standardmodus und vom Schnellmodus. Prüfe die Limits deiner Organisation, bevor du das Anfragevolumen erhöhst. Wenn deine Organisation mit einem Account-Team von OpenAI zusammenarbeitet, wende dich an dieses Team, um höhere Ratenlimits zu beantragen.

Anfrage konfigurieren

Setze model auf gpt-6-astra oder gpt-6.1-sol und service_tier auf ultrafast. Gib beide Werte in jedem response.create-Ereignis an.

Installiere das SDK für deine Programmiersprache und die WebSocket-Abhängigkeiten wie im Abschnitt Verbindung herstellen und Antworten erstellen beschrieben. Setze OPENAI_API_KEY in deiner Umgebung, bevor du das Beispiel ausführst.

Ultrafast für mehrere Gesprächsrunden über dieselbe WebSocket-Verbindung nutzen
# Install: pip install --upgrade "openai[realtime]"
# Set OPENAI_API_KEY in your environment.

from openai import OpenAI

client = OpenAI()

previous_response_id: str | None = None
prompts = [
    "Explain why the sky is blue in one sentence.",
    "Now explain why sunsets look red.",
]

with client.responses.connect() as connection:
    for prompt in prompts:
        connection.response.create(
            model="gpt-6-astra",
            service_tier="ultrafast",
            store=False,  # Keep this conversation on the current connection.
            previous_response_id=previous_response_id,
            input=prompt,
        )

        for event in connection:
            if event.type == "response.output_text.delta":
                print(event.delta, end="", flush=True)
            elif event.type == "response.completed":
                previous_response_id = event.response.id
                print()
                break
            elif event.type in {"response.failed", "response.incomplete", "error"}:
                raise RuntimeError(event.to_json())
        else:
            raise RuntimeError("Connection closed before the response finished.")

Die Beispiele senden zwei Anfragen über dieselbe Verbindung und geben jede Antwort aus. Die Beispiele für Go, Java und Ruby warten mit der Ausgabe, bis die jeweilige Antwort vollständig vorliegt. Die zweite Anfrage enthält den neuen Prompt und übergibt die ID der ersten Antwort als previous_response_id. Nutze dieselbe Verbindung für weitere Gesprächsrunden und zum Übermitteln von Tool-Ergebnissen. Mehr dazu findest du im Abschnitt Mit inkrementellen Eingaben fortfahren.

Alternative über HTTP

Ultrafast unterstützt auch HTTP-Anfragen über das SDK. Verwende für agentenbasierte Anwendungen mit häufigen Tool-Aufrufen eine dauerhafte WebSocket-Verbindung, um den Netzwerkaufwand zwischen Anfragen zu verringern.

Eine Ultrafast-Antwort über HTTP erstellen
from openai import OpenAI

client = OpenAI()

response = client.responses.create(
    model="gpt-6-astra",
    input="Explain why the sky is blue in one sentence.",
    service_tier="ultrafast",
)

print(response.output_text)

Dieses Beispiel wartet, bis die Antwort vollständig vorliegt. Aktiviere Streaming, um die Ausgabe schon während des Empfangs anzuzeigen.

Verfügbarkeit

Für GPT-6.1 Sol gelten im Ultrafast-Modus standardmäßig folgende Ratenlimits für Token:

API-Nutzungsstufe Token pro Minute (TPM)
Build 1.000.000
Launch 4.000.000
Grow 40.000.000

Für GPT-6 Astra gelten im Ultrafast-Modus standardmäßig folgende Ratenlimits für Token:

API-Nutzungsstufe Token pro Minute (TPM)
Build 500.000
Launch 1.000.000
Grow 5.000.000

In der Preistabelle für Ultrafast findest du die Preise für Eingaben, zwischengespeicherte Eingaben, Schreibvorgänge im Cache und Ausgaben.

GPT-6.1 Sol unterstützt im Ultrafast-Modus Datenresidenz in den USA und in der EU sowie die globale Verarbeitung. Bei GPT-6 Astra unterstützt der Ultrafast-Modus ausschließlich Datenresidenz in den USA und die globale Verarbeitung.