Den vollständigen Index der Dokumentation findest du in llms.txt. Die Markdown-Version einer Dokumentationsseite erhältst du, indem du .md an die URL der Seite anhängst.
Hauptnavigation
Design

API-Antworten streamen

Erfahre, wie du Modellantworten der OpenAI API mit Server-Sent Events streamst.

Wenn du eine Anfrage an die OpenAI API sendest, erzeugt das Modell standardmäßig die gesamte Ausgabe, bevor die API sie in einer einzigen HTTP-Antwort zurückgibt. Bei langen Ausgaben kann es dauern, bis du die Antwort erhältst. Mit Streaming kannst du die ersten Teile der Antwort bereits ausgeben oder verarbeiten, während das Modell den Rest erzeugt.

Dieser Leitfaden behandelt HTTP-Streaming (stream=true) mit Server-Sent Events (SSE). Wie du über eine dauerhafte WebSocket-Verbindung mit previous_response_id schrittweise weitere Eingaben sendest, erfährst du im Leitfaden zum WebSocket-Modus der Responses API.

Streaming aktivieren

Um Antworten zu streamen, setze stream=True in deiner Anfrage an den Responses-Endpunkt.

from openai import OpenAI

client = OpenAI()

stream = client.responses.create(
    model="gpt-6-astra",
    input=[
        {
            "role": "user",
            "content": "Say 'double bubble bath' ten times fast.",
        },
    ],
    stream=True,
)

for event in stream:
    print(event)

Die Responses API verwendet beim Streaming semantische Ereignisse. Für jeden Ereignistyp gibt es ein vordefiniertes Schema. So kannst du gezielt auf die Ereignisse reagieren, die für deine Anwendung relevant sind.

Eine vollständige Liste der Ereignistypen findest du in der API-Referenz zum Streaming. Das folgende Beispiel zeigt einige davon.

for await (const event of stream) {
  if (event.type === "response.output_text.delta") {
    process.stdout.write(event.delta);
  } else if (event.type === "response.completed") {
    console.log("\nResponse completed.");
  } else if (event.type === "error") {
    console.error(event.message);
  }
}

Antworten lesen

Wenn du unser SDK verwendest, erhältst du jedes Ereignis als typisierte Instanz. Den Typ eines einzelnen Ereignisses kannst du auch an seiner Eigenschaft type erkennen.

Die API sendet einige wichtige Ereignisse im Lebenszyklus einer Antwort nur einmal. Andere sendet sie mehrfach, während das Modell die Antwort erzeugt. Beim Textstreaming reagierst du häufig auf folgende Ereignisse.

- `response.created`
- `response.output_text.delta`
- `response.completed`
- `error`

Eine vollständige Liste der Ereignisse, auf die du reagieren kannst, findest du in der API-Referenz zum Streaming.

Fortgeschrittene Anwendungsfälle

Für fortgeschrittene Anwendungsfälle wie das Streaming von Tool-Aufrufen findest du weitere Informationen in diesen Leitfäden.

Risiken bei der Moderation

Wenn du Modellausgaben im Produktivbetrieb streamst, erschwert das die Moderation der generierten Inhalte, weil sich unvollständige Antworten unter Umständen schwerer beurteilen lassen. Das kann sich darauf auswirken, welche Nutzung zulässig ist.

Wenn du Moderationsbewertungen mit derselben Anfrage wie die Textgenerierung anforderst, erhältst du die Bewertungen erst, wenn die vollständige Ausgabe vorliegt. Die einzelnen Deltas im Stream enthalten keine Bewertungen.