Den vollständigen Index der Dokumentation findest du in llms.txt. Die Markdown-Version einer Dokumentationsseite erhältst du, indem du .md an die URL der Seite anhängst.
Hauptnavigation
Design

Kostenoptimierung

Erfahre, wie GPT-Live und die Realtime API die Sprachnutzung abrechnen und wie du die Kosten steuern kannst.

Wähle deine API aus, um zu erfahren, wie sie die Nutzung misst und wie du die Kosten deiner Sprachanwendung steuern kannst.

Nutzung und Kosten von GPT-Live

Bei GPT-Live läuft das Sprachgespräch getrennt vom Backend, das Aufgaben durchdenkt und Tools ausführt. Schätze die Kosten für beide Teile separat. Die Kosten der Sprachsitzung richten sich nach ihrer Dauer, die Backend-Kosten nach den verwendeten Modellen und Tools.

Kosten der Sprachsitzung

GPT-Live rechnet Sprachsitzungen sekundengenau zum aktuellen Preis des Modells ab. Die Sitzungsdauer wird nicht auf die nächste volle Minute aufgerundet.

Zur aktiven Sitzungszeit zählt die Zeit, in der die Person spricht, der Assistent spricht, beide schweigen oder das Backend arbeitet.

Rechne für deine Schätzung mit der gesamten aktiven Sitzungszeit vom Start bis zum Schließen. Verwende die von der API gemeldete Dauer. Wenn du nur die Wiedergabezeit misst, erfasst du lediglich einen Teil der Sitzung. Das Stummschalten des Mikrofons beendet die Sitzung nicht. Schließe die Sitzung, sobald das Gespräch beendet ist, und erfasse die abschließenden Nutzungsdaten.

Die Preise für Backend-Modelle und Tools findest du in der API-Preisübersicht.

Kosten für die WebRTC-Initialisierung

Bei einer Anfrage mit POST /v1/live/sessions zum Erstellen einer WebRTC-Sitzung werden während der Initialisierung 15 Sekunden Sprachsitzungszeit berechnet. Sobald die Sitzung läuft, wird dieser Betrag auf die zeitabhängigen Sitzungskosten angerechnet. Addiere bei der Kostenschätzung für die laufende Sitzung keine weiteren 15 Sekunden.

Die 90 Sekunden im folgenden Beispiel enthalten bereits die 15 Sekunden, die bei der Initialisierung berechnet wurden. Eine Abrechnung über 105 Sekunden würde diese Zeit doppelt zählen. Berücksichtige die Kosten für das Erstellen einer Sitzung, wenn du Verbindungswiederherstellungen bewertest oder wenn deine Anwendung Sitzungen erstellt, bevor jemand zum Sprechen bereit ist.

Backend-Kosten

Backend-Aufrufe werden getrennt von der Sprachsitzung abgerechnet, genauso wie bei Anwendungen ohne Sprachfunktion. Berücksichtige die Eingabe- und Ausgabetoken des Modells, gegebenenfalls Eingaben aus dem Cache sowie anfallende Kosten für Bilder oder Tools. Beziehe auch die Kosten anderer Dienste ein, die deine Anwendung aufruft.

Du kannst die Verarbeitung im Backend unabhängig vom Sprach-Frontend optimieren. Im allgemeinen Leitfaden zur Kostenoptimierung erfährst du, wie du die Anzahl der Anfragen und den Tokenverbrauch reduzierst. Nutze bei Backend-Modellen, die es unterstützen, Prompt-Caching. Platziere dazu wiederverwendbare Anweisungen, Tool-Definitionen und andere gleichbleibende Inhalte am Anfang des Prompts.

Deine Entscheidungen im Backend können auch die Gesprächsdauer beeinflussen. Vergleiche die Gesamtkosten, wenn eine Optimierung die Wartezeit verlängert oder sich darauf auswirkt, wie zuverlässig der Assistent die Aufgabe erledigt.

Gesprächskosten schätzen

Für ein Gespräch mit einer Sprachsitzung gilt:

Gesamtkosten = (abrechenbare Sitzungsdauer in Sekunden ÷ 60 × Preis pro Sprachminute) + Backend-Kosten

Bei einem beispielhaften Preis von 0,05 USD pro Minute kostet eine Sprachsitzung von 90 Sekunden 0,075 USD. Fallen im Backend insgesamt 0,02 USD für Modell und Tools an, kostet das Gespräch 0,095 USD.

Komponente Berechnung Kosten
Sprachsitzung 90 Sekunden ÷ 60 × 0,05 USD 0,075 USD
Verarbeitung im Backend Summe der Modell- und Tool-Kosten 0,02 USD
Gesamtkosten des Gesprächs 0,075 USD + 0,02 USD 0,095 USD

Die Preise und Backend-Kosten in dieser Rechnung dienen als Beispiel. Verwende für deine Schätzung den aktuellen Preis pro Sprachminute, die gemessene Backend-Nutzung und die geltenden Preise für Modelle und Tools. Erstreckt sich eine Aufgabe über mehrere Sprachsitzungen, addiere deren Dauer und berücksichtige auch die Verarbeitung im Backend zwischen den Sitzungen.

Strategien zur Optimierung

Hilf der Person, ihre Aufgabe mit weniger unnötigen Gesprächsschritten und kürzeren Wartezeiten zu erledigen. Behalte die für die Aufgabe erforderlichen Bestätigungen und Prüfungen bei.

Relevanten Kontext vor der Sitzung bereitstellen

Trage vor Beginn der Sprachsitzung die Informationen zusammen, die deine Anwendung bereits verwenden darf. Hilft ein Assistent beispielsweise bei einer Bestellung, kann er mit der Bestellnummer und dem aktuellen Bestellstatus starten. So muss die Person diese Angaben weder wiederholen noch eine weitere Abfrage abwarten.

Halte den Kontext aktuell und beschränke ihn auf die Aufgabe. Stelle dem Modell die Informationen bereit, die es für das Sprachgespräch braucht. Detaillierte Datensätze und Arbeitsabläufe gehören ins Backend. Mehr dazu erfährst du in den Abschnitten Sitzungskonfiguration und Delegation und Tools.

Wartezeit bei Tool-Aufrufen verkürzen

Kürzere Wartezeiten können die Bedienung angenehmer machen und die Kosten der Sprachsitzung senken. Angenommen, dein Backend verwendet gpt-5.6-luna im Schnellmodus und führt unabhängige Tool-Aufrufe parallel aus. Kann die Person ihre Aufgabe dadurch eine Minute früher abschließen und die Sprachsitzung beenden, sparst du 0,05 USD an Sitzungskosten. Die Gesamtkosten sinken, wenn die zusätzlichen Backend-Kosten geringer sind als diese Ersparnis.

Du kannst auch anhand von Transkriptfragmenten vorsorglich eine Abfrage starten, bevor ein Delegationsereignis eintrifft. Erfasse bei der Messung deiner Backend-Kosten auch vorsorglich ausgeführte Vorgänge, deren Ergebnisse ungenutzt bleiben.

Der Abschnitt Backend-Latenz reduzieren erläutert, wie du Modellnutzung, Verbindungen, Streaming und Tool-Aufrufe optimieren kannst. Prüfe mit Evaluationen für Sprachagenten, wie lange es bis zu einer hilfreichen gesprochenen Antwort dauert und ob die Aufgabe erfolgreich abgeschlossen wird.

Sitzung bei länger dauernden Aufgaben schließen

Das Sprach-Frontend und das von deiner Anwendung verwaltete Backend können unabhängig voneinander laufen. Bei der Delegation an den Client kann dein Backend-Worker weiterarbeiten, unabhängig davon, ob die Sprachsitzung geöffnet oder geschlossen ist. Speichere den Aufgabenstatus und den Gesprächskontext, bevor du die Sprachsitzung schließt.

Der Abschnitt Inaktive Sitzungen schließen und fortsetzen erläutert, wie du das Zeitlimit bei Inaktivität festlegst, den Neustart auslöst und den Kontext wiederherstellst.

Bei einem im Hintergrund verfügbaren Agenten schließt du die Sprachsitzung, während das Backend eine länger dauernde Aufgabe bearbeitet, etwa beim Programmieren im Zielmodus. Biete die Schaltfläche „Gespräch fortsetzen“ an, mit der die Person bei ihrer Rückkehr eine neue Sprachsitzung starten kann. Alternativ kannst du über ein Abschlussereignis im Backend eine neue Sitzung starten und der Person mitteilen, dass das Ergebnis vorliegt.

Um das Gespräch wieder aufzunehmen, starte eine neue Sitzung und übergib den gespeicherten Kontext und das geprüfte Aufgabenergebnis in input. Sende beispielsweise dieses Startereignis über eine neue WebSocket-Verbindung:

{
  "type": "session.start",
  "session": {
    "model": "gpt-live-1",
    "instructions": "Help the user review completed work and delegate follow-up tasks.",
    "input": [
      {
        "type": "message",
        "role": "developer",
        "content": [
          {
            "type": "input_text",
            "text": "Saved task: add CSV export. Result: code is ready for review."
          }
        ]
      }
    ],
    "delegation": { "type": "client" }
  }
}

Warte auf session.started, bevor du Audio streamst. Der Abschnitt Sitzung mit einem früheren Gesprächsverlauf starten beschreibt das unterstützte Format für den Gesprächsverlauf.

Wenn die frühere Sitzung mit store: true gespeichert wurde, kannst du auch diese Sitzung forken. Speichere bei beiden Vorgehensweisen den geprüften Status der Backend-Aufgabe in deiner Anwendung.

Wenn du die Sprachsitzung schließt, sparst du pro Minute Leerlauf 0,05 USD. Wäge die Ersparnis gegen die Kosten für den erneuten Verbindungsaufbau und die Auswirkungen der Unterbrechung auf die Bedienung ab.

Das passende Backend-Modell wählen

Wähle zunächst Modelle aus, die für die Aufgabe ausreichend genau und zuverlässig sind. Vergleiche anschließend die Gesamtkosten des Gesprächs. Berücksichtige dabei die Dauer der Sprachsitzung, die Modellnutzung, Tool-Aufrufe und Wiederholungsversuche. Der Leitfaden zur Modellauswahl erläutert, wie du diese Faktoren abwägst.

Ein größeres Backend-Modell kann insgesamt günstiger sein, wenn es die Aufgabe schneller erledigt und die Ersparnis bei der Sprachsitzung die zusätzlichen Tokenkosten übersteigt. Ein günstigeres Modell kann insgesamt teurer sein, wenn es länger braucht, Tool-Aufrufe wiederholt oder die Aufgabe nicht erfolgreich abschließt.

Vergleiche neben den Kosten pro erfolgreich erledigter Aufgabe auch die Erfolgsquote und die Zeit bis zum Abschluss. Rechne fehlgeschlagene Versuche und Wiederholungen in die Gesamtkosten ein. So schneidet eine günstigere Konfiguration im Vergleich nicht allein deshalb besser ab, weil sie weniger Aufgaben erledigt. Nutze für die Planung deines Vergleichs das Cookbook zur Evaluation von Sprachagenten.

Tatsächliche Nutzung erfassen

Erfasse für jede Sitzung die Dauer der Sprachsitzung und die Backend-Nutzung getrennt. GPT-Live meldet die bisherige Gesamtdauer der Sprachsitzung in Sekunden:

{
  "type": "session.usage.updated",
  "event_id": "event_usage_1",
  "usage": { "seconds": 12 },
  "context_window": { "usage_ratio": 0.42 }
}

Jede Aktualisierung ersetzt den zuvor gemeldeten Stand. Addiere die Zwischenstände nicht. Empfange nach dem Senden von session.close weiterhin Ereignisse, bis session.closed eintrifft, und erfasse den darin gemeldeten Endwert von usage.seconds genau einmal. Folge dem Ablauf zum geordneten Schließen der Sitzung, damit deine Anwendung die abschließenden Nutzungsdaten erfasst, bevor sie die Verbindung trennt.

Bei der Delegation an die Responses API liest du usage für die jeweilige Backend-Antwort aus den verschachtelten response.completed-Ereignissen aus, die über response.event eintreffen. Zähle jede Backend-Antwort anhand ihrer Antwort-ID genau einmal. Bewahre die Angaben zu Eingabetoken, Ausgabetoken und zwischengespeicherten Token auf, die du für die Berechnung zu den Preisen des jeweiligen Modells brauchst. Führt deine Anwendung Backend-Aufgaben unabhängig davon aus, erfasse auch die Nutzung dieser Anfragen.

Vergleiche die geschätzten mit den tatsächlichen Gesamtkosten anhand repräsentativer Gespräche. Erfasse Modellaufrufe, die ausschließlich der Evaluation dienen, getrennt von der Nutzung durch die Anwendung. Betrachte die Kosten gemeinsam mit dem Aufgabenerfolg.