Den vollständigen Index der Dokumentation findest du in llms.txt. Die Markdown-Version einer Dokumentationsseite erhältst du, indem du .md an die URL der Seite anhängst.
Hauptnavigation
Design
Mar 11, 2026 API

Von Prompts zu Produkten: Ein Jahr Responses API

Fünf Geschichten aus der Entwicklung von Produkten mit KI-Agenten im ersten Jahr der Responses API.

Verfasst von: Eva Sasson

Von Prompts zu Produkten: Ein Jahr Responses API

Vor einem Jahr haben wir die Responses API vorgestellt. Sie bietet Entwicklungsteams und Unternehmen eine Grundlage, um nützliche und zuverlässige Agenten zu entwickeln. Mit gehosteten Tools können KI-Modelle über die Rolle eines Chat-Assistenten hinausgehen und in deinem Auftrag handeln. Heute bietet die Responses API eine Reihe von Tools für Workflows mit Agenten. Hinzu kommen neue Funktionen und grundlegende Bausteine, die speziell für die Entwicklung mit leistungsfähigeren Modellen gedacht sind.

Tausende von Entwicklerinnen und Entwicklern nutzen die Responses API heute, um die Produktivität in Bereichen wie dem Kundensupport, dem Rechtswesen, den Biowissenschaften und der Reisebranche zu steigern. Über viele Erfolge aus diesen Branchen haben wir bereits berichtet. Heute stellen wir fünf weniger bekannte Geschichten von Menschen vor, die im vergangenen Jahr Produkte mit der Responses API entwickelt haben.

Fehler bei KI-Agenten erkennen und beheben

Von Alexis Gauba und Ben Hylak von Raindrop AI

Tools: Eigenentwicklungen
Modelle: GPT-5.2 (GPT-5.4 im Test)

Einige der ambitioniertesten KI-Unternehmen der Welt nutzen Raindrop als Monitoring-Plattform, um zu erkennen, wenn sich ihre Agenten im Produktivbetrieb anders verhalten als vorgesehen. Je komplexer die Agenten werden, desto schwerer wiegen solche Fehler.

Ohne die Responses API wäre die Entwicklung eines solchen Monitoring-Systems viel schwieriger gewesen, und das System wäre deutlich weniger zuverlässig.

Für Analysen im Hintergrund greift das System über das Vercel AI SDK auf die Responses API zu. So kann das Team dieselben Tools mit Modellen verschiedener Anbieter nutzen und das System in unterschiedlichen Umgebungen einsetzen. Diese Workflows machen ungewöhnliches Verhalten sichtbar. Geht etwas schief, benachrichtigt das System das Entwicklungsteam und hilft ihm, die Ursache zu finden.

Die Plattform umfasst drei zentrale Systeme:

  1. Überwachung des Agentenverhaltens
  2. Fehlererkennung und Alarmierung
  3. Tools für Fehleranalyse und Debugging im Entwicklungsteam

Damit können Teams Probleme bei KI-Agenten erkennen, verfolgen und beheben, bevor sie sich auf Produktivsysteme auswirken.

Architektur des Monitoring-Systems

Architektur des Monitoring-Systems von Raindrop

Mit dieser Architektur können Teams das Verhalten ihrer Agenten laufend überwachen und bei Problemen schnell reagieren.

1. Überwachung des Agentenverhaltens

Das System prüft kontinuierlich, ob sich ein Agent wie erwartet verhält.

Entwicklungsteams können Bedingungen für unerwünschte Ergebnisse festlegen. Sind diese Bedingungen erfüllt, kann die Plattform einen Alarm auslösen.

2. Fehlererkennung und Alarmierung

Sobald Raindrop eine Anomalie erkennt, benachrichtigt die Plattform das Entwicklungsteam und zeigt die Informationen an, die es für die Untersuchung braucht.

Mit den Tools der Plattform können Teams:

  • Verhaltensänderungen über mehrere Agentenversionen hinweg verfolgen
  • ermitteln, welche Änderungen am Prompt oder am System Fehler ausgelöst haben
  • Reasoning-Protokolle und Tool-Aufrufe untersuchen

So können Entwicklungsteams Fehlerursachen schnell finden und Korrekturen ausrollen.

3. Tools für Fehleranalyse und Debugging

Raindrop bietet außerdem Tools, mit denen Entwicklungsteams Probleme in Agenten-Workflows untersuchen können. So können sie aus erkannten Fehlern konkrete Verbesserungen am System ableiten.

Raindrop AI nutzt die Responses API für sämtliche länger laufenden Analysen im Hintergrund. Ohne sie wäre es erheblich schwieriger, diese Monitoring-Systeme zu implementieren.

Komplexe Daten mit Reasoning-Workflows eingehend analysieren

Von Eric Provencher von Repo Prompt

Verwendete Tools: Codex mit App Server und MCP, Websuche
Verwendetes Modell: GPT-5.3-Codex

Bei der Planung oder bei Reviews soll unser Reasoning-Modell sein Kontextfenster möglichst gut nutzen. Deshalb stellt ein separater Agent die relevanten Informationen vorab zusammen. So muss das Modell den Kontext nicht selbst durchsuchen und kann möglichst viel seiner Reasoning-Kapazität für die eigentliche Aufgabe einsetzen.

Eric Provencher hat ein System entwickelt, mit dem Menschen in Entwicklung und Forschung große Dokumentensammlungen, Codebasen und Datensätze eingehend analysieren können.

Repo Prompt konzentriert sich auf Context Engineering: Das System sammelt, ordnet und strukturiert relevante Informationen automatisch, damit ein Reasoning-Modell sie effektiv analysieren kann.

Während viele Agentensysteme vor allem Daten sammeln, trennt Erics Architektur die Zusammenstellung des Kontexts vom vertieften Reasoning. Agenten tragen die relevanten Informationen zusammen. Anschließend erhält ein Reasoning-Modell diesen gezielt zusammengestellten Kontext und konzentriert sich ausschließlich auf die Analyse.

Die Plattform koordiniert mit der OpenAI Responses API länger laufende Agenten-Workflows und Reasoning-Aufgaben. Dazu gehören:

  • Analyse großer Codebasen und Planung der Softwarearchitektur
  • Eingehende Überprüfung von Code
  • Auswertung großer Dokumentensammlungen für die Forschung
  • Analyse medizinischer und wissenschaftlicher Dokumente

Das System besteht aus drei zentralen Komponenten: Agenten-Workflows zum Zusammenstellen des Kontexts, Reasoning-Modellen für die vertiefte Analyse („Oracle“-Workflow) und Schleifen für die iterative Recherche und Analyse.

1. Agenten-Workflow zum Zusammenstellen des Kontexts

In der ersten Stufe stellt ein Agent den Kontext zusammen. Dazu durchsucht er große Datenbestände und ermittelt, welche Informationen für eine bestimmte Anfrage relevant sind.

Über die Responses API nutzt der Agent Tools und das Reasoning des Modells, um relevante Dateien, Zusammenhänge zwischen Dokumenten und wichtige Textstellen zu identifizieren.

Das Ergebnis ist ein strukturiertes Kontextpaket, das als Eingabe für die Reasoning-Stufe dient.

2. Vertieftes Reasoning mit „Oracle“

Diagramm des Oracle-Workflows von Repo Prompt

Anders als die Agenten, die den Kontext zusammenstellen, ruft das Reasoning-Modell „Oracle“ keine Tools auf und beschafft keine zusätzlichen Informationen. Es konzentriert sich ganz auf die Analyse des bereitgestellten Kontexts.

Da Recherche und Reasoning getrennt ablaufen, kann das Modell seine gesamte Reasoning-Kapazität nutzen, um das Problem zu verstehen. In vielen Workflows kann diese Stufe längere Zeit laufen. Dabei analysiert das Modell komplexe Zusammenhänge innerhalb des bereitgestellten Kontexts.

3. Iterative Recherche und Analyse

Das System unterstützt auch iterative Reasoning-Schleifen. Sobald das Reasoning-Modell ein Ergebnis liefert, kann ein weiterer Agent dieses prüfen und entscheiden, ob weitere Untersuchungen nötig sind.

Bei Bedarf startet das System eine weitere Runde, in der es Kontext sammelt und erneut Reasoning einsetzt. So kann das System auch über längere Zeit recherchieren und seine Analyse schrittweise verfeinern.

Iterativer Workflow

Iterativer Workflow von Repo Prompt

Das System nutzt mehrere Funktionen der Responses API:

  • Hintergrundaufgaben: Reasoning-Aufgaben können minuten- oder stundenlang im Hintergrund laufen.
  • Agenten-Orchestrierung: Die API koordiniert Agentenschleifen für die Zusammenstellung des Kontexts, das Reasoning und die Validierung.
  • Beobachtbarkeit: Länger laufende Reasoning-Workflows lassen sich während der Ausführung überwachen und steuern.

Die Plattform nutzt Codex-Modelle, um den relevanten Kontext zu sammeln und zu strukturieren. Für die vertiefte Analyse übergibt sie ihn an leistungsfähigere Reasoning-Modelle. So verbindet die Plattform in ihrer hybriden Architektur Agenten-Workflows mit Modellen für vertieftes Reasoning.

Mit der eigenen Plattensammlung chatten

Von Ash Ryan Arnwine von Collxn

Tools: Websuche und 16 selbst entwickelte Tools
Modelle: GPT-5.4, GPT-5 nano

Mit der Responses API hatte ich das Gefühl, dass sie mir Arbeit abnimmt. Eine Alternative wäre gewesen, selbst ein komplettes System für Retrieval-Augmented Generation zu entwickeln.

Ash Ryan Arnwine hat „Collxn“ entwickelt (der Name spielt auf das englische Wort „collection“ für „Sammlung“ an). Der kleine Dienst hat ein großes Ziel: Wer Vinyl sammelt, soll die Platten im eigenen Regal neu entdecken und mit ihnen ins Gespräch kommen können.

Wer Schallplatten sammelt, führt auf Discogs oft umfangreiche Listen, die mitunter Tausende von Platten umfassen. Collxn greift auf die eigene Sammlung zu und verschickt täglich eine E-Mail, den „Daily Drop“. Darin stellt der Dienst jeweils eine andere Platte vor und liefert Hintergrundinformationen zu den Musikschaffenden. So lädt er dazu ein, Musik aus der eigenen Sammlung wieder aufzulegen.

Und weil das Stöbern in der Plattensammlung noch mehr Spaß macht, wenn man Fragen stellen kann, bietet Collxn mit der OpenAI Responses API einen Chat an, in dem du dich tatsächlich mit deinen Platten unterhalten kannst.

Chat mit Tool-Aufrufen

Mit der Responses API stellt die App den Chat „Ask This Drop“ bereit. Dort kannst du Fragen zu den Platten in deinem Daily Drop stellen.

Das Modell hat Zugriff auf Tools für die Discogs API und kann beim Beantworten einer Frage Informationen direkt von Discogs abrufen.

Du kannst zum Beispiel fragen:

  • Wie hoch ist der aktuelle Marktpreis dieser Platte?
  • Welche anderen Alben hat dieser Act veröffentlicht?
  • Wie selten ist diese Pressung?

Chat-Oberfläche von Ask This Drop

Mit Ask This Drop kannst du in Collxn mit deinen Schallplatten chatten.

Du stellst einfach eine Frage. Für die Antwort kombiniert Collxn aktuelle Daten von Discogs mit Informationen aus deiner eigenen Plattensammlung.

So wird aus einem statischen Plattenverzeichnis ein Gespräch über deine Sammlung und die Musikwelt, zu der sie gehört.

Daily Drop und Neuigkeiten aus der Musikwelt

Collxn nutzt außerdem das OpenAI Agents SDK, um für die Daily-Drop-E-Mail eine Rubrik mit aktuellen Meldungen über die vorgestellten Musikschaffenden zu erstellen.

Rubrik mit aktuellen Musiknachrichten im Daily Drop von Collxn

Collxn erstellt die Musiknachrichten im Daily Drop mit dem OpenAI Agents SDK.

Ein Agent sucht per Websuche nach aktuellen Artikeln oder Neuigkeiten zu den Musikschaffenden und ergänzt die tägliche E-Mail um diese Informationen. In der Betaphase gehörte die Nachrichtenrubrik schnell zu den beliebtesten Funktionen. Sie schlägt eine Brücke zwischen der eigenen Plattensammlung und dem aktuellen Musikgeschehen.

Um „Ask This Drop“ einzuführen, stellte Ash Collxn schließlich auf die Responses API um. Damit unterstützt die App mehrstufiges Reasoning im Gespräch und kann sowohl integrierte als auch selbst entwickelte Tools aufrufen. Mit der integrierten Websuche der Responses API findet Collxn direkt im Chat aktuelle Nachrichten über Musikschaffende. Hinzu kommen 16 selbst entwickelte Tools, die unter anderem mit der Discogs API arbeiten und Informationen aus dem jeweiligen Collxn-Konto abrufen.

Rubrik mit aktuellen Musiknachrichten im Daily Drop von Collxn

Über die Websuche der Responses API findet „Ask This Drop“ in Collxn aktuelle Nachrichten über Musikschaffende in Echtzeit.

Da die Responses API den Gesprächszustand speichert, kann die App auch Chats mit mehreren Gesprächsrunden einfacher und schneller verarbeiten. Laut Ash ließ sich die Architektur mit der Responses API insgesamt einfacher gestalten als mit einem eigens entwickelten Komplettsystem für Retrieval-Augmented Generation (RAG).

Aus Bildschirmaufnahmen interaktive Produktdemos erstellen

Von Nick Sorrentino und Pawel Wszola aus dem Team von Arcade

Tools: Computernutzung
Modelle: GPT-5.2, computer-use-preview

Seit wir Inhalte über die API generieren, braucht es bis zur Veröffentlichung einer Demo nur noch halb so viele Schritte. Dadurch stieg die Veröffentlichungsrate deutlich, und das Produkt fand mehr Verbreitung.

Arcade macht aus Bildschirmaufnahmen, wie sie die meisten Teams ohnehin erstellen, fertige interaktive Produktdemos. Statt das Produkt live vorzuführen oder eine Schritt-für-Schritt-Anleitung zu schreiben, nehmen die Teams einen Ablauf einmal auf. Den Rest übernimmt Arcade.

Im Hintergrund analysiert die Plattform die Aufnahme und erstellt automatisch eine interaktive Anleitung, die erklärt, was bei jedem Schritt passiert.

So entsteht eine Demo

Eine Aufnahme läuft wie folgt ab:

  1. Eine Person führt einen Arbeitsablauf aus und zeichnet dabei ihren Bildschirm auf.
  2. Auf dem Desktop oder im Browser erfasst Arcade Interaktionen wie Klicks, Texteingaben und Scrollen direkt in strukturierter Form.
  3. Auf Mobilgeräten verhindert das Sandboxing von iOS, dass Apps systemweite Interaktionen erfassen. Hier nimmt die Person stattdessen ein einfaches Bildschirmvideo der App auf.
  4. Die Aufnahme geht an die OpenAI Responses API. Das Tool für die Computernutzung analysiert die Einzelbilder und leitet daraus ab, welche Interaktionen stattgefunden haben.
  5. Das System wandelt die so erschlossenen Aktionen in strukturierte Schritte um.
  6. Arcade generiert die erklärenden Texte und interaktiven Hotspots, die durch die Demo führen.

Aus diesen Schritten entsteht automatisch die interaktive Anleitung, die später zu sehen ist.

Die strukturierten Aktionen gehen anschließend an die Chat Completions API. Sie generiert die Titel und Beschreibungen der Hotspots für die gesamte Demo. Mit den integrierten KI-Tools kannst du die Texte bearbeiten und sie beispielsweise kürzen oder umformulieren.

Halb so viele Schritte bis zur fertigen Demo

Seit Arcade die erklärenden Texte automatisch erstellt, ist es deutlich weniger aufwendig, eine interaktive Produktanleitung zu veröffentlichen.

Nach der Integration des API-gestützten Workflows zeigten sich folgende Ergebnisse:

  • Die Zahl der Aktionen bis zur Veröffentlichung sank im Median um 50 %.
  • Am 80. Perzentil sank die Zahl der Aktionen von rund 230 auf rund 120.
  • Die Veröffentlichungsrate stieg, und das Produkt fand mehr Verbreitung.

Da bei der Erstellung weniger Handgriffe nötig sind, können Teams mit Arcade aus unbearbeiteten Aufnahmen deutlich schneller fertige interaktive Demos machen.

Die Sichtbarkeit von Marken in KI-Antworten messen und verbessern

Von Tunde Adeyinka und Ramon Silva von Hexagon

Verwendete Tools: Websuche
Verwendetes Modell: GPT-5.2 Chat

Tunde Adeyinka und Ramon Silva haben Hexagon gegründet, um eine neue Frage für den Einzelhandel zu beantworten: Wie sprechen KI-Assistenten über deine Produkte?

KI-Assistenten beeinflussen zunehmend, welche Produkte Menschen entdecken. Hexagon hilft Unternehmen zu beobachten, wie ihre Marken in KI-generierten Antworten erscheinen, und diese Ergebnisse mit der Zeit zu verbessern.

Die Plattform nutzt die OpenAI Responses API für drei zentrale Systeme:

1. Architektur für die Simulation von Antworten

Hexagon führt täglich eine Simulation durch, um zu messen, wie KI-Assistenten Fragen zu Produkten beantworten. Dazu generiert das System jeden Tag Tausende realistische Prompts aus Sicht der Kundschaft, darunter Bitten um Produktempfehlungen, sowie Suchanfragen zum Einkauf. Diese sendet es an die Responses API. Anhand der Modellergebnisse ermittelt Hexagon, wie sichtbar Marken in KI-generierten Antworten sind.

Die Handelsunternehmen, die Hexagon nutzen, sehen so, wie oft ihre Produkte vorkommen und wie sich die Antworten im Laufe der Zeit verändern.

Architektur von Hexagon zur Simulation von Antworten

2. Inhalte mit mehreren Agenten generieren

Neben der Analyse nutzt Hexagon die Responses API, um gezielt Inhalte zu erstellen, die die Sichtbarkeit von Marken in KI-Antworten verbessern.

Das System arbeitet mit vier Agenten. Jeder übernimmt einen eigenen Schritt und gibt seine Ergebnisse an die nächste Stufe weiter, bis die fertigen Inhalte vorliegen und veröffentlicht werden. Vor der Veröffentlichung stimmen sich die Agenten in nichtdeterministischen Schleifen ab und verfeinern die Inhalte schrittweise.

Ablauf der Inhaltserstellung mit mehreren Agenten bei Hexagon

3. Dashboard und Tools für Handelsunternehmen

Zur Plattform gehört auch „Hexi“, ein Chatbot, der Funktionsaufrufe über die Responses API nutzt. Mit Hexi können Unternehmen ihre Analysedaten im Gespräch erkunden und sich selbst Zusammenfassungen zur Sichtbarkeit ihrer Marken in KI-Antworten erstellen lassen. Hexagon stellt die Analysen in einem Dashboard für den Einzelhandel bereit. Dort lässt sich verfolgen, wie Produkte in KI-generierten Antworten erscheinen.

Screenshot des Dashboards von Hexagon

Damit die Simulationen realistische und für die gesamte Plattform nutzbare Ergebnisse liefern, setzt Hexagon auf mehrere Funktionen der Responses API:

  • Websuche: Bildet Antworten nach, die wie bei ChatGPT auf einer Recherche im Web beruhen.
  • Standortparameter: Simuliert Anfragen aus verschiedenen Regionen, um geografische Unterschiede zu untersuchen.
  • Reasoning-Aufwand: Steuert die Tiefe und Komplexität der Antworten.
  • Maximale Anzahl an Ausgabetokens: Begrenzt die Länge ausführlicher Antworten.
  • Kontexterhalt: Bewahrt den Kontext über mehrere Aufrufe hinweg und ermöglicht so Workflows mit mehreren Agenten.

Die Responses API lieferte bessere Antworten und bewahrte den Kontext über mehrere Aufrufe hinweg zuverlässiger. Beides ist für die mehrstufigen Abläufe unserer Plattform bei Hexagon entscheidend.

Ausblick

Ein Jahr nach ihrer Einführung ist die Responses API zu einem zentralen Baustein für die Entwicklung von Software mit KI-Agenten geworden.

Die fünf Geschichten zeigen, wie das in der Praxis aussieht: Systeme mit mehreren Agenten koordinieren Tools, erkennen Fehler und führen Workflows aus. Auf dieser Grundlage bringen Entwicklungsteams KI-gestützte Produkte auf den Markt.

Auch die Plattform selbst entwickelt sich schnell weiter. Die Orchestrierung wird besser, und das Angebot an Tools wächst. Neu sind unter anderem von OpenAI gehostete Container mit Netzwerkzugriff und Shell-Tools.

Mehr Tools.
Mehr Möglichkeiten.
Mehr Menschen, die Dinge entwickeln, an die wir anderen noch gar nicht gedacht haben.

Wir sind gespannt, was die Entwicklungsteams im zweiten Jahr daraus machen.