Das Überwachungssystem prüft, ob ein Agent die Anweisungen der Person, die ihm eine Aufgabe stellt, bei folgenreichen Aktionen richtig versteht. Dazu zählen etwa die Übertragung sensibler Daten, der Zugriff auf solche Daten oder destruktive Änderungen. Das System prüft das Reasoning und die Aktionen des Modells asynchron. Erkennt es ein mögliches Problem, kann es die Unterhaltung stoppen.
Eine Meldung bedeutet, dass die Aktionen des Agenten überprüft werden müssen. Sie belegt weder einen Richtlinienverstoß durch die Person, die die Anweisungen gegeben hat, noch eine Abweichung des Agenten von diesen Anweisungen. Das System kann Probleme übersehen oder legitime Aktivitäten melden. Nutze deshalb weiterhin Schutzmaßnahmen für deine Anwendung und lass folgenreiche Aktionen von einem Menschen genehmigen.
Weitere Informationen findest du in der Übersicht zur Überwachung auf Abweichungen von Anweisungen im Hilfecenter.
Welche Anfragen werden überwacht?
Für die vom System erfassten Modelle gilt: Ob das System eine Anfrage überwacht und ob es die Unterhaltung automatisch stoppen kann, hängt von der verwendeten API ab und davon, wie der Unterhaltungskontext erhalten bleibt.
| Anfragen | Verhalten |
|---|---|
| Anfragen an die Responses API mit gespeichertem Reasoning, WebSockets oder der Kontextverdichtung von OpenAI | Das System überwacht diese Anfragen. Es kann erkennen, wenn eine Anfrage eine Unterhaltung fortsetzt, und die weitere Ausführung blockieren. |
| Anfragen an die Responses API, die keinen dieser Mechanismen nutzen | Das System überwacht diese Anfragen. Konfigurierte Webhooks können Meldungen empfangen. Das System stoppt die Unterhaltung jedoch nicht automatisch. |
| Anfragen an die Chat Completions API | Dieses System überwacht diese Anfragen nicht. Andere Sicherheitsprüfungen gelten weiterhin. |
Wie du den Unterhaltungskontext erhältst, erfährst du in den Abschnitten zum Erhalt des Reasonings über mehrere API-Aufrufe hinweg, zum WebSocket-Modus und zur Kontextverdichtung. Wenn du einen Webhook für Meldungen konfigurierst, aktivierst du damit keinen automatischen Stopp.
Auf eine gestoppte Anfrage reagieren
Blockiert das Überwachungssystem eine Anfrage vor Beginn des Streamings, gibt die API den HTTP-Status 403 mit dem Fehlertyp invalid_request_error und dem Fehlercode misalignment_policy_violation zurück. Prüfe den Fehlercode statt des Meldungstexts. Streaming-Integrationen müssen auch Fehler beim Lesen des Streams behandeln, selbst wenn sie bereits Ausgaben empfangen haben.
Wenn deine Anwendung diesen Fehler erhält, gehe wie folgt vor:
- Stoße für die betroffene Unterhaltung keine weiteren Aktionen an. Starte den blockierten Workflow nicht automatisch erneut.
- Bewahre die relevanten Anfrage- und Antwort-IDs, Tool-Aufrufe und Aufzeichnungen deiner Anwendung gemäß deinen Richtlinien zum Umgang mit Daten auf.
- Zeige die verfügbaren Fehlerinformationen der Person, die für die Aufgabe verantwortlich ist und die Anwendung nutzt oder als Operator betreut. Bitte diese Person, die Aktionen des Agenten mit der vorgesehenen Aufgabe abzugleichen und bereits vorgenommene Änderungen zu überprüfen.
Die API bietet keine allgemeine Möglichkeit, eine vom Überwachungssystem gestoppte Unterhaltung fortzusetzen.
Da die Überwachung asynchron erfolgt, kann eine Aktion bereits abgeschlossen sein, bevor das System ein mögliches Problem erkennt. Das Stoppen einer Anfrage macht frühere Aktionen nicht rückgängig.
Sicherheitsmeldungen für ein Projekt empfangen
Abonniere safety.alert.created, um Meldungen des Überwachungssystems für ein API-Projekt an ein System weiterzuleiten, das dein Team betreibt. Auch wenn du Meldungen empfängst, musst du Fehler bei API-Anfragen weiterhin behandeln.
Befolge für jedes Projekt, dessen Meldungen du empfangen möchtest, die Anleitung zum Erstellen von Webhook-Endpunkten. Der Webhook-Leitfaden erklärt, wie du Signaturen überprüfst und wie du den Empfang bestätigst und Wiederholungsversuche sowie Mehrfachzustellungen behandelst.
Der Webhook enthält die ID der Meldung. Die Details rufst du separat ab.
{
"object": "event",
"id": "evt_123",
"type": "safety.alert.created",
"created_at": 1787659200,
"data": {
"id": "alert_0123456789abcdef0123456789abcdef"
}
}
Nachdem du die Signatur des Webhooks geprüft und den Empfang bestätigt hast, rufe die Meldung im Hintergrund ab. Ersetze den Beispielwert alert_0123456789abcdef0123456789abcdef durch den Wert von data.id aus dem Webhook. Die id des Ereignisses bezeichnet das Webhook-Ereignis selbst. Die Meldung hat eine eigene ID. Verwende einen für dasselbe Projekt autorisierten API-Schlüssel mit der Berechtigung api.safety.alerts.read.
curl "https://api.openai.com/v1/safety/alerts/alert_0123456789abcdef0123456789abcdef" \
-H "Authorization: Bearer ${OPENAI_API_KEY}"
# Replace the illustrative IDs and URLs below with your own resource values.
from openai import OpenAI
client = OpenAI()
alert = client.safety.alerts.retrieve("alert_0123456789abcdef0123456789abcdef")
print(alert.error_type, alert.reason)Mit den zurückgegebenen Werten für request_id und response_id findest du den betroffenen Vorgang in den Aufzeichnungen deiner Anwendung. Die Kategorie der Meldung weist auf ein mögliches Problem hin, dem du nachgehen solltest. Hat request_paused den Wert true, hat das System die Sicherheitssperre erfolgreich registriert. Daraus geht weder hervor, ob die Ausführung tatsächlich gestoppt wurde, noch ob frühere Aktionen rückgängig gemacht wurden. Prüfe den Status der Aufgabe in deiner Anwendung und die Aufzeichnungen zu den Tool-Aufrufen.
Das Feld reason der Meldung kann den Wert null haben, auch bei Anfragen, für die keine Datenaufbewahrung (ZDR) gilt. Hat das Feld einen anderen Wert, beschreibt reason lediglich die Kategorie. Das Feld enthält weder ein Transkript noch einen vollständigen Untersuchungsbericht. Bewahre die benötigten Aufzeichnungen gemäß den Datenrichtlinien deiner Organisation auf. Informationen zu den verfügbaren Datenkontrollen für die API findest du im Leitfaden Deine Daten.
Wenn die API beim Abruf 404 mit dem Fehlercode safety_alert_not_found zurückgibt, prüfe die ID der Meldung und die Zugangsdaten für das Projekt. Dieser Fehler kann auftreten, wenn Datensätze fehlen, unzugänglich oder unvollständig sind. Die zugestellten und abrufbaren Meldungen ergeben kein vollständiges Auditprotokoll.