Den vollständigen Index der Dokumentation findest du in llms.txt. Die Markdown-Version einer Dokumentationsseite erhältst du, indem du .md an die URL der Seite anhängst.
Hauptnavigation
Design

Benachrichtigungen zu Maßnahmen bei Richtlinienverstößen

Binde Meldungen zu Verwarnungen und Deaktivierungen in deine Arbeitsabläufe für Untersuchungen und Support ein.

Mit Sicherheits-Webhooks und der Safety Case Read API kannst du Meldungen von OpenAI zu Maßnahmen bei Richtlinienverstößen in die Arbeitsabläufe deines Teams einbinden. Geht beispielsweise eine Verwarnung ein, kann deine Anwendung die Falldetails abrufen, die betroffene Person ermitteln und ein Ticket für die interne Prüfung erstellen.

Wann sich die Integration eignet

Mit dieser Integration kannst du:

  • Meldungen zu Verwarnungen und Deaktivierungen an dein Trust-and-Safety-Team oder dein Supportteam weiterleiten.
  • Ein Untersuchungs- oder Supportticket um Fallinformationen ergänzen.
  • Eine Meldung anhand der in deiner Anwendung gespeicherten Sicherheitskennung der betroffenen Person zuordnen.

Diese Anleitung zeigt den Ablauf am Beispiel einer Verwarnung. Für Meldungen zu Deaktivierungen kannst du dieselbe Integration verwenden.

So funktioniert es

Sicherheits-Webhooks benachrichtigen deine Anwendung, sobald OpenAI eine Meldung ausgibt.

Ereignis Meldung
safety.warning_issued Verwarnung für eine Sicherheitskennung in deiner Organisation.
safety.deactivation_issued Deaktivierung für eine Sicherheitskennung in deiner Organisation.

Jedes Ereignis enthält eine Fall-ID. Mit dieser ID kannst du über GET /v1/safety/cases/{id} die Sicherheitskennung, die Art der Meldung und den Erstellungszeitpunkt des Falls abrufen. Sofern verfügbar, erhältst du auch den Grund für die Maßnahme gemäß den Richtlinien.

Diese Benachrichtigungen auf Organisationsebene sind unabhängig von den Warnmeldungen zu Fehlverhalten auf Projektebene. Wenn du einen Fall abrufst, bleibt die Maßnahme unverändert in Kraft.

Integration in deine Anwendung

Richte zunächst einen Webhook auf Organisationsebene und einen API-Schlüssel für Fallabfragen ein. Binde die Benachrichtigungen anschließend in deinen Prüfprozess ein.

Webhook konfigurieren und Ereignisse empfangen

Verwende für jede Person, die deine Anwendung nutzt, eine stabile Sicherheitskennung. Speichere in deiner Anwendung, welcher Person die jeweilige Kennung zugeordnet ist. Vermeide personenbezogene Angaben in der Kennung.

Erstelle in den Webhook-Einstellungen deiner Organisation einen Webhook-Endpunkt auf Organisationsebene und abonniere safety.warning_issued und safety.deactivation_issued.

Eine Benachrichtigung zu einer Verwarnung ist wie folgt aufgebaut:

{
  "id": "evt_example",
  "object": "event",
  "created_at": 1787659200,
  "type": "safety.warning_issued",
  "data": {
    "id": "C-abc123"
  }
}

Allgemeine Empfehlungen zur Verwendung von Webhooks findest du im Webhook-Leitfaden.

Das Feld id identifiziert das Webhook-Ereignis. Das Feld data.id enthält die ID des Sicherheitsfalls, den du abrufen kannst.

Fall abrufen

Konfiguriere für Fallabfragen einen API-Schlüssel derselben Organisation. Wähle für die Berechtigungen Restricted und setze Safety auf Read (api.safety.read).

Rufe die Metadaten des Falls über die Safety Case Read API ab:

curl "https://api.openai.com/v1/safety/cases/C-abc123" \
  -H "Authorization: Bearer ${OPENAI_API_KEY}"

Bei einer erfolgreichen Abfrage erhältst du den HTTP-Statuscode 200 und ein Fallobjekt wie dieses:

{
  "id": "C-abc123",
  "object": "safety.case",
  "created_at": 1787659100,
  "entity_identifier": "entity_identifier",
  "reason": "cyber_abuse",
  "notice": {
    "type": "warning"
  }
}

Das Feld entity_identifier enthält die betroffene Sicherheitskennung. Der Erstellungszeitpunkt des Falls kann dir bei der Untersuchung helfen. Die Felddefinitionen findest du in der Referenz zur Safety Case API.

Meldungen in deine Arbeitsabläufe einbinden

Empfange die Benachrichtigungen per Webhook. Leite die Meldungen dann anhand der Fallmetadaten programmgesteuert an deine bestehenden Untersuchungs- oder Supportsysteme weiter.

Fehlerbehebung

Problem Was du prüfen kannst
Die Signaturprüfung schlägt fehl Prüfe das Signaturgeheimnis und verwende den unveränderten Request Body, wie im Webhook-Leitfaden beschrieben.
Die Abfrage liefert 401 Prüfe, ob der API-Schlüssel vorhanden und gültig ist.
Die Abfrage liefert 403 Prüfe, ob der Schlüssel die Berechtigung api.safety.read hat.
Die Abfrage liefert 404 Verwende data.id statt der Ereignis-ID. Prüfe, ob der Fall zu derselben Organisation gehört wie der Schlüssel.
Die Abfrage liefert 429 oder vorübergehend einen 5xx-Fehler Wiederhole die Abfrage mit zunehmenden Wartezeiten und begrenze die Anzahl der Versuche. Bewahre das Ereignis für die spätere Verarbeitung oder Untersuchung auf.