Wie OpenAI Schutzmaßnahmen umsetzt, erfährst du in den Leitfäden zu Sicherheitsklassifikatoren, Cybersicherheitsprüfungen und zur Überwachung von Abweichungen vom beabsichtigten Modellverhalten. Wenn Minderjährige deine Anwendung nutzen, beachte auch die Hinweise zum Schutz von Personen unter 18 Jahren.
Nutze unsere kostenlose Moderation API
Die Moderation API von OpenAI ist kostenlos und kann dazu beitragen, dass deine Anwendung seltener bedenkliche Inhalte generiert. Alternativ kannst du einen eigenen Inhaltsfilter entwickeln, der auf deinen Anwendungsfall zugeschnitten ist.
Wenn deine Anwendung mit der Responses API oder mit Chat Completions Text generiert, kannst du Moderationsbewertungen direkt in der Anfrage zur Textgenerierung anfordern.
Teste deine Anwendung mit gezielten Angriffen
Wir empfehlen „Red Teaming“, um sicherzustellen, dass deine Anwendung gezielten Angriffen über die Eingabe standhält. Teste dein Produkt mit unterschiedlichen Eingaben und Verhaltensweisen. Berücksichtige sowohl typische Nutzungsmuster als auch gezielte Versuche, die Anwendung aus dem Tritt zu bringen. Kommt sie vom Thema ab? Lässt sich eine Funktion durch Prompt Injection leicht zu einem anderen Verhalten bewegen, etwa mit „Ignoriere die bisherigen Anweisungen und mach stattdessen Folgendes“?
Lass Menschen die Ergebnisse prüfen (Human in the Loop, HITL)
Wir empfehlen, Modellergebnisse nach Möglichkeit von einem Menschen prüfen zu lassen, bevor du sie in der Praxis verwendest. Das ist besonders wichtig in Bereichen, in denen Fehler schwerwiegende Folgen haben können, und bei der Codegenerierung. Wer die Ergebnisse prüft, sollte die Grenzen des Systems kennen und auf alle Informationen zugreifen können, die für die Prüfung nötig sind. Wenn die Anwendung zum Beispiel Notizen zusammenfasst, sollten die ursprünglichen Notizen zum Abgleich leicht zugänglich sein.
Prompt Engineering
Mit „Prompt Engineering“ kannst du Thema und Ton der generierten Texte eingrenzen. So sinkt die Wahrscheinlichkeit, dass das Modell unerwünschte Inhalte erzeugt, selbst wenn jemand gezielt danach fragt. Mit zusätzlichem Kontext kannst du die Modellergebnisse leichter in die gewünschte Richtung lenken. Gib dem Modell dazu beispielsweise vor der neuen Eingabe einige gute Beispiele für das gewünschte Verhalten.
„Know Your Customer“ (KYC)
Wer deinen Dienst nutzen möchte, sollte sich in der Regel registrieren und anmelden müssen. Es kann helfen, die Anmeldung über ein bestehendes Konto bei Gmail, LinkedIn oder Facebook zu ermöglichen. Das eignet sich allerdings nicht für jeden Anwendungsfall. Wenn du eine Kreditkarte oder einen Ausweis verlangst, sinkt das Risiko weiter.
Begrenze die Eingabe und die Anzahl der Ausgabetokens
Wenn du begrenzt, wie viel Text jemand in einen Prompt eingeben kann, hilft das, Prompt Injection zu verhindern. Eine Obergrenze für die Anzahl der Ausgabetokens verringert das Missbrauchsrisiko.
Wenn du die Auswahl möglicher Eingaben oder Ausgaben einschränkst und dabei insbesondere auf vertrauenswürdige Quellen zurückgreifst, lässt deine Anwendung weniger Spielraum für Missbrauch.
Dropdown-Felder mit geprüften Auswahlmöglichkeiten (etwa einer Liste von Filmen auf Wikipedia) können sicherer sein als Freitextfelder.
Wenn möglich, greife für die Ausgabe im Backend auf geprüfte Inhalte zurück. Das kann sicherer sein, als neue Inhalte generieren zu lassen. So kannst du bei einer Supportanfrage auf den am besten passenden vorhandenen Hilfeartikel verweisen, statt eine neue Antwort zu generieren.
Ermögliche das Melden von Problemen
Wer deine Anwendung nutzt, sollte Fehler oder andere Bedenken zu ihrem Verhalten unkompliziert melden können, etwa über eine gut auffindbare E-Mail-Adresse oder ein Ticketsystem. Eine Person sollte die eingehenden Meldungen regelmäßig prüfen und angemessen darauf reagieren.
Kenne und vermittle die Grenzen des Modells
Sprachmodelle können Informationen erfinden, anstößige Inhalte erzeugen oder Vorurteile wiedergeben. Aus diesen und weiteren Gründen eignen sie sich ohne größere Anpassungen möglicherweise nicht für jeden Anwendungsfall. Prüfe, ob das Modell für deinen Zweck geeignet ist. Teste die API mit vielen unterschiedlichen Eingaben, um herauszufinden, in welchen Fällen die Qualität der Ergebnisse nachlassen kann. Berücksichtige, wer deine Anwendung nutzt und welche Eingaben zu erwarten sind. Vermittle diesen Personen ein realistisches Bild davon, was die Anwendung leisten kann.
Der Schutz von Menschen und die Sicherheit unserer Systeme sind uns bei OpenAI sehr wichtig.
Wenn dir bei der Entwicklung mit der API oder in einem anderen Zusammenhang mit OpenAI ein Sicherheitsproblem auffällt, melde es bitte über unser Coordinated Vulnerability Disclosure Program.
Verwende Sicherheitskennungen
Wenn du Sicherheitskennungen in deinen Anfragen sendest, hilfst du OpenAI, die Nutzung auf Missbrauch zu überwachen und Missbrauch zu erkennen. Stellen wir in deiner Anwendung Verstöße gegen unsere Richtlinien fest, können wir deinem Team dadurch konkretere Hinweise geben, wie es darauf reagieren kann.
Sicherheitskennungen können deinem Team auch helfen, schneller auf Missbrauch zu reagieren. Mit einer stabilen Kennung lassen sich Aktivitäten einer einzelnen Person zuordnen. Dadurch sinkt das Risiko, dass der Missbrauch durch eine Person den Zugriff für andere in deiner Organisation beeinträchtigt.
Verwende als Sicherheitskennung eine Zeichenfolge, die jeder Person eindeutig zugeordnet ist. Bilde einen Hash aus dem Anmeldenamen oder der E-Mail-Adresse, damit du uns keine Informationen sendest, die eine Person identifizieren. Wenn du dein Produkt auch ohne Anmeldung zum Ausprobieren anbietest, kannst du stattdessen eine Sitzungs-ID senden.
Für Produkte, in denen einzelne Personen mit einem Modell interagieren, empfehlen wir Sicherheitskennungen. Sie sind optional. Übermittle die Sicherheitskennung in deinen API-Anfragen mit dem Parameter safety_identifier.
import OpenAI from "openai";
const client = new OpenAI();
const response = await client.chat.completions.create({
model: "gpt-6-astra",
messages: [{ role: "user", content: "This is a test" }],
max_completion_tokens: 5,
safety_identifier: "user_123456",
});
console.log(response.choices[0].message.content);Gib bei der Images API safety_identifier in jeder Anfrage zur Bildgenerierung (POST /v1/images/generations) und zur Bildbearbeitung (POST /v1/images/edits) an. Sende die Kennung bei JSON-Anfragen als JSON-Eigenschaft und bei Multipart-Anfragen zur Bildbearbeitung als Formularfeld. Verwende innerhalb deiner Organisation für alle Anfragen derselben Person dieselbe stabile Kennung. Sie darf höchstens 128 Zeichen lang sein.
Der Parameter user der Images API ist veraltet. Sende zur Umstellung die Kennung, die du bisher in user angegeben hast, stattdessen in safety_identifier. Bestehende Anfragen mit user werden weiterhin unterstützt. Wenn du beide Felder angibst, hat ein nicht leerer Wert in safety_identifier Vorrang. Wenn safety_identifier fehlt, den Wert null hat oder eine leere Zeichenfolge enthält, verwendet die API user, sofern der Parameter vorhanden ist.
Übermittle bei Anfragen an die Realtime API dieselbe stabile, datenschutzgerechte Kennung im Header OpenAI-Safety-Identifier. Wenn du ein kurzlebiges Client-Secret für die Realtime API erstellst, füge den Header der serverseitigen Anfrage hinzu, mit der du das Secret erstellst. So wird die Kennung an diese Sitzung gebunden. Wenn du eine direkte WebSocket- oder WebRTC-Verbindung von einem vertrauenswürdigen Backend aus aufbaust, füge den Header der Verbindungsanfrage hinzu.
Sicherheitskennungen werden nicht automatisch von einer API oder Sitzung in eine andere übernommen. Wenn deine Anwendung bereits safety_identifier in Anfragen an die Responses API sendet, übermittle denselben stabilen Wert auch separat in jeder Anfrage an die Images API und jedes Mal, wenn du eine Realtime-Sitzung erstellst oder eine Verbindung zu ihr aufbaust.
Widerrufe kompromittierte API-Schlüssel
Wenn du vermutest, dass ein API-Schlüssel offengelegt, missbraucht oder anderweitig kompromittiert wurde, widerrufe ihn umgehend und ersetze ihn durch einen neuen Schlüssel. In deinen Sicherheitseinstellungen kannst du alle API-Schlüssel einsehen und kompromittierte Schlüssel widerrufen.
Leitfaden zu CSAM
OpenAI hat gemeinsam mit Fachleuten für Kinderschutz, unter anderem von NCMEC und Thorn, praktische Hinweise erarbeitet, die Entwicklungsteams beim Schutz von Kindern helfen. Lies den Leitfaden zu CSAM.