Mit OpenAI Private Link erreichen deine Azure-Workloads regionale Endpunkte der OpenAI API über Azure Private Link, ohne sich direkt mit öffentlichen API-Endpunkten zu verbinden. Erstelle für jeden regionalen Private Link Service, den OpenAI bereitstellt, einen privaten Endpunkt. Ordne dem regionalen Hostnamen im privaten DNS die IP-Adresse des Endpunkts zu und sende wie gewohnt authentifizierte API-Anfragen an diesen Hostnamen.
Verwende Private Link, wenn deine Organisation vorschreibt, dass der Datenverkehr im privaten Azure-Netzwerk bleiben muss. Ohne diese Anforderung sind die öffentlichen Endpunkte von OpenAI einfacher einzurichten und zu betreiben. Private Link ist mit IP-Zulassungslisten und gegenseitiger TLS-Authentifizierung (mTLS) nicht kompatibel. Wende dich an OpenAI, wenn du Unterstützung bei der Auswahl geeigneter Sicherheitsmaßnahmen für dein Unternehmensnetzwerk brauchst.
Derzeit kannst du den Zugang zu Private Link nur über OpenAI beantragen. Wende dich an deine Ansprechperson bei OpenAI oder kontaktiere den Vertrieb, um Zugang zu beantragen und die benötigten Aliasse oder Ressourcen-IDs der regionalen Private Link Services zu erhalten.
So funktioniert Private Link
Einige Unternehmen nutzen die ältere Version von Private Link (v1). Sie verbindet jeden privaten Endpunkt mit einem bestimmten Cluster der OpenAI API. Die aktuelle regionale Lösung unterscheidet sich in folgenden Punkten:
| Ältere Version von Private Link (v1) | Regionale Version von Private Link | |
|---|---|---|
| Hostname | Clusterspezifisch, z. B. privatelink.enterprise.unified-1.api.openai.com |
Regional, z. B. southcentralus.privatelink.api.openai.com |
| Routing bei OpenAI | Fest an einen Cluster der OpenAI API gebunden | Ein regionales privates Edge-Gateway kann Anfragen an mehrere dahinterliegende Cluster der OpenAI API weiterleiten |
| Integritätsprüfung aus deinem Netzwerk | Ältere v1-Pfade für Integritätsprüfungen | GET /v2/privatelink_healthcheck |
Eine Anfrage nimmt folgenden Weg:
- Deine Anwendung fragt den regionalen Hostnamen für Private Link über dein privates DNS ab.
- DNS löst den Hostnamen in die IP-Adresse eines privaten Azure-Endpunkts in deinem virtuellen Netzwerk auf.
- Der private Endpunkt stellt eine Verbindung zum regionalen OpenAI Private Link Service her.
- Der Private Link Service sendet die Anfrage an das regionale private Edge-Gateway von OpenAI.
- Das Gateway leitet die Anfrage an einen der Cluster der OpenAI API weiter, die diesem regionalen Netzwerkpfad zugeordnet und für Enterprise-Zugriffe freigeschaltet sind.
Ist ein Cluster nicht verfügbar, kann Private Link die Anfragen innerhalb desselben regionalen Netzwerkpfads an einen anderen Cluster weiterleiten. OpenAI kann dort weitere Cluster hinzufügen, ohne dass du deine privaten Endpunkte neu konfigurieren musst. Private Link leitet den Datenverkehr für den gewählten regionalen Hostnamen nicht automatisch an einen privaten Endpunkt in einer anderen Region weiter. Setze nicht voraus, dass das Routing genauso funktioniert wie bei den öffentlichen Endpunkten von OpenAI. Lege fest, wie deine Anwendung bei einem Ausfall in eine andere Region wechselt.
Regionale Endpunkte auswählen
Beim Onboarding erhältst du von OpenAI den genauen Alias oder die Ressourcen-ID des jeweiligen Private Link Service. Im Produktivbetrieb stehen derzeit folgende regionale Hostnamen zur Verfügung:
| Region | Hostname für deine Anwendung |
|---|---|
| South Central US | southcentralus.privatelink.api.openai.com |
| West US | westus.privatelink.api.openai.com |
| East US 2 | eastus2.privatelink.api.openai.com |
| Spain Central / EU | spaincentral.privatelink.api.openai.com |
Anfragen an den Hostnamen für Spain Central / EU können auch an Cluster in anderen EU-Regionen wie North Europe weitergeleitet werden.
Private Link einrichten
1. Angaben für das Onboarding übermitteln
Sende OpenAI folgende Angaben:
- Die IDs der Azure-Abonnements, die Zugriff auf die OpenAI Private Link Services benötigen.
- Deine OpenAI-Organisations-ID.
- Die Regionen, die du benötigst.
- Ansprechpersonen im Betrieb, die über Wartungsarbeiten und die Umschaltung des Datenverkehrs zwischen Regionen informiert werden sollen.
OpenAI macht die entsprechenden regionalen Private Link Services für deine Abonnements sichtbar und genehmigt den Zugriff. Anschließend erhältst du die Aliasse oder Ressourcen-IDs der Dienste.
2. Private Endpunkte erstellen
Erstelle für jede ausgewählte Region einen privaten Endpunkt. In Azure muss der private Endpunkt in derselben Region liegen wie dein virtuelles Netzwerk. Gib diese Region mit --location an. Sie kann von der Region des OpenAI Private Link Service abweichen.
Der folgende Befehl verwendet die Ressourcen-ID des Private Link Service, die du von OpenAI erhältst:
az network private-endpoint create \
--name openai-privatelink-southcentralus \
--resource-group <customer-resource-group> \
--location <customer-vnet-region> \
--vnet-name <customer-vnet> \
--subnet <customer-private-endpoint-subnet> \
--private-connection-resource-id <openai-provided-pls-resource-id> \
--connection-name openai-privatelink-southcentralus
Wenn OpenAI dir einen Alias gibt, verwende diesen und füge --manual-request true hinzu:
az network private-endpoint create \
--name openai-privatelink-southcentralus \
--resource-group <customer-resource-group> \
--location <customer-vnet-region> \
--vnet-name <customer-vnet> \
--subnet <customer-private-endpoint-subnet> \
--private-connection-resource-id <openai-provided-pls-alias> \
--connection-name openai-privatelink-southcentralus \
--manual-request true
Azure verlangt --manual-request true für Verbindungen über einen Alias. Für Abonnements auf der Zugriffsliste ist weiterhin eine automatische Genehmigung möglich.
Wenn deine Organisation private Endpunkte als Infrastructure as Code verwaltet, gehe im Azure-Portal oder mit Terraform entsprechend vor.
3. Verbindung vor der DNS-Änderung testen
Sobald OpenAI den privaten Endpunkt genehmigt und Azure ihn bereitgestellt hat, notiere seine private IP-Adresse. Mit curl --resolve kannst du den regionalen Hostnamen testen, ohne die DNS-Konfiguration global zu ändern:
curl -v \
--resolve southcentralus.privatelink.api.openai.com:443:<PRIVATE_ENDPOINT_IP> \
https://southcentralus.privatelink.api.openai.com/v2/privatelink_healthcheck
Bei erfolgreicher Prüfung erhältst du den HTTP-Statuscode 200 und eine Meldung wie diese:
{ "message": "Service is up" }
Verwende für die Integritätsprüfung genau den Pfad /v2/privatelink_healthcheck. Halte den Datenverkehr für automatische Integritätsprüfungen gering. Sende pro regionalem Endpunkt höchstens eine Anfrage pro Sekunde, sofern OpenAI keine andere Rate genehmigt.
4. Privates DNS konfigurieren
Erstelle private DNS-Einträge, damit jeder regionale Hostname für OpenAI Private Link innerhalb deines Netzwerks in die IP-Adresse des zugehörigen privaten Endpunkts aufgelöst wird:
| Hostname | IP-Adresse des privaten Endpunkts |
|---|---|
southcentralus.privatelink.api.openai.com |
<southcentralus-private-endpoint-ip> |
westus.privatelink.api.openai.com |
<westus-private-endpoint-ip> |
eastus2.privatelink.api.openai.com |
<eastus2-private-endpoint-ip> |
spaincentral.privatelink.api.openai.com |
<spaincentral-private-endpoint-ip> |
Prüfe die DNS-Auflösung und die Verbindung über denselben Netzwerkpfad, den deine Anwendung verwendet:
nslookup southcentralus.privatelink.api.openai.com
curl -v https://southcentralus.privatelink.api.openai.com/v2/privatelink_healthcheck
5. Failover zwischen Regionen konfigurieren
Private Link bietet einen regionalen Zugangspunkt. Dein Datenverkehr läuft dabei über den regionalen Hostnamen, den du auswählst. Konfiguriere das Failover zwischen Regionen in deinem Client, im Service Mesh, auf DNS-Ebene oder im Load Balancer.
Für das Failover empfiehlt sich folgendes Vorgehen:
- Prüfe jede konfigurierte Region mit
GET /v2/privatelink_healthcheck. - Stufe die Region bei HTTP
200als verfügbar ein. - Stufe die Region bei
5xx-Antworten, Verbindungsfehlern, TLS-Fehlern oder wiederholten Zeitüberschreitungen als nicht verfügbar ein. - Wechsle erst nach einigen aufeinanderfolgenden Fehlern in eine andere Region, damit die Anwendung nicht ständig hin- und herschaltet.
- Prüfe eine nicht verfügbare Region im Hintergrund weiter und schalte gemäß deinen betrieblichen Vorgaben zurück.
Die regionale Integritätsprüfung gibt Auskunft über den Zustand der Cluster der OpenAI API hinter dem privaten Edge-Gateway. Sie liefert einen Fehler, wenn für die Region keine Cluster bekannt sind, die Konfiguration für die Integritätsprüfung fehlt oder zu wenige Cluster betriebsbereit sind.
Wenn deine Routingentscheidung von einer bestimmten API oder einem bestimmten Modell abhängt, ergänze die Integritätsprüfung durch synthetische Testanfragen an diese API mit diesem Modell. Sende sie mit niedriger Frequenz über denselben Netzwerkpfad.
6. Basis-URLs der Anwendung aktualisieren
Verwende den regionalen Hostnamen für Private Link in der Basis-URL der OpenAI API:
from openai import OpenAI
client = OpenAI(
base_url="https://southcentralus.privatelink.api.openai.com/v1",
)Das SDK liest OPENAI_API_KEY aus deiner Umgebung.
Du kannst den regionalen Endpunkt auch direkt aufrufen:
curl https://southcentralus.privatelink.api.openai.com/v1/responses \
-H "Authorization: Bearer $OPENAI_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "gpt-6-astra",
"input": "Say hello from Private Link."
}'Beginne in einer Entwicklungs- oder Staging-Umgebung. Stelle den Datenverkehr anschließend schrittweise um.
Konfiguration prüfen
Nutze diese Checkliste beim Onboarding oder bei der Migration zu Private Link:
- OpenAI hat bestätigt, dass die Azure-Abonnements mit den angegebenen IDs auf die ausgewählten regionalen Private Link Services zugreifen können.
- Du hast für jede ausgewählte Region einen privaten Endpunkt erstellt und OpenAI hat ihn genehmigt.
- Du hast die IP-Adressen der privaten Endpunkte notiert.
- Der Aufruf mit
curl --resolvefür/v2/privatelink_healthcheckist erfolgreich. - Im Netzwerk deiner Anwendung löst das private DNS die regionalen Hostnamen in die IP-Adressen der privaten Endpunkte auf.
- Die Anwendung kann über den regionalen Hostnamen einen repräsentativen
/v1-API-Endpunkt aufrufen. - Für automatische Integritätsprüfungen ist die Anfragerate begrenzt. Bei Fehlern werden Region, Statuscode und Fehlerart protokolliert.
- Du hast in einer kontrollierten Umgebung eine Region gezielt als nicht verfügbar eingestuft und das Failover der Anwendung getestet.
- Deine Betriebsdokumentation hält fest, wer die DNS-Einstellungen, die Konfiguration der privaten Endpunkte und das regionale Routing der Anwendung ändern kann.
Kompatibilität der Endpunkte prüfen
Die folgende Tabelle zeigt die aktuelle Bereitstellungskonfiguration der Dienste hinter den aufgeführten öffentlichen API-Routen. Prüfe das Verhalten auch in deiner eigenen Umgebung. Teste in jeder Zielregion die Modellverfügbarkeit, die Zugriffsvoraussetzungen für Produktfunktionen, nachgelagerte Abhängigkeiten, Größenlimits für Anfragen sowie das Verhalten bei Streaming und WebSocket-Verbindungen. Yes (Ja) bedeutet, dass die Route auf jedem Cluster des regionalen Netzwerkpfads verfügbar ist. No (Nein) bedeutet, dass der zugehörige Dienst auf diesem Pfad fehlt.
| Endpunktfamilie | South Central US | West US | East US 2 | Spain Central / EU |
|---|---|---|---|---|
/v1/responses |
Ja | Ja | Ja | Ja |
/v1/chat/completions |
Ja | Ja | Ja | Ja |
/v1/completions |
Ja | Ja | Ja | Ja |
/v1/embeddings |
Ja | Ja | Ja | Ja |
/v1/audio/* (Inferenz) |
Ja | Ja | Ja | Ja |
/v1/audio/* (Verwaltung) |
Ja | Nein | Nein | Ja |
/v1/models |
Ja | Ja | Ja | Ja |
/v1/files, /v1/uploads |
Ja | Ja | Ja | Ja |
/v1/batches |
Ja | Ja | Ja | Ja |
/v1/images/* |
Ja | Ja | Ja | Ja |
/v1/moderations |
Ja | Ja | Ja | Ja |
/v1/vector_stores |
Ja | Ja | Ja | Ja |
/v1/organization/audit_logs |
Ja | Ja | Ja | Ja |
Sonstige /v1/organization/*, /v1/usage |
Ja | Nein | Nein | Ja |
/v1/realtime |
Ja | Ja | Ja | Ja |
Häufig gestellte Fragen
Wechselt Private Link bei einem Ausfall automatisch in eine andere Region?
Nein. Das regionale private Edge-Gateway kann Anfragen an verschiedene Cluster weiterleiten, die für diesen Netzwerkpfad konfiguriert sind. Es leitet deinen Datenverkehr aber nicht automatisch an einen privaten Endpunkt in einer anderen Region weiter. Konfiguriere deine Anwendung so, dass sie bei einem Ausfall zwischen den von dir verwendeten regionalen Endpunkten wechseln kann.
Welche Integritätsprüfung sollte ich verwenden?
Rufe GET /v2/privatelink_healthcheck über den regionalen Hostnamen auf. Die älteren v1-Pfade prüfen den internen Netzwerkpfad für die Integritätsüberwachung der dahinterliegenden Cluster. Verwende sie daher nicht für Prüfungen aus deinem Netzwerk.
Welchen API-Hostnamen sollten Anwendungen verwenden?
Verwende den regionalen Hostnamen mit dem üblichen /v1-API-Pfad, zum Beispiel https://southcentralus.privatelink.api.openai.com/v1.
Können Workloads in AWS oder Google Cloud eine Verbindung über Private Link herstellen?
Nicht direkt. Private Link ist nur in Azure verfügbar. Workloads in AWS oder Google Cloud benötigen eine von dir verwaltete Netzwerkverbindung zu Azure, etwa über einen Proxy in Azure oder eine private Verbindung zwischen den Clouds. Von Azure aus läuft die Verbindung zu OpenAI dann über Azure Private Link.
Ändert sich die Authentifizierung mit Private Link?
Nein. Private Link ändert nur den Netzwerkpfad. Für Anfragen gelten weiterhin die üblichen Anforderungen der OpenAI API an Authentifizierung und Autorisierung.
Unterstützt Private Link jede OpenAI API?
Nein. Die Unterstützung hängt davon ab, ob die API auf jedem Cluster des ausgewählten regionalen Netzwerkpfads verfügbar ist. Nutze die Kompatibilitätstabelle zur Orientierung. Teste anschließend in jeder Zielregion alle API-Schnittstellen und Modelle, die du benötigst.