Den vollständigen Index der Dokumentation findest du in llms.txt. Die Markdown-Version einer Dokumentationsseite erhältst du, indem du .md an die URL der Seite anhängst.
Hauptnavigation
Design

OpenAI auf Amazon Bedrock

Nutze OpenAI-Modelle auf AWS.

Amazon Bedrock führt unterstützte OpenAI-Modelle auf einer von AWS verwalteten Infrastruktur aus. In diesem Leitfaden erfährst du, welche Funktionen der OpenAI API Bedrock unterstützt und wie du mit dem OpenAI SDK eine Verbindung herstellst. Anleitungen zum Konfigurieren deiner Bereitstellung findest du in der hier verlinkten AWS-Dokumentation.

Welche Funktionen deine Anwendung nutzen kann, hängt vom Modell und von der API-Kompatibilität ab. AWS verwaltet den Modellzugriff, die regionale Verfügbarkeit, das Routing, die Abrechnung und die betrieblichen Steuerungsmöglichkeiten für deine Bedrock-Bereitstellung.

Modellverfügbarkeit auf Bedrock

OpenAI-Modelle sind über zwei Endpunkte von Amazon Bedrock verfügbar: bedrock-runtime und bedrock-mantle. Beide unterstützen für die jeweils verfügbaren Modelle die OpenAI-kompatible Responses API und Chat Completions API. Der Funktionsumfang unterscheidet sich je nach Endpunkt.

Wähle den Endpunkt danach aus, welche Funktionen deine Anwendung benötigt. Die gehostete Websuche erfordert beispielsweise derzeit Mantle. Einzelheiten zu den Bedrock-spezifischen Funktionen und zur Wahl des Endpunkts findest du im Abschnitt Unterschiede zwischen den Endpunkten und im Endpunktvergleich von AWS.

GPT-6 Sol und GPT-6 Luna sind über Bedrock Runtime sowie über Mantle in us-east-1 (Nord-Virginia) verfügbar. GPT-6 Astra ist über Bedrock Runtime sowie über Mantle in us-west-2 (Oregon) verfügbar. Die Beispiele in diesem Leitfaden verwenden GPT-5.6 Terra in us-east-2. Wähle die für dein Modell unterstützte Region aus, bevor du das Modell wechselst.

Informationen zum Zugriff und zum Setup findest du bei AWS in der Übersicht zur Verfügbarkeit von Modellendpunkten und in der Anleitung für den Runtime-Endpunkt.

Anfragen an die Responses API senden

Die Beispiele verwenden das OpenAI SDK mit dem Mantle-Endpunkt. Wähle die AWS-Region und die Modell-ID für deine Bereitstellung aus:

  • Clientbibliotheken mit einem Bedrock-Provider leiten die Basis-URL für Mantle aus der AWS-Region ab. Die Provider für TypeScript, Python, Go und Java verwenden https://bedrock-mantle.us-east-2.api.aws/openai/v1 für die Beispiele in us-east-2. In den Ruby-Beispielen wird der Endpunkt /openai/v1 direkt konfiguriert, da die Standardroute /v1 des Providers dieses Modell nicht unterstützt.
  • Verwende eine Bedrock-Modell-ID mit dem Präfix openai.. Für GPT-6 Sol und Luna verwendest du openai.gpt-6-sol bzw. openai.gpt-6-luna in us-east-1.

Die Beispiele verwenden openai.gpt-5.6-terra in us-east-2. Wenn du GPT-6 Sol oder Luna ausprobieren möchtest, ändere sowohl die Modell-ID als auch die Region. Aktualisiere bei Ruby außerdem die Region in der explizit angegebenen base_url. Verwende auf Bedrock Runtime die IDs der US-Inferenzprofile us.openai.gpt-6-sol und us.openai.gpt-6-luna oder die globalen IDs global.openai.gpt-6-sol und global.openai.gpt-6-luna. Wie du die Basis-URL für Runtime und das Inferenzprofil auswählst, erfährst du in der AWS-Anleitung zum Endpunkt für die Responses API.

Das folgende Beispiel verwendet einen Bedrock-API-Schlüssel, der in AWS_BEARER_TOKEN_BEDROCK gespeichert ist. Wie du einen solchen Schlüssel erstellst und verwendest, erfährst du in der Dokumentation zu API-Schlüsseln für Amazon Bedrock.

Installiere den optionalen Bedrock-Provider für Java, bevor du eines der beiden Java-Beispiele verwendest:

<dependency>
  <groupId>com.openai</groupId>
  <artifactId>openai-java-bedrock</artifactId>
  <version>4.57.0</version>
</dependency>
Über Amazon Bedrock eine Anfrage an die Responses API senden
import OpenAI from "openai";
import { bedrock } from "openai/providers/bedrock";

const client = new OpenAI({
  provider: bedrock({
    region: "us-east-2",
    apiKey: process.env.AWS_BEARER_TOKEN_BEDROCK,
  }),
});

const response = await client.responses.create({
  model: "openai.gpt-5.6-terra",
  input: "Write a haiku about cloud infrastructure.",
});

console.log(response.output_text);

Verwende für Anwendungen mit langer Laufzeit vorzugsweise die standardmäßige AWS-Anmeldeinformationskette anstelle eines statischen Bearer-Tokens. Die SDK-Provider für TypeScript, Python, Go, Java und Ruby beziehen aktuelle AWS-Anmeldeinformationen und signieren jeden Anfrageversuch mit SigV4. Die Kette kann Anmeldeinformationen aus verschiedenen Quellen beziehen, darunter mit aws login konfigurierte Anmeldeinformationen, gemeinsame Profile, Workload-Rollen sowie Anmeldeinformationen für Instanzen oder Container.

Installiere die optionalen Abhängigkeiten, bevor du die Beispiele mit der AWS-Anmeldeinformationskette verwendest:

npm install @aws-sdk/credential-provider-node @smithy/hash-node @smithy/signature-v4
pip install 'openai[bedrock]'
go get github.com/openai/openai-go/v3/bedrock
bundle add aws-sdk-core

Das .NET SDK bietet derzeit weder einen entsprechenden Bedrock-Provider noch eine Authentifizierungsrichtlinie für AWS SigV4. Verwende mit .NET einen Bedrock-API-Schlüssel. Wenn deine Anwendung die AWS-Anmeldeinformationskette benötigt, sende eine signierte HTTP-Anfrage über einen von AWS unterstützten Client.

Eine Anfrage mit von AWS verwalteten Bedrock-Anmeldeinformationen senden
import OpenAI from "openai";
import { defaultProvider } from "@aws-sdk/credential-provider-node";
import { bedrock } from "openai/providers/bedrock/aws";

const client = new OpenAI({
  provider: bedrock({
    region: "us-east-2",
    endpoint: "mantle",
    credentialProvider: defaultProvider(),
  }),
});

const response = await client.responses.create({
  model: "openai.gpt-5.6-terra",
  input: "Write a haiku about cloud infrastructure.",
});

console.log(response.output_text);

Verfügbare Funktionen der Responses API

Die Tabelle zeigt die Unterschiede zur OpenAI API. Welche Funktionen verfügbar sind, hängt vom Modell und vom Endpunkt ab. Auch wenn eine API unterstützt wird, sind einzelne Tools oder Antwortmodi möglicherweise nicht verfügbar.

Funktion OpenAI API Amazon Bedrock
Textgenerierung Verfügbar Verfügbar
Bildeingabe Verfügbar Verfügbar
Dateieingabe Verfügbar Verfügbar
Strukturierte Ausgaben Verfügbar Verfügbar
Funktionsaufrufe Verfügbar Verfügbar
Asynchrone Tool-Aufrufe Bei unterstützten Modellen verfügbar Nicht verfügbar
Streaming von Antworten Verfügbar Verfügbar
WebSocket-Verbindungen Verfügbar Nicht verfügbar
Steuerung während eines laufenden Dialogschritts Bei unterstützten Modellen verfügbar Nicht verfügbar
Kontextfenster Modellabhängig Modellabhängig
Reasoning-Aufwand Verfügbar Verfügbar
Reasoning-Updates Bei unterstützten Modellen verfügbar Nicht verfügbar
Pro-Modus Bei unterstützten Modellen verfügbar Nicht verfügbar
Gespeichertes Reasoning Bei unterstützten Modellen verfügbar Bei unterstützten Modellen verfügbar
Prompt-Caching Verfügbar Verfügbar
Programmgesteuerte Tool-Aufrufe Bei unterstützten Modellen verfügbar Nicht verfügbar
Einsatz mehrerer Agenten Beta bei unterstützten Modellen Nicht verfügbar
Benutzerdefinierte Tools Verfügbar Verfügbar
Clientseitiges tool_search Verfügbar Verfügbar
Gehostete Websuche Verfügbar Nur über Mantle
Gehostete Dateisuche Verfügbar Nicht verfügbar
Computernutzung Verfügbar Verfügbar
Shell-Tool Verfügbar Nicht verfügbar
Tool zur Bildgenerierung Verfügbar Nicht verfügbar
Remote-MCP-Server Verfügbar Nicht verfügbar

Amazon Bedrock unterstützt weder asynchrone Tool-Aufrufe (async: true) noch Reasoning-Updates (Eingabeelemente vom Typ configuration_update). Die Steuerung während eines laufenden Dialogschritts erfordert WebSockets und ist über keinen der beiden Bedrock-Endpunkte verfügbar.

Das clientseitige tool_search ist eine eigenständige Funktion. Für gehostete Tools und Remote-MCP-Server gelten eigene Verfügbarkeitsregeln. Die gehostete Websuche ist über Mantle verfügbar. Die gehostete Dateisuche und Remote-MCP-Server sind nicht verfügbar.

Die Computernutzung ist für unterstützte Modelle auf Runtime und Mantle verfügbar. Deine Anwendung führt die Aktionen auf dem Computer aus und gibt die Ergebnisse an das Modell zurück. Dafür ist keine von Bedrock gehostete Ausführungsumgebung erforderlich.

Auf Amazon Bedrock unterstützen GPT-5.4 und GPT-5.5 ein Kontextfenster von einer Million Token. GPT-5.6 Sol, Terra und Luna sowie GPT-6 Astra unterstützen 1.050.000 Token. Die Grenzwerte für das jeweilige Modell findest du in den OpenAI-Modellkarten bei AWS.

Unterschiede zwischen den Endpunkten

Wenn du für die Responses API zwischen Runtime und Mantle wählst, beachte die folgenden Unterschiede:

Funktion Bedrock Runtime Mantle
GPT-6 Astra Verfügbar In us-west-2 (Oregon) verfügbar
GPT-6 Sol und GPT-6 Luna US-Inferenzprofile und globale Inferenzprofile In us-east-1 (Nord-Virginia) verfügbar
Computernutzung Bei unterstützten Modellen verfügbar Bei unterstützten Modellen verfügbar
Streaming von Antworten Verfügbar Verfügbar
Hintergrundmodus (background: true) Nicht verfügbar Je nach Einstellungen zur Datenaufbewahrung verfügbar
Gehostete Websuche Nicht verfügbar Bei unterstützten Modellen verfügbar
Fortsetzen mit previous_response_id Gib bei jeder Anfrage model an Das Modell kann aus der vorherigen Antwort übernommen werden

Runtime erfordert model auch dann, wenn du previous_response_id angibst. Der Hintergrundmodus ist vom Streaming unabhängig und bezeichnet keine asynchronen Funktionsaufrufe. Die vollständige Spezifikation der Endpunkte findest du in der AWS-Dokumentation zur Responses API. Informationen zu Berechtigungen und zur Konfiguration der Websuche findest du im AWS-Leitfaden zur Websuche.

Verfügbarkeit und Betrieb

AWS legt fest, welche Bereitstellungsoptionen für Amazon Bedrock verfügbar sind. Nutze die folgenden Informationen, um eine Bereitstellungsoption auszuwählen und zu konfigurieren:

Von AWS verwalteter Bereich AWS-Dokumentation
Modell-IDs und unterstützte APIs OpenAI-Modellkarten
Verfügbarkeit von Modellen und Endpunkten nach AWS-Region Modellverfügbarkeit und Endpunktverfügbarkeit
Geografisches und globales Routing von Anfragen Regionsübergreifende Inferenz
Kontokontingente und Anträge auf Erhöhung Kontingente für Amazon Bedrock

Eine AWS-Region entspricht keinem Rechtsraum für die Datenresidenz bei OpenAI. Wenn für deinen Workload Standortvorgaben gelten, reicht es nicht aus, die Region in der Endpunkt-URL zu prüfen. Prüfe auch die Zielregionen deines Inferenzprofils und die geltenden AWS-Bedingungen.

Datenzugriff und Datenaufbewahrung

Amazon Bedrock regelt den Zugriff durch das Betriebspersonal und die Datenaufbewahrung getrennt:

  • Kein Zugriff durch das Betriebspersonal (ZOA) bedeutet, dass das AWS-Betriebspersonal technisch keine Möglichkeit hat, sich bei den zugrunde liegenden Rechensystemen von Mantle anzumelden oder dort auf Kundendaten zuzugreifen. Weitere Informationen findest du in der Beschreibung des ZOA-Konzepts von AWS.
  • Keine Datenaufbewahrung (ZDR) bedeutet, dass AWS Anfrage- und Antwortdaten nicht in einen dauerhaften Speicher schreibt, wenn der wirksame Aufbewahrungsmodus none ist.

Die Einstellung store: false allein reicht nicht aus, um ZDR zu garantieren. Bei Anfragen an die Responses API mit dem wirksamen Aufbewahrungsmodus none lehnt AWS store: true ab. Der Hintergrundmodus ist in diesem Fall nicht verfügbar.

Bei OpenAI-Modellen in Amazon Bedrock gibt AWS keine Anfrage- oder Antwortinhalte an OpenAI weiter, wenn der wirksame Aufbewahrungsmodus default oder none ist. Welche Modi verfügbar sind, welche Voraussetzungen gelten und wie du die Aufbewahrung für dein Konto oder Projekt konfigurierst, erfährst du in der AWS-Dokumentation zur Datenaufbewahrung. Modellspezifische Aufbewahrungsvorgaben und Ausnahmen findest du in der Dokumentation zur Missbrauchserkennung in Amazon Bedrock.

Wenn AWS in einer Bildeingabe mutmaßliches Material zum sexuellen Missbrauch von Kindern (CSAM) erkennt, kann AWS die markierte Eingabe oder Ausgabe aus der ZOA-Umgebung übertragen. Außerhalb dieser Umgebung darf AWS die Daten ausschließlich speichern und prüfen, um festzustellen, ob es sich um CSAM handelt. AWS kann den Vorfall auch den nationalen Behörden melden.

Authentifizierung und Betrieb

Die für die AWS-Administration zuständige Person steuert den Zugriff auf Konten, Modelle und Funktionen. Wie du Anmeldeinformationen erstellst und über ihren Lebenszyklus hinweg verwaltest, erfährst du in der AWS-Dokumentation zu API-Schlüsseln. Informationen zu Identitäten und Berechtigungen findest du in der IAM-Dokumentation. Die Beispiele für das OpenAI SDK auf dieser Seite zeigen, wie du die Anmeldeinformationen übergibst. Sie konfigurieren keine AWS-Berechtigungen.

Preise

AWS rechnet die Nutzung von Amazon Bedrock ab. In kommerziellen Regionen entsprechen die Bedrock-Preise den Preisen, die OpenAI für gleichwertige Dienste direkt berechnet. Für einen regionsspezifischen Dienst in Bedrock zahlst du denselben Preis wie für die regionale Verarbeitung in der OpenAI API. Für die Nutzung von Bedrock gelten die Geschäftsbedingungen von Amazon.

Die Preise für die direkte Nutzung der OpenAI API findest du in der API-Preisübersicht. Informationen zu Bedrock-Preisen, unterstützten Servicestufen und Abrechnungsoptionen findest du in der Preisübersicht für Amazon Bedrock und in der jeweiligen Modellkarte.

Bedrock Managed Agents

Informationen zu verwalteten Agentensitzungen auf AWS findest du im Leitfaden zu Bedrock Managed Agents.

Nächste Schritte

Wie du ChatGPT Work und Codex für die Nutzung mit Amazon Bedrock einrichtest, erfährst du im Leitfaden ChatGPT Work und Codex mit Amazon Bedrock verwenden.