Amazon Bedrock führt unterstützte OpenAI-Modelle auf einer von AWS verwalteten Infrastruktur aus. In diesem Leitfaden erfährst du, welche Funktionen der OpenAI API Bedrock unterstützt und wie du mit dem OpenAI SDK eine Verbindung herstellst. Anleitungen zum Konfigurieren deiner Bereitstellung findest du in der hier verlinkten AWS-Dokumentation.
Welche Funktionen deine Anwendung nutzen kann, hängt vom Modell und von der API-Kompatibilität ab. AWS verwaltet den Modellzugriff, die regionale Verfügbarkeit, das Routing, die Abrechnung und die betrieblichen Steuerungsmöglichkeiten für deine Bedrock-Bereitstellung.
Modellverfügbarkeit auf Bedrock
OpenAI-Modelle sind über zwei Endpunkte von Amazon Bedrock verfügbar: bedrock-runtime und bedrock-mantle. Beide unterstützen für die jeweils verfügbaren Modelle die OpenAI-kompatible Responses API und Chat Completions API. Der Funktionsumfang unterscheidet sich je nach Endpunkt.
Wähle den Endpunkt danach aus, welche Funktionen deine Anwendung benötigt. Die gehostete Websuche erfordert beispielsweise derzeit Mantle. Einzelheiten zu den Bedrock-spezifischen Funktionen und zur Wahl des Endpunkts findest du im Abschnitt Unterschiede zwischen den Endpunkten und im Endpunktvergleich von AWS.
GPT-6 Sol und GPT-6 Luna sind über Bedrock Runtime sowie über Mantle in us-east-1 (Nord-Virginia) verfügbar. GPT-6 Astra ist über Bedrock Runtime sowie über Mantle in us-west-2 (Oregon) verfügbar. Die Beispiele in diesem Leitfaden verwenden GPT-5.6 Terra in us-east-2. Wähle die für dein Modell unterstützte Region aus, bevor du das Modell wechselst.
Informationen zum Zugriff und zum Setup findest du bei AWS in der Übersicht zur Verfügbarkeit von Modellendpunkten und in der Anleitung für den Runtime-Endpunkt.
Anfragen an die Responses API senden
Die Beispiele verwenden das OpenAI SDK mit dem Mantle-Endpunkt. Wähle die AWS-Region und die Modell-ID für deine Bereitstellung aus:
- Clientbibliotheken mit einem Bedrock-Provider leiten die Basis-URL für Mantle aus der AWS-Region ab. Die Provider für TypeScript, Python, Go und Java verwenden
https://bedrock-mantle.us-east-2.api.aws/openai/v1für die Beispiele inus-east-2. In den Ruby-Beispielen wird der Endpunkt/openai/v1direkt konfiguriert, da die Standardroute/v1des Providers dieses Modell nicht unterstützt. - Verwende eine Bedrock-Modell-ID mit dem Präfix
openai.. Für GPT-6 Sol und Luna verwendest duopenai.gpt-6-solbzw.openai.gpt-6-lunainus-east-1.
Die Beispiele verwenden openai.gpt-5.6-terra in us-east-2. Wenn du GPT-6 Sol oder Luna ausprobieren möchtest, ändere sowohl die Modell-ID als auch die Region. Aktualisiere bei Ruby außerdem die Region in der explizit angegebenen base_url. Verwende auf Bedrock Runtime die IDs der US-Inferenzprofile us.openai.gpt-6-sol und us.openai.gpt-6-luna oder die globalen IDs global.openai.gpt-6-sol und global.openai.gpt-6-luna. Wie du die Basis-URL für Runtime und das Inferenzprofil auswählst, erfährst du in der AWS-Anleitung zum Endpunkt für die Responses API.
Das folgende Beispiel verwendet einen Bedrock-API-Schlüssel, der in AWS_BEARER_TOKEN_BEDROCK gespeichert ist. Wie du einen solchen Schlüssel erstellst und verwendest, erfährst du in der Dokumentation zu API-Schlüsseln für Amazon Bedrock.
Installiere den optionalen Bedrock-Provider für Java, bevor du eines der beiden Java-Beispiele verwendest:
<dependency>
<groupId>com.openai</groupId>
<artifactId>openai-java-bedrock</artifactId>
<version>4.57.0</version>
</dependency>
import OpenAI from "openai";
import { bedrock } from "openai/providers/bedrock";
const client = new OpenAI({
provider: bedrock({
region: "us-east-2",
apiKey: process.env.AWS_BEARER_TOKEN_BEDROCK,
}),
});
const response = await client.responses.create({
model: "openai.gpt-5.6-terra",
input: "Write a haiku about cloud infrastructure.",
});
console.log(response.output_text);Verwende für Anwendungen mit langer Laufzeit vorzugsweise die standardmäßige AWS-Anmeldeinformationskette anstelle eines statischen Bearer-Tokens. Die SDK-Provider für TypeScript, Python, Go, Java und Ruby beziehen aktuelle AWS-Anmeldeinformationen und signieren jeden Anfrageversuch mit SigV4. Die Kette kann Anmeldeinformationen aus verschiedenen Quellen beziehen, darunter mit aws login konfigurierte Anmeldeinformationen, gemeinsame Profile, Workload-Rollen sowie Anmeldeinformationen für Instanzen oder Container.
Installiere die optionalen Abhängigkeiten, bevor du die Beispiele mit der AWS-Anmeldeinformationskette verwendest:
npm install @aws-sdk/credential-provider-node @smithy/hash-node @smithy/signature-v4
pip install 'openai[bedrock]'
go get github.com/openai/openai-go/v3/bedrock
bundle add aws-sdk-core
Das .NET SDK bietet derzeit weder einen entsprechenden Bedrock-Provider noch eine Authentifizierungsrichtlinie für AWS SigV4. Verwende mit .NET einen Bedrock-API-Schlüssel. Wenn deine Anwendung die AWS-Anmeldeinformationskette benötigt, sende eine signierte HTTP-Anfrage über einen von AWS unterstützten Client.
import OpenAI from "openai";
import { defaultProvider } from "@aws-sdk/credential-provider-node";
import { bedrock } from "openai/providers/bedrock/aws";
const client = new OpenAI({
provider: bedrock({
region: "us-east-2",
endpoint: "mantle",
credentialProvider: defaultProvider(),
}),
});
const response = await client.responses.create({
model: "openai.gpt-5.6-terra",
input: "Write a haiku about cloud infrastructure.",
});
console.log(response.output_text);Verfügbare Funktionen der Responses API
Die Tabelle zeigt die Unterschiede zur OpenAI API. Welche Funktionen verfügbar sind, hängt vom Modell und vom Endpunkt ab. Auch wenn eine API unterstützt wird, sind einzelne Tools oder Antwortmodi möglicherweise nicht verfügbar.
| Funktion | OpenAI API | Amazon Bedrock |
|---|---|---|
| Textgenerierung | Verfügbar | Verfügbar |
| Bildeingabe | Verfügbar | Verfügbar |
| Dateieingabe | Verfügbar | Verfügbar |
| Strukturierte Ausgaben | Verfügbar | Verfügbar |
| Funktionsaufrufe | Verfügbar | Verfügbar |
| Asynchrone Tool-Aufrufe | Bei unterstützten Modellen verfügbar | Nicht verfügbar |
| Streaming von Antworten | Verfügbar | Verfügbar |
| WebSocket-Verbindungen | Verfügbar | Nicht verfügbar |
| Steuerung während eines laufenden Dialogschritts | Bei unterstützten Modellen verfügbar | Nicht verfügbar |
| Kontextfenster | Modellabhängig | Modellabhängig |
| Reasoning-Aufwand | Verfügbar | Verfügbar |
| Reasoning-Updates | Bei unterstützten Modellen verfügbar | Nicht verfügbar |
| Pro-Modus | Bei unterstützten Modellen verfügbar | Nicht verfügbar |
| Gespeichertes Reasoning | Bei unterstützten Modellen verfügbar | Bei unterstützten Modellen verfügbar |
| Prompt-Caching | Verfügbar | Verfügbar |
| Programmgesteuerte Tool-Aufrufe | Bei unterstützten Modellen verfügbar | Nicht verfügbar |
| Einsatz mehrerer Agenten | Beta bei unterstützten Modellen | Nicht verfügbar |
| Benutzerdefinierte Tools | Verfügbar | Verfügbar |
Clientseitiges tool_search |
Verfügbar | Verfügbar |
| Gehostete Websuche | Verfügbar | Nur über Mantle |
| Gehostete Dateisuche | Verfügbar | Nicht verfügbar |
| Computernutzung | Verfügbar | Verfügbar |
| Shell-Tool | Verfügbar | Nicht verfügbar |
| Tool zur Bildgenerierung | Verfügbar | Nicht verfügbar |
| Remote-MCP-Server | Verfügbar | Nicht verfügbar |
Amazon Bedrock unterstützt weder asynchrone Tool-Aufrufe (async: true) noch Reasoning-Updates (Eingabeelemente vom Typ configuration_update). Die Steuerung während eines laufenden Dialogschritts erfordert WebSockets und ist über keinen der beiden Bedrock-Endpunkte verfügbar.
Das clientseitige tool_search ist eine eigenständige Funktion. Für gehostete Tools und Remote-MCP-Server gelten eigene Verfügbarkeitsregeln. Die gehostete Websuche ist über Mantle verfügbar. Die gehostete Dateisuche und Remote-MCP-Server sind nicht verfügbar.
Die Computernutzung ist für unterstützte Modelle auf Runtime und Mantle verfügbar. Deine Anwendung führt die Aktionen auf dem Computer aus und gibt die Ergebnisse an das Modell zurück. Dafür ist keine von Bedrock gehostete Ausführungsumgebung erforderlich.
Auf Amazon Bedrock unterstützen GPT-5.4 und GPT-5.5 ein Kontextfenster von einer Million Token. GPT-5.6 Sol, Terra und Luna sowie GPT-6 Astra unterstützen 1.050.000 Token. Die Grenzwerte für das jeweilige Modell findest du in den OpenAI-Modellkarten bei AWS.
Unterschiede zwischen den Endpunkten
Wenn du für die Responses API zwischen Runtime und Mantle wählst, beachte die folgenden Unterschiede:
| Funktion | Bedrock Runtime | Mantle |
|---|---|---|
| GPT-6 Astra | Verfügbar | In us-west-2 (Oregon) verfügbar |
| GPT-6 Sol und GPT-6 Luna | US-Inferenzprofile und globale Inferenzprofile | In us-east-1 (Nord-Virginia) verfügbar |
| Computernutzung | Bei unterstützten Modellen verfügbar | Bei unterstützten Modellen verfügbar |
| Streaming von Antworten | Verfügbar | Verfügbar |
Hintergrundmodus (background: true) |
Nicht verfügbar | Je nach Einstellungen zur Datenaufbewahrung verfügbar |
| Gehostete Websuche | Nicht verfügbar | Bei unterstützten Modellen verfügbar |
Fortsetzen mit previous_response_id |
Gib bei jeder Anfrage model an |
Das Modell kann aus der vorherigen Antwort übernommen werden |
Runtime erfordert model auch dann, wenn du previous_response_id angibst. Der Hintergrundmodus ist vom Streaming unabhängig und bezeichnet keine asynchronen Funktionsaufrufe. Die vollständige Spezifikation der Endpunkte findest du in der AWS-Dokumentation zur Responses API. Informationen zu Berechtigungen und zur Konfiguration der Websuche findest du im AWS-Leitfaden zur Websuche.
Verfügbarkeit und Betrieb
AWS legt fest, welche Bereitstellungsoptionen für Amazon Bedrock verfügbar sind. Nutze die folgenden Informationen, um eine Bereitstellungsoption auszuwählen und zu konfigurieren:
| Von AWS verwalteter Bereich | AWS-Dokumentation |
|---|---|
| Modell-IDs und unterstützte APIs | OpenAI-Modellkarten |
| Verfügbarkeit von Modellen und Endpunkten nach AWS-Region | Modellverfügbarkeit und Endpunktverfügbarkeit |
| Geografisches und globales Routing von Anfragen | Regionsübergreifende Inferenz |
| Kontokontingente und Anträge auf Erhöhung | Kontingente für Amazon Bedrock |
Eine AWS-Region entspricht keinem Rechtsraum für die Datenresidenz bei OpenAI. Wenn für deinen Workload Standortvorgaben gelten, reicht es nicht aus, die Region in der Endpunkt-URL zu prüfen. Prüfe auch die Zielregionen deines Inferenzprofils und die geltenden AWS-Bedingungen.
Datenzugriff und Datenaufbewahrung
Amazon Bedrock regelt den Zugriff durch das Betriebspersonal und die Datenaufbewahrung getrennt:
- Kein Zugriff durch das Betriebspersonal (ZOA) bedeutet, dass das AWS-Betriebspersonal technisch keine Möglichkeit hat, sich bei den zugrunde liegenden Rechensystemen von Mantle anzumelden oder dort auf Kundendaten zuzugreifen. Weitere Informationen findest du in der Beschreibung des ZOA-Konzepts von AWS.
- Keine Datenaufbewahrung (ZDR) bedeutet, dass AWS Anfrage- und Antwortdaten nicht in einen dauerhaften Speicher schreibt, wenn der wirksame Aufbewahrungsmodus
noneist.
Die Einstellung store: false allein reicht nicht aus, um ZDR zu garantieren. Bei Anfragen an die Responses API mit dem wirksamen Aufbewahrungsmodus none lehnt AWS store: true ab. Der Hintergrundmodus ist in diesem Fall nicht verfügbar.
Bei OpenAI-Modellen in Amazon Bedrock gibt AWS keine Anfrage- oder Antwortinhalte an OpenAI weiter, wenn der wirksame Aufbewahrungsmodus default oder none ist. Welche Modi verfügbar sind, welche Voraussetzungen gelten und wie du die Aufbewahrung für dein Konto oder Projekt konfigurierst, erfährst du in der AWS-Dokumentation zur Datenaufbewahrung. Modellspezifische Aufbewahrungsvorgaben und Ausnahmen findest du in der Dokumentation zur Missbrauchserkennung in Amazon Bedrock.
Wenn AWS in einer Bildeingabe mutmaßliches Material zum sexuellen Missbrauch von Kindern (CSAM) erkennt, kann AWS die markierte Eingabe oder Ausgabe aus der ZOA-Umgebung übertragen. Außerhalb dieser Umgebung darf AWS die Daten ausschließlich speichern und prüfen, um festzustellen, ob es sich um CSAM handelt. AWS kann den Vorfall auch den nationalen Behörden melden.
Authentifizierung und Betrieb
Die für die AWS-Administration zuständige Person steuert den Zugriff auf Konten, Modelle und Funktionen. Wie du Anmeldeinformationen erstellst und über ihren Lebenszyklus hinweg verwaltest, erfährst du in der AWS-Dokumentation zu API-Schlüsseln. Informationen zu Identitäten und Berechtigungen findest du in der IAM-Dokumentation. Die Beispiele für das OpenAI SDK auf dieser Seite zeigen, wie du die Anmeldeinformationen übergibst. Sie konfigurieren keine AWS-Berechtigungen.
Preise
AWS rechnet die Nutzung von Amazon Bedrock ab. In kommerziellen Regionen entsprechen die Bedrock-Preise den Preisen, die OpenAI für gleichwertige Dienste direkt berechnet. Für einen regionsspezifischen Dienst in Bedrock zahlst du denselben Preis wie für die regionale Verarbeitung in der OpenAI API. Für die Nutzung von Bedrock gelten die Geschäftsbedingungen von Amazon.
Die Preise für die direkte Nutzung der OpenAI API findest du in der API-Preisübersicht. Informationen zu Bedrock-Preisen, unterstützten Servicestufen und Abrechnungsoptionen findest du in der Preisübersicht für Amazon Bedrock und in der jeweiligen Modellkarte.
Bedrock Managed Agents
Informationen zu verwalteten Agentensitzungen auf AWS findest du im Leitfaden zu Bedrock Managed Agents.
Nächste Schritte
Wie du ChatGPT Work und Codex für die Nutzung mit Amazon Bedrock einrichtest, erfährst du im Leitfaden ChatGPT Work und Codex mit Amazon Bedrock verwenden.