如需查看完整的文档索引,请参阅 llms.txt。在文档页面的 URL 末尾加上 .md 即可查看该页面的 Markdown 版本。
主导航
主题

在 Amazon Bedrock 上使用 OpenAI 模型

在 AWS 上使用 OpenAI 模型。

Amazon Bedrock 在 AWS 托管的基础设施上运行受支持的 OpenAI 模型。您可以通过本指南对比 OpenAI API 功能的支持情况,并使用 OpenAI SDK 连接 Bedrock。有关部署配置,请参阅本页列出的 AWS 文档。

模型能力和 API 兼容性决定了您的应用可以实现哪些功能。AWS 负责管理 Bedrock 部署的模型访问权限、区域可用性、路由、计费和运维控制措施。

Bedrock 模型在哪些端点和区域可用

您可以通过两个 Amazon Bedrock 端点访问 OpenAI 模型:bedrock-runtime 和 bedrock-mantle。对于受支持的模型,两个端点都提供与 OpenAI 兼容的 Responses API 和 Chat Completions API,但各自支持的功能有所不同。

请根据应用所需的功能选择端点。例如,目前只有 Mantle 支持托管网页搜索。有关 Bedrock 特有的功能以及如何选择端点,请参阅本页的端点差异和 AWS 的端点对比。

GPT-6 Sol 和 GPT-6 Luna 可通过 Bedrock Runtime 访问,也可通过 us-east-1(弗吉尼亚州北部)的 Mantle 访问。GPT-6 Astra 可通过 Bedrock Runtime 访问,也可通过 us-west-2(俄勒冈州)的 Mantle 访问。本指南的示例在 us-east-2 中使用 GPT-5.6 Terra。更换模型前,请先选择支持目标模型的区域。

有关访问和配置方法,请参阅 AWS 的模型端点可用性说明和 Runtime 端点使用说明。

发送 Responses API 请求

以下示例使用 OpenAI SDK 连接 Mantle 端点。请为您的部署选择相应的 AWS 区域和模型 ID:

  • 提供 Bedrock 适配器的客户端库会根据 AWS 区域确定 Mantle 的区域基础 URL。TypeScript、Python、Go 和 Java 适配器使用 https://bedrock-mantle.us-east-2.api.aws/openai/v1 作为本指南中 us-east-2 示例的基础 URL。Ruby 示例直接配置 /openai/v1 端点,因为适配器默认使用的 /v1 路由不支持该模型。
  • 请使用带有 openai. 前缀的 Bedrock 模型 ID。对于 GPT-6 Sol 和 Luna,请分别使用 openai.gpt-6-sol 和 openai.gpt-6-luna,并将区域设为 us-east-1。

示例使用模型 openai.gpt-5.6-terra,区域为 us-east-2。要试用 GPT-6 Sol 或 Luna,请同时更改模型 ID 和区域。如果使用 Ruby,还需更新显式设置的 base_url 中的区域。在 Bedrock Runtime 上,请使用美国推理配置文件 ID us.openai.gpt-6-sol 和 us.openai.gpt-6-luna,或全球推理配置文件 ID global.openai.gpt-6-sol 和 global.openai.gpt-6-luna。请按照 AWS 的 Responses API 端点使用说明选择 Runtime 基础 URL 和推理配置文件。

以下示例使用存储在 AWS_BEARER_TOKEN_BEDROCK 环境变量中的 Bedrock API 密钥。有关如何生成和使用 Bedrock API 密钥,请参阅 Amazon Bedrock API 密钥。

使用任一 Java 示例前,请安装可选的 Java Bedrock 适配器:

<dependency>
  <groupId>com.openai</groupId>
  <artifactId>openai-java-bedrock</artifactId>
  <version>4.57.0</version>
</dependency>
通过 Amazon Bedrock 发送 Responses API 请求
import OpenAI from "openai";
import { bedrock } from "openai/providers/bedrock";

const client = new OpenAI({
  provider: bedrock({
    region: "us-east-2",
    apiKey: process.env.AWS_BEARER_TOKEN_BEDROCK,
  }),
});

const response = await client.responses.create({
  model: "openai.gpt-5.6-terra",
  input: "Write a haiku about cloud infrastructure.",
});

console.log(response.output_text);

对于长期运行的应用,建议优先使用标准 AWS 凭证链,而非静态持有者令牌。TypeScript、Python、Go、Java 和 Ruby SDK 的 Bedrock 适配器会获取最新的 AWS 凭证,并在每次尝试发送请求时使用 SigV4 签名。凭证链可以包含通过 aws login 配置的凭证、共享配置文件、工作负载角色,以及实例或容器凭证。

运行使用 AWS 凭证链的示例前,请安装相应的可选依赖项:

npm install @aws-sdk/credential-provider-node @smithy/hash-node @smithy/signature-v4
pip install 'openai[bedrock]'
go get github.com/openai/openai-go/v3/bedrock
bundle add aws-sdk-core

.NET SDK 目前没有提供相应的 Bedrock 适配器或 AWS SigV4 身份验证策略。在 .NET 中,请使用 Bedrock API 密钥。如果您的应用需要使用 AWS 凭证链,请通过 AWS 支持的客户端发送经过签名的 HTTP 请求。

使用 AWS 管理的 Bedrock 凭证发送请求
import OpenAI from "openai";
import { defaultProvider } from "@aws-sdk/credential-provider-node";
import { bedrock } from "openai/providers/bedrock/aws";

const client = new OpenAI({
  provider: bedrock({
    region: "us-east-2",
    endpoint: "mantle",
    credentialProvider: defaultProvider(),
  }),
});

const response = await client.responses.create({
  model: "openai.gpt-5.6-terra",
  input: "Write a haiku about cloud infrastructure.",
});

console.log(response.output_text);

Responses API 功能支持情况

下表列出了 Amazon Bedrock 与 OpenAI API 在功能支持上的差异。具体支持哪些功能取决于模型和端点。支持某个 API 并不意味着支持该 API 的所有工具或响应模式。

功能 OpenAI API Amazon Bedrock
文本生成 可用 可用
图像输入 可用 可用
文件输入 可用 可用
结构化输出 可用 可用
函数调用 可用 可用
异步工具调用 部分模型可用 不可用
流式响应 可用 可用
WebSocket 连接 可用 不可用
在当前轮次中调整方向 部分模型可用 不可用
上下文窗口 取决于模型 取决于模型
推理强度 可用 可用
推理配置更新 部分模型可用 不可用
Pro 模式 部分模型可用 不可用
推理持久化 部分模型可用 部分模型可用
提示词缓存 可用 可用
程序化工具调用 部分模型可用 不可用
多智能体 部分模型提供测试版 不可用
自定义工具 可用 可用
客户端 tool_search 可用 可用
托管网页搜索 可用 仅 Mantle 可用
托管文件搜索 可用 不可用
计算机使用 可用 可用
Shell 工具 可用 不可用
图像生成工具 可用 不可用
远程 MCP 服务器 可用 不可用

Amazon Bedrock 不支持异步工具调用(async: true)或推理配置更新(configuration_update 输入项)。在当前轮次中调整方向需要 WebSocket 连接,两个 Bedrock 端点均不支持此功能。

客户端 tool_search、托管工具和远程 MCP 服务器是不同的功能。Mantle 支持托管网页搜索。托管文件搜索和远程 MCP 服务器均不可用。

对于支持计算机使用的模型,Runtime 和 Mantle 均提供这项功能。您的应用负责执行计算机操作并将结果返回给模型,无需使用 Bedrock 托管的执行环境。

在 Amazon Bedrock 上,GPT-5.4 和 GPT-5.5 的上下文窗口为 100 万个 Token,GPT-5.6 Sol、Terra、Luna 和 GPT-6 Astra 的上下文窗口为 1,050,000 个 Token。有关各模型的具体限制,请查阅 AWS 的 OpenAI 模型卡。

端点差异

选择 Runtime 或 Mantle 时,请注意两个端点在 Responses API 支持上的差异:

功能 Bedrock Runtime Mantle
GPT-6 Astra 可用 在 us-west-2(俄勒冈州)可用
GPT-6 Sol 和 GPT-6 Luna 支持美国和全球推理配置文件 在 us-east-1(弗吉尼亚州北部)可用
计算机使用 部分模型可用 部分模型可用
流式响应 可用 可用
后台模式(background: true) 不可用 可用,具体取决于数据保留设置
托管网页搜索 不可用 部分模型可用
使用 previous_response_id 延续对话 每个请求都必须包含 model 可沿用上一次响应所用的模型

Runtime 要求每个请求都包含 model,即使您已提供 previous_response_id。后台模式独立于流式响应,也不等同于异步函数调用。有关端点的完整接口规范,请参阅 AWS 的 Responses API 文档。有关网页搜索的权限和配置,请参阅 AWS 的网页搜索指南。

可用性与运维

Amazon Bedrock 的部署选项和可用性由 AWS 管理。您可以参考以下文档选择部署方案并完成配置:

AWS 管理的事项 AWS 文档
模型 ID 和支持的 API OpenAI 模型卡
各 AWS 区域的模型和端点可用性 模型可用性和端点可用性
按地理范围或在全球范围内路由请求 跨区域推理
账户配额及提高配额的申请 Amazon Bedrock 配额

AWS 区域不等同于 OpenAI 数据驻留的管辖区。如果您的工作负载对地理位置有要求,除了查看端点 URL 中的区域,还应核对推理配置文件中的目标区域以及适用的 AWS 条款。

数据访问与保留

Amazon Bedrock 分别控制运维人员的访问权限和数据保留行为:

  • 运维人员零访问(ZOA):AWS 运维人员无法通过任何技术手段登录 Mantle 的底层计算系统或访问其中的客户数据。请参阅 AWS 的 ZOA 设计说明。
  • 零数据保留(ZDR):当实际生效的保留模式为 none 时,AWS 不会将请求或响应数据写入持久化存储。

设置 store: false 并不能保证零数据保留。对于实际生效的保留模式为 none 的 Responses API 请求,AWS 会拒绝 store: true,且后台模式不可用。

在 Amazon Bedrock 中使用 OpenAI 模型时,如果实际生效的保留模式为 default 或 none,AWS 不会与 OpenAI 共享请求或响应内容。有关可用模式、适用条件以及账户或项目的配置方式,请参阅 AWS 的数据保留文档。有关各模型的数据保留要求和例外情况,请参阅 Amazon Bedrock 滥用检测。

如果 AWS 在输入图像中检测到疑似 CSAM,可能会将被标记的输入或输出移至 ZOA 环境之外,并对其进行存储和审查,仅用于确定其是否属于 CSAM。AWS 也可能向国家主管机关报告。

身份验证与运维

您的 AWS 管理员负责控制账户、模型和功能的访问权限。有关凭证的创建和生命周期管理,请参阅 AWS 的 API 密钥文档。有关身份和权限,请参阅 IAM 文档。本页的 OpenAI SDK 示例展示了如何提供这些凭证,但不会配置 AWS 权限。

定价

Amazon Bedrock 的使用费用由 AWS 收取。在商业区域中,Bedrock 与 OpenAI 直接提供的同等服务价格一致。在 Bedrock 中使用特定区域的服务时,费率与 OpenAI API 的区域处理费率相同。使用 Bedrock 须遵守 Amazon 的商业条款。

直接使用 OpenAI API 的价格请参阅 API 定价。有关 Bedrock 的费率、支持的服务层级和计费选项,请参阅 Amazon Bedrock 定价和相应的模型卡。

Bedrock 托管智能体

有关在 AWS 上使用托管智能体会话的信息,请参阅 Bedrock 托管智能体。

后续步骤

有关在 ChatGPT 工作模式和 Codex 中配置 Amazon Bedrock 的方法,请参阅在 ChatGPT 工作模式和 Codex 中使用 Amazon Bedrock。