Amazon Bedrock 在 AWS 管理的基礎架構上執行受支援的 OpenAI 模型。本指南可協助你比較 OpenAI API 功能支援情況,並使用 OpenAI SDK 連線。如需設定部署環境,請參閱本頁列出的 AWS 文件。
應用程式能提供哪些功能,取決於模型能力和 API 相容性。AWS 負責管理 Bedrock 部署環境的模型存取權、區域供應情況、請求路由、計費及維運控制措施。
Bedrock 模型與端點的供應方式
你可以透過兩個 Amazon Bedrock 端點使用 OpenAI 模型:bedrock-runtime 和 bedrock-mantle。對於受支援的模型,兩個端點都提供與 OpenAI 相容的 Responses API 和 Chat Completions API,但支援的功能有所不同。
請依應用程式所需的功能選擇端點。例如,目前只有 Mantle 支援託管式網頁搜尋。如需瞭解 Bedrock 專屬功能及如何選擇端點,請參閱本頁的端點差異及 AWS 的端點比較。
GPT-6 Sol 和 GPT-6 Luna 可透過 Bedrock Runtime 使用,也可透過 us-east-1(維吉尼亞州北部)的 Mantle 使用。GPT-6 Astra 可透過 Bedrock Runtime 使用,也可透過 us-west-2(奧勒岡州)的 Mantle 使用。本指南的範例使用 GPT-5.6 Terra,區域為 us-east-2。變更模型前,請先選擇支援該模型的區域。
如需瞭解如何取得存取權及完成設定,請參閱 AWS 的模型端點供應情況及 Runtime 端點使用說明。
傳送 Responses API 請求
以下範例使用 OpenAI SDK 連線至 Mantle 端點。請選擇部署環境所用的 AWS 區域和模型 ID:
- 提供 Bedrock 供應器的用戶端程式庫會依 AWS 區域決定 Mantle 端點的基底 URL。TypeScript、Python、Go 和 Java 供應器使用
https://bedrock-mantle.us-east-2.api.aws/openai/v1執行本指南的us-east-2範例。Ruby 範例直接設定這個/openai/v1端點,因為供應器預設的/v1路徑不支援此模型。 - 請使用以
openai.開頭的 Bedrock 模型 ID。如要使用 GPT-6 Sol 或 Luna,請將模型 ID 設為openai.gpt-6-sol或openai.gpt-6-luna,並選擇us-east-1區域。
範例使用的模型 ID 為 openai.gpt-5.6-terra,區域為 us-east-2。如要試用 GPT-6 Sol 或 Luna,請同時變更模型 ID 和區域。使用 Ruby 時,也請更新明確指定的 base_url 中的區域。在 Bedrock Runtime 上,請使用美國推論設定檔 ID us.openai.gpt-6-sol 和 us.openai.gpt-6-luna,或全球推論設定檔 ID global.openai.gpt-6-sol 和 global.openai.gpt-6-luna。請依照 AWS 的 Responses API 端點使用說明選擇 Runtime 的基底 URL 和推論設定檔。
以下範例使用儲存在 AWS_BEARER_TOKEN_BEDROCK 環境變數中的 Bedrock API 金鑰。如需瞭解如何產生及使用 Bedrock API 金鑰,請參閱 Amazon Bedrock API 金鑰。
使用任一 Java 範例前,請先安裝選用的 Java Bedrock 供應器:
<dependency>
<groupId>com.openai</groupId>
<artifactId>openai-java-bedrock</artifactId>
<version>4.57.0</version>
</dependency>
import OpenAI from "openai";
import { bedrock } from "openai/providers/bedrock";
const client = new OpenAI({
provider: bedrock({
region: "us-east-2",
apiKey: process.env.AWS_BEARER_TOKEN_BEDROCK,
}),
});
const response = await client.responses.create({
model: "openai.gpt-5.6-terra",
input: "Write a haiku about cloud infrastructure.",
});
console.log(response.output_text);對於長時間執行的應用程式,建議使用標準 AWS 憑證鏈取代靜態持有人權杖。TypeScript、Python、Go、Java 和 Ruby 的 SDK 供應器會取得最新的 AWS 憑證,並在每次嘗試傳送請求時使用 SigV4 簽署請求。憑證鏈可包含使用 aws login 設定的憑證、共用設定檔、工作負載角色,以及執行個體或容器的憑證。
如要執行使用 AWS 憑證鏈的範例,請先安裝所需的選用相依套件:
npm install @aws-sdk/credential-provider-node @smithy/hash-node @smithy/signature-v4
pip install 'openai[bedrock]'
go get github.com/openai/openai-go/v3/bedrock
bundle add aws-sdk-core
.NET SDK 目前未提供對應的 Bedrock 供應器或 AWS SigV4 驗證原則。在 .NET 中,請使用 Bedrock API 金鑰。如果應用程式需要使用 AWS 憑證鏈,請透過 AWS 支援的用戶端傳送已簽署的 HTTP 請求。
import OpenAI from "openai";
import { defaultProvider } from "@aws-sdk/credential-provider-node";
import { bedrock } from "openai/providers/bedrock/aws";
const client = new OpenAI({
provider: bedrock({
region: "us-east-2",
endpoint: "mantle",
credentialProvider: defaultProvider(),
}),
});
const response = await client.responses.create({
model: "openai.gpt-5.6-terra",
input: "Write a haiku about cloud infrastructure.",
});
console.log(response.output_text);Responses API 功能支援情況
下表列出 Amazon Bedrock 與 OpenAI API 的功能差異。各項功能是否可用取決於模型和端點。即使支援某個 API,也不代表支援該 API 的所有工具或回應模式。
| 功能 | OpenAI API | Amazon Bedrock |
|---|---|---|
| 文字生成 | 可用 | 可用 |
| 圖像輸入 | 可用 | 可用 |
| 檔案輸入 | 可用 | 可用 |
| 結構化輸出 | 可用 | 可用 |
| 函式呼叫 | 可用 | 可用 |
| 非同步工具呼叫 | 支援此功能的模型可用 | 不可用 |
| 串流回應 | 可用 | 可用 |
| WebSocket 連線 | 可用 | 不可用 |
| 在回合進行中調整方向 | 支援此功能的模型可用 | 不可用 |
| 上下文視窗 | 依模型而異 | 依模型而異 |
| 推理強度 | 可用 | 可用 |
| 推理設定更新 | 支援此功能的模型可用 | 不可用 |
| Pro 模式 | 支援此功能的模型可用 | 不可用 |
| 推理狀態保存 | 支援此功能的模型可用 | 支援此功能的模型可用 |
| 提示詞快取 | 可用 | 可用 |
| 以程式呼叫工具 | 支援此功能的模型可用 | 不可用 |
| 多智慧體 | 支援此功能的模型可使用 Beta 版 | 不可用 |
| 自訂工具 | 可用 | 可用 |
用戶端 tool_search |
可用 | 可用 |
| 託管式網頁搜尋 | 可用 | 僅限 Mantle |
| 託管式檔案搜尋 | 可用 | 不可用 |
| 電腦操作 | 可用 | 可用 |
| Shell 工具 | 可用 | 不可用 |
| 圖像生成工具 | 可用 | 不可用 |
| 遠端 MCP 伺服器 | 可用 | 不可用 |
Amazon Bedrock 不支援非同步工具呼叫(async: true)或推理設定更新(configuration_update 輸入項目)。在回合進行中調整方向需要 WebSocket 連線,兩個 Bedrock 端點都不提供這項功能。
用戶端 tool_search、託管式工具與遠端 MCP 伺服器是不同的功能。Mantle 提供託管式網頁搜尋。託管式檔案搜尋與遠端 MCP 伺服器均不可用。
對於支援電腦操作的模型,Runtime 和 Mantle 都提供這項功能。應用程式負責執行電腦操作,並將結果傳回模型,因此無須使用由 Bedrock 託管的執行環境。
在 Amazon Bedrock 上,GPT-5.4 和 GPT-5.5 的上下文視窗可容納 100 萬個 Token。GPT-5.6 Sol、Terra、Luna 和 GPT-6 Astra 則支援 1,050,000 個 Token。各模型的限制請參閱 AWS 的 OpenAI 模型說明卡。
端點差異
選擇 Runtime 或 Mantle 時,請留意兩者在 Responses API 上的差異:
| 功能 | Bedrock Runtime | Mantle |
|---|---|---|
| GPT-6 Astra | 可用 | 在 us-west-2(奧勒岡州)可用 |
| GPT-6 Sol 和 GPT-6 Luna | 美國及全球推論設定檔 | 在 us-east-1(維吉尼亞州北部)可用 |
| 電腦操作 | 支援此功能的模型可用 | 支援此功能的模型可用 |
| 串流回應 | 可用 | 可用 |
背景模式(background: true) |
不可用 | 可用,但受資料保留設定限制 |
| 託管式網頁搜尋 | 不可用 | 支援此功能的模型可用 |
使用 previous_response_id 接續先前的回應 |
每次請求都必須包含 model |
可沿用上一次回應的模型 |
Runtime 要求每次請求都包含 model,即使已提供 previous_response_id 也一樣。背景模式與串流是不同的功能,也不等同於非同步函式呼叫。完整的端點規格請參閱 AWS 的 Responses API 文件。網頁搜尋所需的權限與設定請參閱 AWS 的網頁搜尋指南。
供應情況與維運
AWS 負責管理 Amazon Bedrock 的部署選項和服務供應情況。請參閱以下文件,選擇並設定部署環境:
| AWS 管理的項目 | AWS 文件 |
|---|---|
| 模型 ID 與支援的 API | OpenAI 模型說明卡 |
| 各 AWS 區域可用的模型與端點 | 模型供應情況及端點供應情況 |
| 按地理範圍或在全球路由請求 | 跨區域推論 |
| 帳戶配額與提高配額的申請 | Amazon Bedrock 配額 |
AWS 區域不等同於 OpenAI 資料駐留的司法管轄區。如果工作負載必須符合特定地點要求,除了端點 URL 中的區域,也請確認推論設定檔的目的地區域,並查閱適用的 AWS 條款。
資料存取與保留
Amazon Bedrock 分別控管維運人員的存取權與資料保留:
- 維運人員零存取(ZOA) 表示 AWS 維運人員在技術上無法登入 Mantle 的底層運算系統,也無法存取其中的客戶資料。詳情請參閱 AWS 的 ZOA 設計說明。
- 零資料保留(ZDR) 表示當實際生效的保留模式為
none時,AWS 不會將請求或回應資料寫入持久性儲存空間。
設定 store: false 並不能保證零資料保留。對於實際保留模式為 none 的 Responses API 請求,AWS 會拒絕 store: true,且背景模式不可用。
在 Amazon Bedrock 中使用 OpenAI 模型時,如果實際保留模式為 default 或 none,AWS 不會與 OpenAI 分享請求或回應內容。如需瞭解可用模式、適用資格,以及如何設定帳戶或專案,請參閱 AWS 的資料保留文件。各模型的資料保留要求和例外情況請參閱 Amazon Bedrock 濫用偵測說明。
如果 AWS 在輸入圖像中偵測到疑似 CSAM 的內容,可能會將標記的輸入或輸出移至 ZOA 環境之外。AWS 儲存及審查這些內容的唯一目的是判斷其是否為 CSAM。AWS 也可能向國家主管機關通報。
身分驗證與維運
你的 AWS 管理員負責控管帳戶、模型和功能的存取權。請參閱 AWS 的 API 金鑰文件,瞭解如何建立憑證及管理其生命週期,並參閱 IAM 文件瞭解身分與權限設定。本頁的 OpenAI SDK 範例示範如何提供這些憑證。AWS 權限需另行設定。
定價
Amazon Bedrock 的使用費由 AWS 收取。在商業區域中,Bedrock 的費率與 OpenAI 直接提供同等服務的費率相同。在 Bedrock 中使用指定區域的服務時,費率與 OpenAI API 的區域處理費率相同。使用 Bedrock 須遵守 Amazon 的商業條款。
如需查詢直接使用 OpenAI API 的價格,請參閱 API 定價。如需查詢 Bedrock 費率、支援的服務層級和計費選項,請參閱 Amazon Bedrock 定價及對應的模型說明卡。
Bedrock 託管式智慧體
如要在 AWS 上使用託管式智慧體工作階段,請參閱 Bedrock 託管式智慧體。
後續步驟
如需在 ChatGPT 工作和 Codex 中進行設定,請參閱搭配 Amazon Bedrock 使用 ChatGPT 工作和 Codex。