當智慧體執行可能造成重大影響的操作,例如傳輸敏感資料、存取敏感資料或進行破壞性變更時,意圖偏離監控會檢查智慧體是否正確理解使用者的指示。系統以非同步方式檢查模型的推理與動作,發現潛在問題時可以中止對話。
監控系統發出標記,表示智慧體的動作需要審查。單憑標記無法判定使用者違反政策,也無法判定智慧體的行為違背指示。監控系統可能漏掉問題,也可能誤將正當活動標記為有疑慮,因此請繼續採用應用程式防護措施,包括要求可能造成重大影響的操作須經人工核准。
如需更多背景資訊,請參閱說明中心的意圖偏離監控概覽。
請求的監控範圍
對於此系統涵蓋的模型,系統是否監控請求、能否自動中止對話,取決於請求使用哪個 API,以及如何保留對話上下文:
| 請求 | 系統行為 |
|---|---|
| 使用持久化推理資料、WebSockets 或 OpenAI 壓縮機制的 Responses API 請求 | 納入監控。系統可以辨識延續同一段對話的請求,並阻止後續執行。 |
| 未使用上述任何機制的 Responses API 請求 | 納入監控。已設定的 webhook 可以接收警示,但系統不會自動中止對話。 |
| Chat Completions API 請求 | 此監控系統未涵蓋這類請求。其他安全檢查仍然適用。 |
如需保留對話上下文的指引,請參閱跨呼叫保留推理資料、WebSocket 模式與壓縮。設定接收警示的 webhook 不會啟用自動中止功能。
處理遭中止的請求
如果意圖偏離監控在串流開始前封鎖請求,API 會傳回 HTTP 403,錯誤類型為 invalid_request_error,錯誤代碼為 misalignment_policy_violation。請比對錯誤代碼,勿以錯誤訊息文字判斷。整合串流功能時,即使已收到部分輸出,應用程式也必須能處理讀取串流時發生的錯誤。
如果應用程式收到這項錯誤:
- 停止為受影響的對話派送後續動作。請勿自動重試遭封鎖的工作流程。
- 依照資料處理政策,保留相關的請求 ID、回應 ID、工具呼叫與應用程式紀錄。
- 向負責該任務的使用者或操作人員顯示可取得的錯誤資訊。請對方核對智慧體的動作是否符合任務原意,並檢查已完成的變更。
API 未提供通用方法來恢復因意圖偏離監控而中止的對話。
由於監控採非同步方式執行,系統發現疑慮時,動作可能已經完成。中止請求不會復原先前的動作。
接收專案安全警示
訂閱 safety.alert.created,即可將 API 專案的監控警示傳送至團隊維運的系統。即使已接收警示,應用程式仍須處理 API 請求的錯誤。
針對每個需要接收警示的專案,請依照建立 webhook 端點的步驟進行設定。如需瞭解如何驗證簽章,以及如何確認收件、處理重試與重複傳送,請參閱 Webhooks 指南。
Webhook 會提供警示 ID,但不含警示詳細資料:
{
"object": "event",
"id": "evt_123",
"type": "safety.alert.created",
"created_at": 1787659200,
"data": {
"id": "alert_0123456789abcdef0123456789abcdef"
}
}
驗證 webhook 並回覆確認收件後,請在背景取得警示。將範例值 alert_0123456789abcdef0123456789abcdef 替換為 webhook 中的 data.id。事件的 id 用來識別 webhook 事件,與警示 ID 不同。請使用經授權可存取同一專案且具備 api.safety.alerts.read 權限的 API 金鑰:
curl "https://api.openai.com/v1/safety/alerts/alert_0123456789abcdef0123456789abcdef" \
-H "Authorization: Bearer ${OPENAI_API_KEY}"
# Replace the illustrative IDs and URLs below with your own resource values.
from openai import OpenAI
client = OpenAI()
alert = client.safety.alerts.retrieve("alert_0123456789abcdef0123456789abcdef")
print(alert.error_type, alert.reason)使用傳回的 request_id 與 response_id,在應用程式紀錄中找出受影響的工作。警示類別指出需要調查的疑慮。當 request_paused 為 true 時,表示系統已成功登記安全封鎖,但無法據此確認執行是否已停止,或先前的動作是否已復原。請檢查應用程式的任務狀態與工具紀錄。
警示的 reason 可能為 null,零資料保留(ZDR)請求也可能出現這種情況。若 reason 有值,該值僅說明警示類別,不包含逐字紀錄或完整調查報告。請依照組織的資料政策保留所需紀錄。如需瞭解 API 的資料控管選項,請參閱您的資料。
如果取得警示時傳回 404,且錯誤代碼為 safety_alert_not_found,請檢查警示 ID 與專案憑證。紀錄不存在、無法存取或內容不完整時,都可能傳回此錯誤。僅靠接收與取得警示,無法掌握完整的稽核歷程。