如需完整的文件索引,請參閱 llms.txt。在文件頁面的網址末尾加上 .md ,即可取得該頁面的 Markdown 版本。
主要導覽
主題

意圖偏離監控

處理已中止的對話與專案安全警示。

當智慧體執行可能造成重大影響的操作,例如傳輸敏感資料、存取敏感資料或進行破壞性變更時,意圖偏離監控會檢查智慧體是否正確理解使用者的指示。系統以非同步方式檢查模型的推理與動作,發現潛在問題時可以中止對話。

監控系統發出標記,表示智慧體的動作需要審查。單憑標記無法判定使用者違反政策,也無法判定智慧體的行為違背指示。監控系統可能漏掉問題,也可能誤將正當活動標記為有疑慮,因此請繼續採用應用程式防護措施,包括要求可能造成重大影響的操作須經人工核准。

如需更多背景資訊,請參閱說明中心的意圖偏離監控概覽。

請求的監控範圍

對於此系統涵蓋的模型,系統是否監控請求、能否自動中止對話,取決於請求使用哪個 API,以及如何保留對話上下文:

請求 系統行為
使用持久化推理資料、WebSockets 或 OpenAI 壓縮機制的 Responses API 請求 納入監控。系統可以辨識延續同一段對話的請求,並阻止後續執行。
未使用上述任何機制的 Responses API 請求 納入監控。已設定的 webhook 可以接收警示,但系統不會自動中止對話。
Chat Completions API 請求 此監控系統未涵蓋這類請求。其他安全檢查仍然適用。

如需保留對話上下文的指引,請參閱跨呼叫保留推理資料、WebSocket 模式與壓縮。設定接收警示的 webhook 不會啟用自動中止功能。

處理遭中止的請求

如果意圖偏離監控在串流開始前封鎖請求,API 會傳回 HTTP 403,錯誤類型為 invalid_request_error,錯誤代碼為 misalignment_policy_violation。請比對錯誤代碼,勿以錯誤訊息文字判斷。整合串流功能時,即使已收到部分輸出,應用程式也必須能處理讀取串流時發生的錯誤。

如果應用程式收到這項錯誤:

  1. 停止為受影響的對話派送後續動作。請勿自動重試遭封鎖的工作流程。
  2. 依照資料處理政策,保留相關的請求 ID、回應 ID、工具呼叫與應用程式紀錄。
  3. 向負責該任務的使用者或操作人員顯示可取得的錯誤資訊。請對方核對智慧體的動作是否符合任務原意,並檢查已完成的變更。

API 未提供通用方法來恢復因意圖偏離監控而中止的對話。

由於監控採非同步方式執行,系統發現疑慮時,動作可能已經完成。中止請求不會復原先前的動作。

接收專案安全警示

訂閱 safety.alert.created,即可將 API 專案的監控警示傳送至團隊維運的系統。即使已接收警示,應用程式仍須處理 API 請求的錯誤。

針對每個需要接收警示的專案,請依照建立 webhook 端點的步驟進行設定。如需瞭解如何驗證簽章,以及如何確認收件、處理重試與重複傳送,請參閱 Webhooks 指南。

Webhook 會提供警示 ID,但不含警示詳細資料:

{
  "object": "event",
  "id": "evt_123",
  "type": "safety.alert.created",
  "created_at": 1787659200,
  "data": {
    "id": "alert_0123456789abcdef0123456789abcdef"
  }
}

驗證 webhook 並回覆確認收件後,請在背景取得警示。將範例值 alert_0123456789abcdef0123456789abcdef 替換為 webhook 中的 data.id。事件的 id 用來識別 webhook 事件,與警示 ID 不同。請使用經授權可存取同一專案且具備 api.safety.alerts.read 權限的 API 金鑰:

curl "https://api.openai.com/v1/safety/alerts/alert_0123456789abcdef0123456789abcdef" \
  -H "Authorization: Bearer ${OPENAI_API_KEY}"
取得專案安全警示
# Replace the illustrative IDs and URLs below with your own resource values.

from openai import OpenAI

client = OpenAI()
alert = client.safety.alerts.retrieve("alert_0123456789abcdef0123456789abcdef")
print(alert.error_type, alert.reason)

使用傳回的 request_id 與 response_id,在應用程式紀錄中找出受影響的工作。警示類別指出需要調查的疑慮。當 request_paused 為 true 時,表示系統已成功登記安全封鎖,但無法據此確認執行是否已停止,或先前的動作是否已復原。請檢查應用程式的任務狀態與工具紀錄。

警示的 reason 可能為 null,零資料保留(ZDR)請求也可能出現這種情況。若 reason 有值,該值僅說明警示類別,不包含逐字紀錄或完整調查報告。請依照組織的資料政策保留所需紀錄。如需瞭解 API 的資料控管選項,請參閱您的資料。

如果取得警示時傳回 404,且錯誤代碼為 safety_alert_not_found,請檢查警示 ID 與專案憑證。紀錄不存在、無法存取或內容不完整時,都可能傳回此錯誤。僅靠接收與取得警示,無法掌握完整的稽核歷程。