失準監控

失準監控會檢查智慧體在可能造成重大影響的情境中，是否正確理解使用者的指示，例如傳輸敏感資料、存取敏感資料或進行破壞性變更。它會以非同步方式審查模型的推理與動作，並可在發現潛在問題時停止對話。

標記表示智慧體的動作需要審查，並不代表使用者違反了政策，或智慧體違背了指示。監控可能遺漏問題，也可能標記正當活動，因此請繼續使用應用程式防護措施，包括要求可能造成重大影響的動作須經人工核准。

如需更多背景資訊，請參閱說明中心的失準監控概覽。

請求涵蓋範圍

對於此系統涵蓋的模型，監控與自動停止功能取決於請求所用的 API，以及保留對話上下文的方式：

如需對話上下文的相關指引，請參閱跨呼叫保留推理、WebSocket 模式與壓縮。設定警示 webhook 並不會啟用自動停止功能。

處理已停止的請求

當失準監控在串流開始前封鎖請求時，API 會傳回 HTTP 403，錯誤類型為 invalid_request_error，錯誤代碼為 misalignment_policy_violation。請比對錯誤代碼，而非訊息文字。串流整合也必須處理讀取串流時發生的錯誤，即使已收到輸出也不例外。

如果應用程式收到此錯誤：

1. 停止為受影響的對話派送後續動作。不要自動重試遭封鎖的工作流程。
2. 依照你的資料處理政策，保留相關的請求與回應 ID、工具呼叫及應用程式紀錄。
3. 向負責該任務的使用者或操作人員顯示可用的錯誤資訊。請他們將智慧體的動作與原定工作進行比對，並審查已完成的所有變更。

API 未提供通用方法來恢復遭失準監控停止的對話。

由於監控以非同步方式進行，動作可能在監控發現疑慮之前就已完成。停止請求不會復原先前的動作。

接收專案安全警示

訂閱 safety.alert.created，即可將 API 專案的監控警示傳送至團隊營運的系統。接收警示並不能取代對 API 請求錯誤的處理。

對於每個你想接收警示的專案，請依照建立 webhook 端點的指示操作。如需瞭解簽章驗證以及接收確認、重試與重複傳遞，請參閱 Webhooks 指南。

webhook 包含的是警示 ID，而非警示詳細資訊：

123456789{
  "object": "event",
  "id": "evt_123",
  "type": "safety.alert.created",
  "created_at": 1787659200,
  "data": {
    "id": "alert_0123456789abcdef0123456789abcdef"
  }
}

驗證 webhook 並回覆確認後，在背景處理程序中擷取警示。將範例值 salert_123 替換為 webhook 中的 data.id。事件的 id 用於識別 webhook 事件，而非警示。請使用已獲授權存取同一專案且具備 api.safety.alerts.read 權限的 API 金鑰：

curl "https://api.openai.com/v1/safety/alerts/salert_123" \
  -H "Authorization: Bearer ${OPENAI_API_KEY}"

1
2
3
4
5
6
7
8// Replace the illustrative IDs and URLs below with your own resource values.
import OpenAI from "openai";

const client = new OpenAI();
const alertId = "salert_123";

const alert = await client.safety.alerts.retrieve(alertId);
console.log(alert.error_type, alert.reason, alert.response_id);

1
2
3
4
5
6
7# Replace the illustrative IDs and URLs below with your own resource values.

from openai import OpenAI

client = OpenAI()
alert = client.safety.alerts.retrieve("salert_123")
print(alert.error_type, alert.reason)

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20// Replace the illustrative IDs and URLs below with your own resource values.
package main

import (
	"context"
	"fmt"

	"github.com/openai/openai-go/v3"
)

func main() {
	client := openai.NewClient()
	alert, err := client.Safety.Alerts.Get(context.Background(), "salert_123")
	if err != nil {
		panic(err)
	}
	fmt.Println(alert.ErrorType)
	fmt.Println(alert.Reason)
	fmt.Println(alert.RequestPaused)
}

1
2
3
4
5
6
7// Replace the illustrative IDs and URLs below with your own resource values.
import com.openai.models.safety.alerts.SafetyAlert;

SafetyAlert alert = client.safety().alerts().retrieve("salert_123");
System.out.println(alert.errorType());
alert.reason().ifPresent(System.out::println);
System.out.println(alert.requestPaused());

1
2
3
4
5
6
7
8# Replace the illustrative IDs and URLs below with your own resource values.
require "openai"

client = OpenAI::Client.new
alert = client.safety.alerts.retrieve("salert_123")
puts(alert.error_type)
puts(alert.reason)
puts(alert.request_paused)

使用傳回的 request_id 與 response_id，在應用程式紀錄中找出受影響的工作。將警示類別視為需要調查的疑慮。當 request_paused 為 true 時，表示已成功登錄安全封鎖；這並不代表已確認執行停止，或先前的動作已復原。請檢查應用程式的任務狀態與工具紀錄。

警示的 reason 可能為 null，零資料保留（ZDR）請求也可能如此。非空值的 reason 是類別說明，而非逐字紀錄或完整的調查報告。請依照組織的資料政策保留所需紀錄。如需瞭解 API 資料控制措施，請參閱你的資料。

如果擷取時傳回 404，且錯誤代碼為 safety_alert_not_found，請檢查警示 ID 與專案憑證。紀錄不存在、無法存取或不完整時，都可能傳回此錯誤。警示的傳遞與擷取無法提供完整的稽核歷程。