对齐偏差监测

对齐偏差监测会检查智能体在传输敏感数据、访问敏感数据或进行破坏性更改等可能产生重大影响的场景中，是否正确理解了用户的指令。它会异步审查模型的推理和操作，并可在发现潜在问题时停止对话。

被标记意味着智能体的操作需要审查，并不能据此认定用户违反了政策或智能体违背了指令。监测可能漏掉问题，也可能标记正常活动，因此请继续使用应用安全防护措施，包括要求对可能产生重大影响的操作进行人工审批。

如需了解更多背景信息，请参阅帮助中心的对齐偏差监测概览。

请求覆盖范围

对于本系统覆盖的模型，监测和自动停止行为取决于请求所用的 API 及其保留对话上下文的方式：

有关对话上下文的指导，请参阅跨调用保留推理、WebSocket 模式和压缩。配置告警 Webhook 不会启用自动停止功能。

处理已停止的请求

当对齐偏差监测在流式传输开始前阻止请求时，API 会返回 HTTP 403，错误类型为 invalid_request_error，错误代码为 misalignment_policy_violation。请根据错误代码进行匹配，而非错误消息文本。采用流式传输的集成也必须处理接收流过程中出现的错误，即使已经收到输出。

如果您的应用收到此错误：

1. 停止为受影响的对话调度后续操作。不要自动重试被阻止的工作流程。
2. 按照您的数据处理政策，保留相关的请求和响应 ID、工具调用及应用记录。
3. 向负责该任务的用户或操作人员展示现有的错误信息。请他们将智能体的操作与预期工作进行对照，并审查已经做出的任何更改。

API 不提供恢复被对齐偏差监测停止的对话的通用方法。

由于监测是异步进行的，在监测发现疑点之前，某项操作可能已经完成。停止请求不会撤销先前的操作。

接收项目安全告警

订阅 safety.alert.created，将 API 项目的监测告警发送到您团队运营的系统。接收告警不能替代对 API 请求错误的处理。

对于您希望接收告警的每个项目，请按照创建 Webhook 端点中的说明进行设置。有关签名验证以及接收确认、重试和重复投递，请参阅 Webhook 指南。

Webhook 包含的是告警 ID，而非告警详情：

123456789{
  "object": "event",
  "id": "evt_123",
  "type": "safety.alert.created",
  "created_at": 1787659200,
  "data": {
    "id": "alert_0123456789abcdef0123456789abcdef"
  }
}

验证 Webhook 并确认接收后，请在后台处理流程中获取告警。将示例值 salert_123 替换为 Webhook 中的 data.id。事件的 id 标识的是 Webhook 事件，而非告警。请使用已获授权访问同一项目且具有 api.safety.alerts.read 权限的 API 密钥：

curl "https://api.openai.com/v1/safety/alerts/salert_123" \
  -H "Authorization: Bearer ${OPENAI_API_KEY}"

1
2
3
4
5
6
7
8// Replace the illustrative IDs and URLs below with your own resource values.
import OpenAI from "openai";

const client = new OpenAI();
const alertId = "salert_123";

const alert = await client.safety.alerts.retrieve(alertId);
console.log(alert.error_type, alert.reason, alert.response_id);

1
2
3
4
5
6
7# Replace the illustrative IDs and URLs below with your own resource values.

from openai import OpenAI

client = OpenAI()
alert = client.safety.alerts.retrieve("salert_123")
print(alert.error_type, alert.reason)

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20// Replace the illustrative IDs and URLs below with your own resource values.
package main

import (
	"context"
	"fmt"

	"github.com/openai/openai-go/v3"
)

func main() {
	client := openai.NewClient()
	alert, err := client.Safety.Alerts.Get(context.Background(), "salert_123")
	if err != nil {
		panic(err)
	}
	fmt.Println(alert.ErrorType)
	fmt.Println(alert.Reason)
	fmt.Println(alert.RequestPaused)
}

1
2
3
4
5
6
7// Replace the illustrative IDs and URLs below with your own resource values.
import com.openai.models.safety.alerts.SafetyAlert;

SafetyAlert alert = client.safety().alerts().retrieve("salert_123");
System.out.println(alert.errorType());
alert.reason().ifPresent(System.out::println);
System.out.println(alert.requestPaused());

1
2
3
4
5
6
7
8# Replace the illustrative IDs and URLs below with your own resource values.
require "openai"

client = OpenAI::Client.new
alert = client.safety.alerts.retrieve("salert_123")
puts(alert.error_type)
puts(alert.reason)
puts(alert.request_paused)

使用返回的 request_id 和 response_id 在您的应用记录中查找受影响的工作。将告警类别视为需要调查的疑点。当 request_paused 为 true 时，表示安全阻止已成功登记；这并不能确认执行已经停止，也不能确认先前的操作已被撤销。请检查您的应用的任务状态和工具记录。

告警的 reason 可能为 null，零数据保留（ZDR）请求也包括在内。非空的 reason 是类别描述，而非对话记录或完整的调查报告。请按照您所在组织的数据政策保留所需记录。有关 API 数据控制措施，请参阅您的数据。

如果获取告警时返回 404，且错误代码为 safety_alert_not_found，请检查告警 ID 和项目凭据。记录缺失、无法访问或不完整都可能导致此错误。告警的投递和获取不能提供完整的审计历史记录。