如需查看完整的文档索引,请参阅 llms.txt。在文档页面的 URL 末尾加上 .md 即可查看该页面的 Markdown 版本。
主导航
主题

指令偏离监控

处理已停止的对话和项目安全告警。

在传输或访问敏感数据、进行破坏性更改等可能产生重大影响的场景中,指令偏离监控会检查智能体是否正确理解了用户的指令。系统会异步检查模型的推理和操作,并可在发现潜在问题时停止对话。

如果智能体的操作被标记,说明这些操作需要核查。仅凭这一标记,无法认定用户违反了政策,也无法认定智能体违背了指令。监控可能漏掉问题,也可能将正当操作标记为可疑。请继续采用应用安全防护措施,包括对可能产生重大影响的操作实施人工审批。

如需了解更多背景信息,请参阅帮助中心的指令偏离监控概述。

请求覆盖范围

对于此系统覆盖的模型,系统是否监控请求、能否自动停止对话,取决于请求使用的 API 以及保留对话上下文的方式:

请求 系统行为
使用已持久化的推理、WebSockets 或 OpenAI 上下文压缩功能的 Responses API 请求 系统会监控请求,并能识别延续同一对话的请求,阻止后续执行。
未使用上述任何机制的 Responses API 请求 系统会监控请求。已配置的 webhook 可以接收告警,但系统不会自动停止对话。
Chat Completions API 请求 此监控系统不覆盖这类请求。其他安全检查仍然适用。

有关如何保留对话上下文,请参阅在多次调用之间保留推理、WebSocket 模式和上下文压缩。配置告警 webhook 不会启用自动停止功能。

处理被阻止的请求

如果指令偏离监控在流式传输开始前阻止了请求,API 会返回 HTTP 状态码 403,错误类型为 invalid_request_error,错误码为 misalignment_policy_violation。请根据错误码识别此错误,不要依赖错误消息的文本。如果您的应用使用流式传输,即使已经收到了部分输出,也必须处理后续读取数据流时出现的错误。

如果您的应用收到此错误:

  1. 停止为受影响的对话下发后续操作。不要自动重试被阻止的工作流。
  2. 按照您的数据处理政策,保留相关的请求 ID、响应 ID、工具调用和应用记录。
  3. 向负责该任务的用户或操作人员展示可用的错误信息。请他们核对智能体的操作是否符合任务意图,并检查已经做出的更改。

对于因指令偏离监控而停止的对话,API 没有提供通用的恢复方法。

由于监控是异步进行的,系统发现潜在问题时,某项操作可能已经完成。阻止请求不会撤销先前的操作。

接收项目安全告警

订阅 safety.alert.created,即可将 API 项目的监控告警发送到您团队运行的系统。即使收到了告警,您仍需处理 API 请求中的错误。

对于每个需要接收告警的项目,请按照创建 webhook 端点中的说明进行配置。有关签名验证以及接收确认、重试和重复投递的说明,请参阅 webhook 指南。

webhook 提供告警 ID,不包含告警详情:

{
  "object": "event",
  "id": "evt_123",
  "type": "safety.alert.created",
  "created_at": 1787659200,
  "data": {
    "id": "alert_0123456789abcdef0123456789abcdef"
  }
}

验证 webhook 签名并确认接收后,请在后台获取告警详情。将示例值 alert_0123456789abcdef0123456789abcdef 替换为 webhook 中的 data.id。事件的 id 标识的是 webhook 事件,不能用作告警 ID。请使用已获同一项目授权且具有 api.safety.alerts.read 权限的 API 密钥:

curl "https://api.openai.com/v1/safety/alerts/alert_0123456789abcdef0123456789abcdef" \
  -H "Authorization: Bearer ${OPENAI_API_KEY}"
获取项目安全告警
# Replace the illustrative IDs and URLs below with your own resource values.

from openai import OpenAI

client = OpenAI()
alert = client.safety.alerts.retrieve("alert_0123456789abcdef0123456789abcdef")
print(alert.error_type, alert.reason)

使用返回的 request_id 和 response_id 在应用记录中查找受影响的任务。请根据告警类别调查相应的潜在问题。当 request_paused 为 true 时,表示系统已成功登记安全阻止措施。仅凭此值无法确认任务是否已停止执行,也无法确认先前的操作是否已撤销。请检查应用中的任务状态和工具调用记录。

告警的 reason 可能为 null,零数据保留(ZDR)请求也可能出现这种情况。非空的 reason 仅描述告警类别,不包含对话实录或完整的调查报告。请按照您组织的数据政策保留所需记录。有关 API 数据控制选项,请参阅您的数据。

如果获取告警时返回 404,且错误码为 safety_alert_not_found,请检查告警 ID 和项目凭据。记录缺失、无法访问或不完整时,都可能返回此错误。仅靠告警投递和检索无法获得完整的审计历史记录。