在传输或访问敏感数据、进行破坏性更改等可能产生重大影响的场景中,指令偏离监控会检查智能体是否正确理解了用户的指令。系统会异步检查模型的推理和操作,并可在发现潜在问题时停止对话。
如果智能体的操作被标记,说明这些操作需要核查。仅凭这一标记,无法认定用户违反了政策,也无法认定智能体违背了指令。监控可能漏掉问题,也可能将正当操作标记为可疑。请继续采用应用安全防护措施,包括对可能产生重大影响的操作实施人工审批。
如需了解更多背景信息,请参阅帮助中心的指令偏离监控概述。
请求覆盖范围
对于此系统覆盖的模型,系统是否监控请求、能否自动停止对话,取决于请求使用的 API 以及保留对话上下文的方式:
| 请求 | 系统行为 |
|---|---|
| 使用已持久化的推理、WebSockets 或 OpenAI 上下文压缩功能的 Responses API 请求 | 系统会监控请求,并能识别延续同一对话的请求,阻止后续执行。 |
| 未使用上述任何机制的 Responses API 请求 | 系统会监控请求。已配置的 webhook 可以接收告警,但系统不会自动停止对话。 |
| Chat Completions API 请求 | 此监控系统不覆盖这类请求。其他安全检查仍然适用。 |
有关如何保留对话上下文,请参阅在多次调用之间保留推理、WebSocket 模式和上下文压缩。配置告警 webhook 不会启用自动停止功能。
处理被阻止的请求
如果指令偏离监控在流式传输开始前阻止了请求,API 会返回 HTTP 状态码 403,错误类型为 invalid_request_error,错误码为 misalignment_policy_violation。请根据错误码识别此错误,不要依赖错误消息的文本。如果您的应用使用流式传输,即使已经收到了部分输出,也必须处理后续读取数据流时出现的错误。
如果您的应用收到此错误:
- 停止为受影响的对话下发后续操作。不要自动重试被阻止的工作流。
- 按照您的数据处理政策,保留相关的请求 ID、响应 ID、工具调用和应用记录。
- 向负责该任务的用户或操作人员展示可用的错误信息。请他们核对智能体的操作是否符合任务意图,并检查已经做出的更改。
对于因指令偏离监控而停止的对话,API 没有提供通用的恢复方法。
由于监控是异步进行的,系统发现潜在问题时,某项操作可能已经完成。阻止请求不会撤销先前的操作。
接收项目安全告警
订阅 safety.alert.created,即可将 API 项目的监控告警发送到您团队运行的系统。即使收到了告警,您仍需处理 API 请求中的错误。
对于每个需要接收告警的项目,请按照创建 webhook 端点中的说明进行配置。有关签名验证以及接收确认、重试和重复投递的说明,请参阅 webhook 指南。
webhook 提供告警 ID,不包含告警详情:
{
"object": "event",
"id": "evt_123",
"type": "safety.alert.created",
"created_at": 1787659200,
"data": {
"id": "alert_0123456789abcdef0123456789abcdef"
}
}
验证 webhook 签名并确认接收后,请在后台获取告警详情。将示例值 alert_0123456789abcdef0123456789abcdef 替换为 webhook 中的 data.id。事件的 id 标识的是 webhook 事件,不能用作告警 ID。请使用已获同一项目授权且具有 api.safety.alerts.read 权限的 API 密钥:
curl "https://api.openai.com/v1/safety/alerts/alert_0123456789abcdef0123456789abcdef" \
-H "Authorization: Bearer ${OPENAI_API_KEY}"
# Replace the illustrative IDs and URLs below with your own resource values.
from openai import OpenAI
client = OpenAI()
alert = client.safety.alerts.retrieve("alert_0123456789abcdef0123456789abcdef")
print(alert.error_type, alert.reason)使用返回的 request_id 和 response_id 在应用记录中查找受影响的任务。请根据告警类别调查相应的潜在问题。当 request_paused 为 true 时,表示系统已成功登记安全阻止措施。仅凭此值无法确认任务是否已停止执行,也无法确认先前的操作是否已撤销。请检查应用中的任务状态和工具调用记录。
告警的 reason 可能为 null,零数据保留(ZDR)请求也可能出现这种情况。非空的 reason 仅描述告警类别,不包含对话实录或完整的调查报告。请按照您组织的数据政策保留所需记录。有关 API 数据控制选项,请参阅您的数据。
如果获取告警时返回 404,且错误码为 safety_alert_not_found,请检查告警 ID 和项目凭据。记录缺失、无法访问或不完整时,都可能返回此错误。仅靠告警投递和检索无法获得完整的审计历史记录。