OpenAI는 GPT-5를 도입하면서 위험한 정보에 접근하려는 시도를 감지하고 차단하는 검사를 추가했습니다. 특히 용도가 다양한 애플리케이션에서는 일부 사용자가 OpenAI 정책에서 허용하지 않는 목적으로 애플리케이션을 사용하려 할 가능성이 큽니다.
안전 분류기의 작동 방식
OpenAI는 위험도 기준에 따라 GPT-5 요청을 분류합니다.
조직의 요청이 반복해서 고위험 기준에 도달하면 OpenAI는 오류를 반환하고 경고 이메일을 보냅니다.
안내된 기간(보통 7일)이 지난 뒤에도 이러한 요청이 계속되면 OpenAI는 해당 조직의 GPT-5 접근을 차단합니다. 이후에는 해당 조직의 GPT-5 요청이 실패합니다.
오류, 지연, 이용 차단을 피하는 방법
조직에서 OpenAI 안전 정책을 위반하는 의심스러운 활동이 발생하면 OpenAI는 오류를 반환하거나 모델 접근을 제한할 수 있으며, 계정을 차단할 수도 있습니다. 다음 안전 조치를 적용하면 OpenAI가 고위험 요청의 출처를 파악해 차단 대상을 해당 최종 사용자로 한정할 수 있습니다.
개별 사용자가 모델과 상호작용하는 제품에는 안전 식별자를 구현하세요. 안전 식별자 사용은 권장 사항이며 필수는 아닙니다.
생명과학 분야에서 유익한 목적으로 서비스를 활용하는 데 제한이 더 적은 버전이 필요하다면 특별 접근 프로그램의 자격 요건을 확인하세요.
개별 사용자를 위한 안전 식별자 구현
안전 식별자에 대한 경고 및 비활성화 알림을 조사 또는 지원 워크플로우로 전달하는 방법은 안전 정책 집행 알림을 참고하세요.
safety_identifier 매개변수는 Responses API, Chat Completions API, Images API에서 사용할 수 있습니다. Realtime API에서는 OpenAI-Safety-Identifier 헤더로 안전 식별자를 전달할 수 있습니다. 안전 식별자를 사용하려면 같은 최종 사용자의 요청마다 동일한 ID를 전달하세요. 개인정보가 전달되지 않도록 사용자의 이메일 주소나 내부 사용자 ID를 해시하세요.
안전 식별자는 다른 API나 세션에 자동으로 전달되지 않습니다. 애플리케이션이 이미 Responses API 요청에 safety_identifier를 포함하고 있더라도 각 Images API 요청에 동일한 값을 별도로 전달하세요. 각 Realtime 세션을 생성하거나 세션에 연결할 때도 같은 값을 별도로 전달하세요.
Images API에서는 이미지 생성 또는 편집 요청마다 safety_identifier를 포함하세요. 식별자 길이는 128자 이하여야 합니다. 이미지 안전 식별자 문서에서 사용 중단 예정(deprecated)인 user 매개변수를 안전 식별자로 전환하는 방법을 확인하세요.
OpenAI 모니터링 시스템이 악용 가능성을 감지하면 OpenAI는 상황에 따라 다음과 같은 조치를 취할 수 있습니다.
스트리밍 응답 지연
사용자의 정책 위반이 의심되면 OpenAI는 영향이 비교적 작은 초기 조치로 응답 스트리밍을 지연시킬 수 있습니다. 이 경우 해당 사용자에게 전체 응답을 반환하기 전에 추가 검사를 수행합니다.
검사를 통과하면 스트리밍이 시작됩니다. 검사를 통과하지 못하면 요청이 중단되어 토큰이 표시되지 않고 응답 스트리밍도 시작되지 않습니다.
스트리밍이 지연될 때는 최종 사용자가 대기 중임을 알 수 있도록 로딩 표시기를 추가하는 것을 고려하세요.
개별 사용자의 모델 접근 차단
정책 위반이 거의 확실하다고 판단되면 OpenAI는 해당 safety_identifier를 사용하는 모든 요청의 OpenAI 모델 접근을 차단합니다.
이후 같은 안전 식별자로 보내는 모든 GPT-5 요청에는 identifier blocked 오류가 반환됩니다. 현재 OpenAI는 개별 식별자의 차단을 해제할 수 없습니다.
차단 조치가 효과를 발휘하도록 차단된 사용자가 새 계정을 만들지 못하게 하는 장치를 마련하세요. 조직에서 정책 위반이 반복되면 조직 전체가 모델 접근 권한을 잃을 수 있습니다.
이러한 조치를 시행하는 이유
실제 사용 양상이 달라지거나 새 모델이 출시되면 구체적인 정책 집행 기준도 바뀔 수 있습니다. 현재 OpenAI는 생물학이나 화학 분야에서 위험하거나 의심스러운 활동과 연관된 안전 식별자의 접근을 제한하거나 차단할 수 있습니다. 생물학 분야에서 AI의 역량이 높아지는 데 OpenAI가 어떻게 대응하고 있는지 자세히 알아보려면 블로그 게시물을 참고하세요.