패스트 모드

패스트 모드를 사용하면 사용량에 따라 요금을 내면서 처리 속도를 최대 2.5배로 높이고 지연 시간의 편차를 줄일 수 있습니다. 트래픽이 꾸준하고 지연 시간이 중요한 사용자용 애플리케이션에 활용하세요.

GPT-6 Astra 또는 GPT-6.1 Sol에서 처리 속도를 더 높이려면 울트라패스트 모드를 참고하세요.

패스트 모드 설정

요청 매개변수나 프로젝트 설정을 통해 Responses API 또는 Chat Completions API 요청에 패스트 모드를 적용할 수 있습니다.

개별 요청에 패스트 모드를 적용하려면 service_tier 매개변수를 fast로 설정하세요. 지원되는 모델에서는 service_tier를 priority로 설정해도 동일하게 작동합니다.

1
2
3
4
5
6
7
8
9
10
11import OpenAI from "openai";

const openai = new OpenAI();

const response = await openai.responses.create({
  model: "gpt-6.1-sol",
  input: "What does 'fit check for my napalm era' mean?",
  service_tier: "fast",
});

console.log(response);

1
2
3
4
5
6
7
8
9
10from openai import OpenAI

client = OpenAI()

response = client.responses.create(
    model="gpt-6.1-sol",
    input="What does 'fit check for my napalm era' mean?",
    service_tier="fast",
)
print(response)

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22package main

import (
	"context"
	"fmt"

	"github.com/openai/openai-go/v3"
	"github.com/openai/openai-go/v3/responses"
)

func main() {
	client := openai.NewClient()
	response, err := client.Responses.New(context.Background(), responses.ResponseNewParams{
		Model:       "gpt-6.1-sol",
		ServiceTier: "fast",
		Input:       responses.ResponseNewParamsInputUnion{OfString: openai.String("What does 'fit check for my napalm era' mean?")},
	})
	if err != nil {
		panic(err)
	}
	fmt.Println(response.OutputText())
}

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16import com.openai.client.OpenAIClient;
import com.openai.client.okhttp.OpenAIOkHttpClient;
import com.openai.models.responses.ResponseCreateParams;

ResponseCreateParams params =
    ResponseCreateParams.builder()
        .model("gpt-6.1-sol")
        .input("What does 'fit check for my napalm era' mean?")
        .serviceTier(ResponseCreateParams.ServiceTier.of("fast"))
        .build();

client.responses().create(params).output().stream()
    .flatMap(item -> item.message().stream())
    .flatMap(message -> message.content().stream())
    .flatMap(content -> content.outputText().stream())
    .forEach(text -> System.out.println(text.text()));

1
2
3
4
5
6
7
8
9
10
11require "openai"

client = OpenAI::Client.new

response = client.responses.create(
  model: "gpt-6.1-sol",
  service_tier: :fast,
  input: "What does 'fit check for my napalm era' mean?"
)

puts(response.output_text)

1
2
3
4
5curl https://api.openai.com/v1/responses   -H "Authorization: Bearer $OPENAI_API_KEY"   -H "Content-Type: application/json"   -d '{
    "model": "gpt-6.1-sol",
    "input": "What does 'fit check for my napalm era' mean?",
    "service_tier": "fast"
  }'

프로젝트 단위로 적용하려면 설정을 열고 일반을 선택하세요. 이 항목은 프로젝트 아래에 있습니다. 그런 다음 프로젝트 서비스 등급을 패스트로 변경하세요. 이후 service_tier를 지정하지 않은 요청에는 패스트 모드가 기본값으로 적용됩니다. 해당 프로젝트의 요청은 점진적으로 패스트 모드로 전환됩니다.

service_tier 필드는 Responses 또는 Chat Completions 응답 객체에서 요청 처리에 사용된 등급을 나타냅니다. GPT-5.6 및 이전 모델의 응답에서는 이 값이 priority입니다. 요청에 priority와 fast 중 어느 값을 지정해도 같습니다.

요청 한도와 트래픽 증가 속도

기본 한도

패스트 모드 사용량은 표준 처리 사용량과 같은 방식으로 요청 한도에 반영됩니다. 기존 재시도 로직을 사용하고 재시도 사이에 대기 시간을 두세요. 같은 모델에서는 표준 처리와 패스트 모드가 하나의 요청 한도를 공유합니다.

트래픽 증가 속도 제한

트래픽이 너무 빠르게 증가하면 시스템이 일부 패스트 모드 요청을 표준 속도로 처리하고 표준 요금을 부과할 수 있습니다. 이 경우 응답에 service_tier: "default"가 포함됩니다. 일반적으로 분당 입력 토큰 수(TPM)가 100만 개에 도달하면 이후 15분마다 트래픽 증가율이 50%를 넘지 않도록 하세요. 트래픽 증가 속도 제한이 적용되는 정확한 기준은 모델과 트래픽 상황에 따라 달라질 수 있습니다.

트래픽 증가 속도 제한에 걸리지 않으려면 다음 지침을 따르세요.

• 모델이나 스냅샷을 변경할 때는 트래픽을 점진적으로 늘리세요.
• 기능 플래그를 사용해 트래픽을 한꺼번에 전환하지 말고 몇 시간에 걸쳐 전환하세요.
• 패스트 모드에서는 대규모 추출·변환·적재(ETL) 작업이나 배치 작업을 피하세요.

사용 시 고려 사항

• 패스트 모드는 표준 처리보다 토큰당 요금이 높습니다. 자세한 요금과 지원 모델은 요금 페이지에서 확인하세요.
• 패스트 모드 요청에도 캐시된 입력에 대한 할인이 적용됩니다.
• 패스트 모드는 이미지 입력을 비롯한 멀티 모달 요청을 지원합니다.
• 사용량 대시보드에서 패스트 모드 요청을 확인하려면 서비스 등급별로 그룹화하는 옵션을 선택하세요. GPT-5.6 및 이전 모델에서는 이 요청이 priority로 표시됩니다. fast를 지정한 경우에도 마찬가지입니다.
• GPT-5.6 모델은 긴 컨텍스트를 지원합니다. 패스트 모드는 파인튜닝된 모델이나 임베딩을 지원하지 않습니다.

자주 묻는 질문

계정 및 정책에 관한 정보는 패스트 모드 FAQ를 참고하세요.

모든 지역에서 패스트 모드를 사용할 수 있나요?

사용 가능 여부는 각 관할 지역의 법률과 규정에 따라 달라집니다. 해당 지역에서 사용할 수 있는지 궁금하면 계정 담당자에게 문의하세요.

패스트 모드와 스케일 등급은 어떤 관계인가요?

스케일 등급과 패스트 모드는 별개입니다. 패스트 모드 요청은 별도로 청구되며, 구매한 스케일 등급 TPM 번들의 할당량을 소진하지 않습니다. 스케일 등급의 할당량을 초과한 트래픽은 패스트 모드로 자동 전환되지 않습니다.

패스트 모드 요금은 어떻게 청구되나요?

패스트 모드는 표준 처리보다 토큰당 요금이 높습니다. 모든 처리 모드의 요금이 Enterprise 연간 약정 지출액에 반영되며, 할인 대상인 캐시된 입력 토큰에는 표준 처리와 동일한 할인이 적용됩니다.

GPT-5.6 Sol의 패스트 모드 요금은 해당 표준 요금의 두 배입니다. 짧은 컨텍스트 요청은 입력 토큰 100만 개당 8달러, 출력 토큰 100만 개당 40달러입니다. 긴 컨텍스트 요청은 입력 토큰 100만 개당 16달러, 출력 토큰 100만 개당 60달러입니다. GPT-5.6 Sol의 프로모션 요금은 적어도 2026년 11월 21일까지 적용됩니다. 요금 세부 정보를 참고하세요.

사용량을 확인하려면 사용량 대시보드를 열고 Responses 또는 Chat Completions를 선택한 다음 서비스 등급별로 그룹화하세요. 비용을 확인하려면 청구 항목별로 그룹화하세요.

어떤 모델과 모달리티가 패스트 모드를 지원하나요?

패스트 모드는 이미지 입력을 비롯해 표준 처리에서 제공하는 멀티 모달 기능을 지원합니다. GPT-5.6 모델은 긴 컨텍스트를 지원합니다. 패스트 모드는 파인튜닝된 모델이나 임베딩을 지원하지 않습니다. 향후 출시되는 GPT 모델도 패스트 모드를 지원할 수 있지만 모든 모델에서 지원이 보장되지는 않습니다.

여러 프로젝트나 조직이 트래픽 증가 속도 제한을 공유하나요?

네. 모든 트래픽을 합산해 하나의 트래픽 증가 속도 제한을 적용합니다. 이 제한에 자주 걸린다면 스케일 등급 할당량 구매를 고려하세요.

패스트 모드가 지연 시간 목표를 충족하지 못하면 어떻게 되나요?

GPT-6 Astra의 패스트 모드에는 지연 시간에 관한 서비스 수준 계약(SLA)이 포함되지 않습니다. GPT-5.6 및 이전 모델에서는 패스트 모드와 스케일 등급에 동일한 서비스 수준 계약 조건이 적용됩니다. 지연 시간 목표를 충족하지 못한 경우 해당 Enterprise 계약의 조건에 따라 서비스 크레딧이 제공될 수 있습니다. 궁금하거나 우려되는 점이 있으면 계정 담당자에게 문의하세요.

패스트 모드는 데이터 레지던시, 데이터 비보관, BAA와 호환되나요?

패스트 모드는 데이터 레지던시, 데이터 비보관, 업무 제휴 계약(BAA)과 호환되며, 지원 여부는 모델에 따라 다릅니다. GPT-6.1 Sol, GPT-6.1 Terra, GPT-6 Luna의 패스트 모드는 EU 데이터 레지던시를 지원합니다. GPT-6 Astra와 GPT-6 Sol에서는 EU 데이터 레지던시와 패스트 모드를 함께 사용할 수 없습니다. 엔드포인트, 도구, 이용 자격 및 계약에 관한 기존 요건은 계속 적용됩니다. 자세한 내용은 데이터 가이드를 참고하세요.