Modo Fast

O modo Fast processa solicitações até 2,5× mais rápido, com latência mais estável e cobrança conforme o uso. Use esse modo em aplicativos voltados ao usuário que recebem tráfego regular e precisam de baixa latência.

Para obter mais velocidade com o GPT-6 Astra ou o GPT-6.1 Sol, consulte Modo ultrarrápido.

Como configurar o modo Fast

Você pode ativar o modo Fast para solicitações à API Responses ou à API chat completions por meio de um parâmetro da solicitação ou de uma configuração do projeto.

Para ativar o modo Fast em uma solicitação específica, defina o parâmetro service_tier como fast. Definir service_tier como priority tem o mesmo efeito nos modelos compatíveis.

1
2
3
4
5
6
7
8
9
10
11import OpenAI from "openai";

const openai = new OpenAI();

const response = await openai.responses.create({
  model: "gpt-6.1-sol",
  input: "What does 'fit check for my napalm era' mean?",
  service_tier: "fast",
});

console.log(response);

1
2
3
4
5
6
7
8
9
10from openai import OpenAI

client = OpenAI()

response = client.responses.create(
    model="gpt-6.1-sol",
    input="What does 'fit check for my napalm era' mean?",
    service_tier="fast",
)
print(response)

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22package main

import (
	"context"
	"fmt"

	"github.com/openai/openai-go/v3"
	"github.com/openai/openai-go/v3/responses"
)

func main() {
	client := openai.NewClient()
	response, err := client.Responses.New(context.Background(), responses.ResponseNewParams{
		Model:       "gpt-6.1-sol",
		ServiceTier: "fast",
		Input:       responses.ResponseNewParamsInputUnion{OfString: openai.String("What does 'fit check for my napalm era' mean?")},
	})
	if err != nil {
		panic(err)
	}
	fmt.Println(response.OutputText())
}

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16import com.openai.client.OpenAIClient;
import com.openai.client.okhttp.OpenAIOkHttpClient;
import com.openai.models.responses.ResponseCreateParams;

ResponseCreateParams params =
    ResponseCreateParams.builder()
        .model("gpt-6.1-sol")
        .input("What does 'fit check for my napalm era' mean?")
        .serviceTier(ResponseCreateParams.ServiceTier.of("fast"))
        .build();

client.responses().create(params).output().stream()
    .flatMap(item -> item.message().stream())
    .flatMap(message -> message.content().stream())
    .flatMap(content -> content.outputText().stream())
    .forEach(text -> System.out.println(text.text()));

1
2
3
4
5
6
7
8
9
10
11require "openai"

client = OpenAI::Client.new

response = client.responses.create(
  model: "gpt-6.1-sol",
  service_tier: :fast,
  input: "What does 'fit check for my napalm era' mean?"
)

puts(response.output_text)

1
2
3
4
5curl https://api.openai.com/v1/responses   -H "Authorization: Bearer $OPENAI_API_KEY"   -H "Content-Type: application/json"   -d '{
    "model": "gpt-6.1-sol",
    "input": "What does 'fit check for my napalm era' mean?",
    "service_tier": "fast"
  }'

Para ativar o modo Fast em todo o projeto, abra Configurações, selecione Geral na seção Projeto e altere Nível de serviço do projeto para Fast. As solicitações que não especificam um service_tier passam a usar o modo Fast por padrão. A transição das solicitações do projeto para o modo Fast ocorre gradualmente.

O campo service_tier no objeto de resposta de Responses ou Chat Completions indica o nível de serviço usado para processar a solicitação. Para o GPT-5.6 e modelos anteriores, a resposta retorna priority tanto para solicitações que especificam priority quanto para as que especificam fast.

Limites de taxa e taxa de crescimento

Limites básicos

O uso do modo Fast conta para os limites de taxa da mesma forma que o processamento padrão. Use sua lógica habitual para repetir solicitações e aguarde entre as tentativas. Para cada modelo, o processamento padrão e o modo Fast compartilham o mesmo limite de taxa.

Limite da taxa de crescimento

Se o tráfego aumentar rápido demais, o sistema poderá processar algumas solicitações do modo Fast na velocidade padrão e cobrar as tarifas padrão. Nesse caso, a resposta contém service_tier: "default". Como regra geral, quando o tráfego atingir 1 milhão de tokens de entrada por minuto (TPM), aumente o volume em no máximo 50% a cada 15 minutos. O ponto exato em que o limite da taxa de crescimento se aplica pode variar conforme o modelo e as condições de tráfego.

Para evitar atingir o limite da taxa de crescimento:

• Aumente o tráfego gradualmente ao trocar de modelo ou de snapshot.
• Use sinalizadores de recursos para redirecionar o tráfego ao longo de algumas horas, em vez de redirecionar tudo de uma vez.
• Evite executar tarefas de extração, transformação e carga (ETL) ou de processamento em lote de grande porte no modo Fast.

Considerações sobre o uso

• O modo Fast cobra um valor adicional por token em relação ao processamento padrão. Consulte a página de preços para ver os detalhes e os modelos compatíveis.
• Os descontos para entradas em cache também se aplicam às solicitações no modo Fast.
• O modo Fast aceita solicitações multimodais, inclusive com imagens na entrada.
• Para ver as solicitações do modo Fast no painel de uso, selecione a opção de agrupar por nível de serviço. Para o GPT-5.6 e modelos anteriores, essas solicitações aparecem como priority mesmo quando você especifica fast.
• Os modelos GPT-5.6 aceitam contextos longos. O modo Fast não oferece suporte a modelos com ajuste fino nem a embeddings.

Perguntas frequentes

Para informações sobre contas e políticas, consulte as perguntas frequentes sobre o modo Fast.

O modo Fast está disponível em todas as regiões?

A disponibilidade depende das leis e dos regulamentos de cada jurisdição. Se tiver dúvidas sobre a disponibilidade na sua região, entre em contato com a pessoa responsável pela sua conta.

Como o modo Fast funciona em relação ao Nível de escala?

O Nível de escala e o modo Fast são independentes. As solicitações do modo Fast são cobradas separadamente e não consomem os pacotes de TPM adquiridos para o Nível de escala. O tráfego que excede a capacidade do Nível de escala não passa automaticamente para o modo Fast.

Como é feita a cobrança do modo Fast?

O modo Fast cobra um valor adicional por token em relação ao processamento padrão. O uso de todos os modos de processamento conta para o compromisso anual de gastos do seu contrato Enterprise. Os tokens de entrada em cache elegíveis recebem os mesmos descontos do processamento padrão.

Para o GPT-5.6 Sol, o modo Fast custa o dobro da tarifa padrão correspondente. Em solicitações de contexto curto, cada milhão de tokens custa US$ 8 na entrada e US$ 40 na saída. Em solicitações de contexto longo, cada milhão de tokens custa US$ 16 na entrada e US$ 60 na saída. Os preços promocionais do GPT-5.6 Sol estarão disponíveis pelo menos até 21 de novembro de 2026. Consulte os detalhes dos preços.

Para consultar o uso, abra o painel de uso, selecione Responses ou Chat Completions e agrupe por nível de serviço. Para consultar os custos, agrupe por item de cobrança.

Quais modelos e modalidades são compatíveis com o modo Fast?

O modo Fast oferece os mesmos recursos multimodais do processamento padrão, inclusive o uso de imagens na entrada. Os modelos GPT-5.6 aceitam contextos longos. O modo Fast não oferece suporte a modelos com ajuste fino nem a embeddings. Modelos GPT futuros poderão oferecer o modo Fast, mas não há garantia de compatibilidade para todos os modelos.

Os projetos ou as organizações compartilham os limites da taxa de crescimento?

Sim. Todo o seu tráfego conta para o mesmo limite da taxa de crescimento. Se você atingir esse limite com frequência, considere adquirir uma cota do Nível de escala.

O que acontece se o modo Fast não atingir a meta de latência?

O modo Fast para o GPT-6 Astra não inclui um acordo de nível de serviço (SLA) para latência. Para o GPT-5.6 e modelos anteriores, as mesmas condições do acordo de nível de serviço se aplicam ao modo Fast e ao Nível de escala. Contratos Enterprise elegíveis podem prever créditos de serviço quando as metas de latência não são atingidas. Se tiver dúvidas ou preocupações, entre em contato com a pessoa responsável pela sua conta.

O modo Fast é compatível com residência de dados, zero retenção de dados e um BAA?

O modo Fast é compatível com residência de dados, zero retenção de dados e um contrato de associado comercial (Business Associate Agreement, BAA), conforme a disponibilidade de cada recurso para o modelo. O modo Fast oferece suporte à residência de dados na União Europeia (UE) para o GPT-6.1 Sol, o GPT-6.1 Terra e o GPT-6 Luna. Para o GPT-6 Astra e o GPT-6 Sol, o modo Fast não está disponível com residência de dados na UE. Os requisitos vigentes de endpoint, ferramentas, elegibilidade e contrato continuam a se aplicar. Para mais detalhes, consulte o guia sobre seus dados.