Modo rápido

El Modo rápido ofrece hasta 2,5 veces la velocidad estándar y una latencia más estable, con tarifas de pago por uso. Úsalo en aplicaciones orientadas al usuario que reciben tráfico habitual y para las que la latencia es importante.

Para obtener mayor velocidad con GPT-6 Astra o GPT-6.1 Sol, consulta Modo ultrarrápido.

Configuración del Modo rápido

Puedes configurar las solicitudes a la API de Responses o a la API para completar chats para que usen el Modo rápido mediante un parámetro de la solicitud o una opción de configuración del proyecto.

Para activar el Modo rápido en una solicitud individual, establece el parámetro service_tier en fast. Si estableces service_tier en priority, el resultado es el mismo en los modelos compatibles.

1
2
3
4
5
6
7
8
9
10
11import OpenAI from "openai";

const openai = new OpenAI();

const response = await openai.responses.create({
  model: "gpt-6.1-sol",
  input: "What does 'fit check for my napalm era' mean?",
  service_tier: "fast",
});

console.log(response);

1
2
3
4
5
6
7
8
9
10from openai import OpenAI

client = OpenAI()

response = client.responses.create(
    model="gpt-6.1-sol",
    input="What does 'fit check for my napalm era' mean?",
    service_tier="fast",
)
print(response)

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22package main

import (
	"context"
	"fmt"

	"github.com/openai/openai-go/v3"
	"github.com/openai/openai-go/v3/responses"
)

func main() {
	client := openai.NewClient()
	response, err := client.Responses.New(context.Background(), responses.ResponseNewParams{
		Model:       "gpt-6.1-sol",
		ServiceTier: "fast",
		Input:       responses.ResponseNewParamsInputUnion{OfString: openai.String("What does 'fit check for my napalm era' mean?")},
	})
	if err != nil {
		panic(err)
	}
	fmt.Println(response.OutputText())
}

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16import com.openai.client.OpenAIClient;
import com.openai.client.okhttp.OpenAIOkHttpClient;
import com.openai.models.responses.ResponseCreateParams;

ResponseCreateParams params =
    ResponseCreateParams.builder()
        .model("gpt-6.1-sol")
        .input("What does 'fit check for my napalm era' mean?")
        .serviceTier(ResponseCreateParams.ServiceTier.of("fast"))
        .build();

client.responses().create(params).output().stream()
    .flatMap(item -> item.message().stream())
    .flatMap(message -> message.content().stream())
    .flatMap(content -> content.outputText().stream())
    .forEach(text -> System.out.println(text.text()));

1
2
3
4
5
6
7
8
9
10
11require "openai"

client = OpenAI::Client.new

response = client.responses.create(
  model: "gpt-6.1-sol",
  service_tier: :fast,
  input: "What does 'fit check for my napalm era' mean?"
)

puts(response.output_text)

1
2
3
4
5curl https://api.openai.com/v1/responses   -H "Authorization: Bearer $OPENAI_API_KEY"   -H "Content-Type: application/json"   -d '{
    "model": "gpt-6.1-sol",
    "input": "What does 'fit check for my napalm era' mean?",
    "service_tier": "fast"
  }'

Para activar el Modo rápido en todo el proyecto, abre Configuración, selecciona General en la sección Proyecto y cambia Nivel de servicio del proyecto a Rápido. A partir de ese momento, las solicitudes que no especifiquen un service_tier usarán el Modo rápido de forma predeterminada. Las solicitudes del proyecto pasarán gradualmente al Modo rápido.

El campo service_tier del objeto de respuesta de Responses o Chat Completions indica el nivel de servicio que se usó para procesar la solicitud. En GPT-5.6 y modelos anteriores, la respuesta devuelve priority tanto si la solicitud especifica priority como si especifica fast.

Límites de solicitudes y ramp rate

Límites básicos

El uso del Modo rápido cuenta para los límites de solicitudes de la misma manera que el procesamiento estándar. Usa tu lógica habitual de reintentos y espera entre intentos. Para un mismo modelo, el procesamiento estándar y el Modo rápido comparten el límite de solicitudes.

Límite de ramp rate

Si el tráfico aumenta demasiado rápido, el sistema puede procesar algunas solicitudes del Modo rápido a la velocidad estándar y cobrarte la tarifa estándar. En ese caso, la respuesta contiene service_tier: "default". Como regla general, una vez que el tráfico alcance 1 millón de tokens de entrada por minuto (TPM), auméntalo como máximo un 50 % cada 15 minutos. El umbral exacto a partir del cual se aplica el límite de ramp rate puede variar según el modelo y las condiciones del tráfico.

Para evitar que se active el límite de ramp rate:

• Aumenta el tráfico gradualmente cuando cambies de modelo o de versión del modelo (snapshot).
• Usa indicadores de funcionalidad para redirigir el tráfico de forma gradual a lo largo de varias horas.
• Evita ejecutar en el Modo rápido trabajos de extracción, transformación y carga (ETL) o trabajos por lotes de gran volumen.

Consideraciones de uso

• El Modo rápido tiene un costo adicional por token respecto del procesamiento estándar. Consulta la página de precios para ver los detalles y los modelos compatibles.
• Los descuentos por tokens de entrada en caché también se aplican a las solicitudes del Modo rápido.
• El Modo rápido admite solicitudes multimodales, incluidas las que contienen imágenes como entrada.
• Para ver las solicitudes del Modo rápido en el panel de uso, selecciona la opción de agrupar por nivel de servicio. En GPT-5.6 y modelos anteriores, estas solicitudes aparecen como priority incluso cuando especificas fast.
• Los modelos GPT-5.6 admiten contextos largos. El Modo rápido no admite modelos con ajuste fino ni embeddings.

Preguntas frecuentes

Para obtener información sobre cuentas y políticas, consulta las preguntas frecuentes sobre el Modo rápido.

¿El Modo rápido está disponible en todas las regiones?

La disponibilidad depende de las leyes y regulaciones de cada jurisdicción. Si tienes dudas sobre la disponibilidad en tu región, ponte en contacto con la persona que dirige tu cuenta.

¿Cómo funciona el Modo rápido con el Nivel de capacidad?

El Nivel de capacidad y el Modo rápido funcionan por separado. Las solicitudes del Modo rápido se facturan por separado y no consumen los paquetes de TPM que hayas comprado para el Nivel de capacidad. El tráfico que excede la cuota del Nivel de capacidad no pasa automáticamente al Modo rápido.

¿Cómo se factura el Modo rápido?

El Modo rápido tiene un costo adicional por token respecto del procesamiento estándar. El gasto en cualquier modo de procesamiento cuenta para tu compromiso de gasto anual de Enterprise. Los tokens de entrada en caché que cumplen los requisitos reciben los mismos descuentos que en el procesamiento estándar.

Para GPT-5.6 Sol, la tarifa del Modo rápido es el doble de la tarifa estándar correspondiente. Para las solicitudes de contexto corto, las tarifas son de $8 por millón de tokens de entrada y $40 por millón de tokens de salida. Para las de contexto largo, son de $16 por millón de tokens de entrada y $60 por millón de tokens de salida. Las tarifas promocionales de GPT-5.6 Sol estarán disponibles al menos hasta el 21 de noviembre de 2026. Consulta los detalles de precios.

Para revisar el uso, abre el panel de uso, selecciona Responses o Chat Completions y agrupa los datos por nivel de servicio. Para revisar los costos, agrúpalos por concepto de facturación.

¿Qué modelos y modalidades admite el Modo rápido?

El Modo rápido admite las funciones multimodales disponibles en el procesamiento estándar, incluidas las entradas de imagen. Los modelos GPT-5.6 admiten contextos largos. El Modo rápido no admite modelos con ajuste fino ni embeddings. Es posible que futuros modelos GPT admitan el Modo rápido, pero la compatibilidad no está garantizada para todos los modelos.

¿Se comparten los límites de ramp rate entre proyectos u organizaciones?

Sí. Todo tu tráfico cuenta para el mismo límite de ramp rate. Si alcanzas ese límite con frecuencia, considera comprar una cuota del Nivel de capacidad.

¿Qué pasa si el Modo rápido no cumple su objetivo de latencia?

El Modo rápido para GPT-6 Astra no incluye un acuerdo de nivel de servicio (SLA) para la latencia. En GPT-5.6 y modelos anteriores, las condiciones del acuerdo de nivel de servicio son las mismas para el Modo rápido y el Nivel de capacidad. Los acuerdos de Enterprise que cumplan los requisitos pueden otorgar créditos de servicio si no se cumplen los objetivos de latencia. Si tienes dudas o inquietudes, ponte en contacto con la persona que dirige tu cuenta.

¿El Modo rápido es compatible con la residencia de datos, la retención cero de datos y un BAA?

El Modo rápido es compatible con la residencia de datos, la retención cero de datos y un acuerdo de asociado comercial (BAA), según la disponibilidad para cada modelo. El Modo rápido admite la residencia de datos en la UE para GPT-6.1 Sol, GPT-6.1 Terra y GPT-6 Luna. Para GPT-6 Astra y GPT-6 Sol, el Modo rápido no está disponible con residencia de datos en la UE. Siguen vigentes los requisitos relativos a los puntos de acceso y las herramientas, así como los requisitos de elegibilidad y las condiciones contractuales. Para obtener más detalles, consulta la guía sobre tus datos.