Mode Rapide

Le mode Rapide traite les requêtes jusqu’à 2,5 fois plus vite, avec une latence plus stable et une tarification à l’usage. Utilisez-le pour les applications destinées aux utilisateurs qui reçoivent un trafic régulier et pour lesquelles la latence est importante.

Pour accélérer le traitement avec GPT-6 Astra ou GPT-6.1 Sol, consultez le guide du mode ultrarapide.

Configuration du mode Rapide

Pour utiliser le mode Rapide avec l’API Responses ou l’API Chat Completions, vous pouvez définir un paramètre dans la requête ou modifier un réglage du projet.

Pour activer le mode Rapide pour une seule requête, définissez le paramètre service_tier sur fast. Si vous définissez service_tier sur priority, le comportement est le même pour les modèles compatibles.

1
2
3
4
5
6
7
8
9
10
11import OpenAI from "openai";

const openai = new OpenAI();

const response = await openai.responses.create({
  model: "gpt-6.1-sol",
  input: "What does 'fit check for my napalm era' mean?",
  service_tier: "fast",
});

console.log(response);

1
2
3
4
5
6
7
8
9
10from openai import OpenAI

client = OpenAI()

response = client.responses.create(
    model="gpt-6.1-sol",
    input="What does 'fit check for my napalm era' mean?",
    service_tier="fast",
)
print(response)

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22package main

import (
	"context"
	"fmt"

	"github.com/openai/openai-go/v3"
	"github.com/openai/openai-go/v3/responses"
)

func main() {
	client := openai.NewClient()
	response, err := client.Responses.New(context.Background(), responses.ResponseNewParams{
		Model:       "gpt-6.1-sol",
		ServiceTier: "fast",
		Input:       responses.ResponseNewParamsInputUnion{OfString: openai.String("What does 'fit check for my napalm era' mean?")},
	})
	if err != nil {
		panic(err)
	}
	fmt.Println(response.OutputText())
}

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16import com.openai.client.OpenAIClient;
import com.openai.client.okhttp.OpenAIOkHttpClient;
import com.openai.models.responses.ResponseCreateParams;

ResponseCreateParams params =
    ResponseCreateParams.builder()
        .model("gpt-6.1-sol")
        .input("What does 'fit check for my napalm era' mean?")
        .serviceTier(ResponseCreateParams.ServiceTier.of("fast"))
        .build();

client.responses().create(params).output().stream()
    .flatMap(item -> item.message().stream())
    .flatMap(message -> message.content().stream())
    .flatMap(content -> content.outputText().stream())
    .forEach(text -> System.out.println(text.text()));

1
2
3
4
5
6
7
8
9
10
11require "openai"

client = OpenAI::Client.new

response = client.responses.create(
  model: "gpt-6.1-sol",
  service_tier: :fast,
  input: "What does 'fit check for my napalm era' mean?"
)

puts(response.output_text)

1
2
3
4
5curl https://api.openai.com/v1/responses   -H "Authorization: Bearer $OPENAI_API_KEY"   -H "Content-Type: application/json"   -d '{
    "model": "gpt-6.1-sol",
    "input": "What does 'fit check for my napalm era' mean?",
    "service_tier": "fast"
  }'

Pour activer le mode Rapide à l’échelle du projet, ouvrez Paramètres, sélectionnez Général dans la section Projet, puis réglez Offre du projet sur Rapide. Le mode Rapide devient alors le mode par défaut pour les requêtes qui ne précisent pas de valeur pour service_tier. Les requêtes du projet passent progressivement en mode Rapide.

Le champ service_tier de l’objet de réponse de l’API Responses ou Chat Completions indique l’offre utilisée pour traiter la requête. Pour GPT-5.6 et les modèles antérieurs, la réponse renvoie priority, que la requête spécifie priority ou fast.

Limites de débit et vitesse de montée en charge

Limites de base

L’utilisation du mode Rapide est comptabilisée de la même manière que celle du traitement standard dans le calcul des limites de débit. Conservez votre logique habituelle de nouvelle tentative et prévoyez un délai entre les tentatives. Pour un modèle donné, le traitement standard et le mode Rapide partagent la même limite de débit.

Limite de vitesse de montée en charge

Si votre trafic augmente trop vite, le système peut traiter certaines requêtes du mode Rapide à la vitesse standard et les facturer au tarif standard. Dans ce cas, la réponse contient service_tier: "default". En règle générale, dès que votre trafic atteint 1 million de tokens d’entrée par minute (TPM), limitez sa hausse à 50 % par tranche de 15 minutes. Le seuil exact d’application de la limite de vitesse de montée en charge peut varier selon le modèle et les conditions de trafic.

Pour éviter d’atteindre cette limite :

• Augmentez progressivement le trafic lorsque vous changez de modèle ou d’instantané.
• Utilisez des indicateurs de fonctionnalité pour basculer le trafic sur plusieurs heures plutôt qu’en une seule fois.
• Évitez d’exécuter en mode Rapide des tâches volumineuses d’extraction, de transformation et de chargement (ETL) ou de traitement par lots.

Points à connaître

• Le mode Rapide coûte plus cher par token que le traitement standard. Consultez la page des tarifs pour connaître les tarifs et les modèles compatibles.
• Les remises sur les tokens d’entrée mis en cache s’appliquent également aux requêtes en mode Rapide.
• Le mode Rapide prend en charge les requêtes multimodales, y compris celles qui contiennent des images en entrée.
• Pour afficher les requêtes en mode Rapide dans le tableau de bord d’utilisation, sélectionnez l’option de regroupement par offre. Pour GPT-5.6 et les modèles antérieurs, ces requêtes apparaissent sous priority, même si vous avez spécifié fast.
• Les modèles GPT-5.6 prennent en charge les contextes longs. Le mode Rapide ne prend en charge ni les modèles affinés ni les plongements vectoriels.

Questions fréquentes

Pour toute information sur les comptes et les politiques applicables, consultez la FAQ sur le mode Rapide.

Le mode Rapide est-il disponible dans toutes les régions ?

Sa disponibilité dépend des lois et réglementations en vigueur dans chaque territoire. Pour savoir si le mode Rapide est disponible dans votre région, contactez votre responsable de compte.

Comment le mode Rapide s’articule-t-il avec l’offre Scale ?

L’offre Scale et le mode Rapide sont indépendants. Les requêtes en mode Rapide sont facturées séparément et ne sont pas déduites des quotas de TPM achetés dans le cadre de l’offre Scale. Le trafic qui dépasse le quota de l’offre Scale ne bascule pas automatiquement en mode Rapide.

Comment le mode Rapide est-il facturé ?

Le tarif par token est plus élevé en mode Rapide qu’en traitement standard. Les dépenses liées à tous les modes de traitement sont prises en compte dans votre engagement de dépenses annuel Enterprise. Les tokens d’entrée mis en cache qui remplissent les conditions requises bénéficient des mêmes remises qu’en traitement standard.

Pour GPT-5.6 Sol, le tarif du mode Rapide est le double du tarif standard correspondant. Pour les requêtes à contexte court, le tarif est de 8 $ par million de tokens d’entrée et de 40 $ par million de tokens de sortie. Pour les requêtes à contexte long, il est de 16 $ par million de tokens d’entrée et de 60 $ par million de tokens de sortie. Les tarifs promotionnels de GPT-5.6 Sol s’appliquent au moins jusqu’au 21 novembre 2026 inclus. Consultez le détail des tarifs.

Pour consulter votre utilisation, ouvrez le tableau de bord d’utilisation, sélectionnez Responses ou Chat Completions, puis regroupez les données par offre. Pour consulter les coûts, regroupez-les par poste de facturation.

Quels modèles et quelles modalités sont compatibles avec le mode Rapide ?

Le mode Rapide prend en charge les mêmes fonctionnalités multimodales que le traitement standard, y compris les images en entrée. Les modèles GPT-5.6 prennent en charge les contextes longs. Le mode Rapide ne prend en charge ni les modèles affinés ni les plongements vectoriels. De futurs modèles GPT pourraient être compatibles avec le mode Rapide, mais cette compatibilité n’est pas garantie pour tous les modèles.

Les projets ou les organisations partagent-ils la même limite de vitesse de montée en charge ?

Oui. L’ensemble de votre trafic est pris en compte dans le calcul de cette limite. Si vous l’atteignez régulièrement, envisagez d’acheter un quota dans le cadre de l’offre Scale.

Que se passe-t-il si le mode Rapide n’atteint pas son objectif de latence ?

Pour GPT-6 Astra, le mode Rapide n’inclut aucun accord de niveau de service (SLA) sur la latence. Pour GPT-5.6 et les modèles antérieurs, les mêmes dispositions relatives au niveau de service s’appliquent au mode Rapide et à l’offre Scale. Les contrats Enterprise éligibles peuvent prévoir des crédits de service si les objectifs de latence ne sont pas atteints. Pour toute question ou préoccupation, contactez votre responsable de compte.

Le mode Rapide est-il compatible avec la résidence des données, la politique de non-conservation des données et un BAA ?

Le mode Rapide est compatible avec la résidence des données, la politique de non-conservation des données et un accord de type Business Associate Agreement (BAA), sous réserve de leur disponibilité pour le modèle utilisé. Le mode Rapide prend en charge la résidence des données dans l’UE pour GPT-6.1 Sol, GPT-6.1 Terra et GPT-6 Luna. Pour GPT-6 Astra et GPT-6 Sol, le mode Rapide n’est pas disponible avec la résidence des données dans l’UE. Les exigences existantes concernant les points de terminaison, les outils, l’éligibilité et les contrats restent applicables. Pour en savoir plus, consultez le guide Vos données.