Fast モード

Fast モードは、従量課金の柔軟性を維持しながら、最大 2.5 倍の速度と、より安定したレイテンシを実現します。定常的なトラフィックがあり、レイテンシを最重視する、価値の高いユーザー向けアプリケーションに最適です。

Fast モードの設定

Responses API または Chat Completions API へのリクエストで Fast モードを使うには、リクエストパラメーターまたはプロジェクト設定で指定します。

個別のリクエストで Fast モードを使うには、service_tier パラメーターを fast に設定します。対応モデルでは、service_tier を priority に設定しても同じ動作になります。

1
2
3
4
5
6
7
8
9
10
11import OpenAI from "openai";

const openai = new OpenAI();

const response = await openai.responses.create({
  model: "gpt-5.6-sol",
  input: "What does 'fit check for my napalm era' mean?",
  service_tier: "fast",
});

console.log(response);

1
2
3
4
5
6
7
8
9
10from openai import OpenAI

client = OpenAI()

response = client.responses.create(
    model="gpt-5.6-sol",
    input="What does 'fit check for my napalm era' mean?",
    service_tier="fast",
)
print(response)

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22package main

import (
	"context"
	"fmt"

	"github.com/openai/openai-go/v3"
	"github.com/openai/openai-go/v3/responses"
)

func main() {
	client := openai.NewClient()
	response, err := client.Responses.New(context.Background(), responses.ResponseNewParams{
		Model:       "gpt-5.6-sol",
		ServiceTier: "fast",
		Input:       responses.ResponseNewParamsInputUnion{OfString: openai.String("What does 'fit check for my napalm era' mean?")},
	})
	if err != nil {
		panic(err)
	}
	fmt.Println(response.OutputText())
}

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16import com.openai.client.OpenAIClient;
import com.openai.client.okhttp.OpenAIOkHttpClient;
import com.openai.models.responses.ResponseCreateParams;

ResponseCreateParams params =
    ResponseCreateParams.builder()
        .model("gpt-5.6-sol")
        .input("What does 'fit check for my napalm era' mean?")
        .serviceTier(ResponseCreateParams.ServiceTier.of("fast"))
        .build();

client.responses().create(params).output().stream()
    .flatMap(item -> item.message().stream())
    .flatMap(message -> message.content().stream())
    .flatMap(content -> content.outputText().stream())
    .forEach(text -> System.out.println(text.text()));

1
2
3
4
5
6
7
8
9
10
11require "openai"

client = OpenAI::Client.new

response = client.responses.create(
  model: "gpt-5.6-sol",
  service_tier: :fast,
  input: "What does 'fit check for my napalm era' mean?"
)

puts(response.output_text)

1
2
3
4
5curl https://api.openai.com/v1/responses   -H "Authorization: Bearer $OPENAI_API_KEY"   -H "Content-Type: application/json"   -d '{
    "model": "gpt-5.6-sol",
    "input": "What does 'fit check for my napalm era' mean?",
    "service_tier": "fast"
  }'

プロジェクト全体で Fast モードを使うには、 設定を開き、 プロジェクトの 一般 を選択して、 プロジェクトのサービスティア を Fast に変更します。これにより、service_tier を指定しないリクエストでは、デフォルトで Fast モードが使われます。プロジェクトのリクエストは、時間をかけて段階的に Fast モードに移行します。

Responses または Chat Completions のレスポンスオブジェクトにある service_tier フィールドで、リクエストの処理に使われたティアを確認できます。GPT-5.6 以前のモデルでは、リクエストで priority と fast のどちらを指定しても、レスポンスには priority が返されます。

レート制限とトラフィックの増加率

基本の制限

Fast モードの使用量は、標準処理と同じようにレート制限にカウントされます。通常のリトライロジックを使い、試行の間に待機時間を設けてください。同じモデルでは、標準処理と Fast モードでレート制限を共有します。

トラフィック増加率の制限

トラフィックが急激に増加すると、一部の Fast モードのリクエストが標準速度での処理に切り替わり、標準料金が適用される場合があります。この場合、レスポンスには service_tier: "default" が含まれます。目安として、トラフィックが毎分 100 万入力トークン（TPM）に達したら、以降は 15 分ごとの増加率を 50% 以下に抑えてください。増加率の制限が適用される具体的な条件は、モデルやトラフィックの状況によって異なる場合があります。

トラフィック増加率の制限にかからないようにするには、次の点に注意してください。

• モデルやスナップショットを変更する際は、トラフィックを徐々に増やしてください。
• 機能フラグを使い、トラフィックを一度に切り替えず、数時間かけて移行してください。
• Fast モードでは、大規模な抽出・変換・読み込み（ETL）ジョブやバッチジョブの実行を避けてください。

利用上の注意点

• Fast モードには、標準処理より高いトークン単価が適用されます。詳細と対応モデルについては、料金ページをご覧ください。
• Fast モードのリクエストにも、キャッシュされた入力の割引が適用されます。
• Fast モードは、画像入力を含むマルチモーダルリクエストに対応しています。
• 使用状況ダッシュボードで Fast モードのリクエストを確認するには、サービスティア別にグループ化するオプションを選択します。GPT-5.6 以前のモデルでは、fast を指定しても、これらのリクエストは priority として表示されます。
• GPT-5.6 モデルは長いコンテキストに対応しています。Fast モードは、ファインチューニング済みモデルや埋め込みには対応していません。

よくある質問

アカウントとポリシーについては、Fast モードのよくある質問をご覧ください。

すべての地域での Fast モードの利用可否

利用できるかどうかは、各法域の法律や規制によって異なります。お住まいの地域での提供状況についてご不明な点がある場合は、アカウント担当者にお問い合わせください。

Fast モードとスケールティアの関係

スケールティアと Fast モードは別のサービスです。Fast モードのリクエストは別途課金され、購入済みのスケールティアの TPM バンドルにはカウントされません。スケールティアの枠を超えたトラフィックが、自動的に Fast モードに移行することもありません。

Fast モードの課金方式

Fast モードには、標準処理より高いトークン単価が適用されます。すべての処理モードの利用額がエンタープライズ契約の年間利用額コミットメントに算入されます。また、割引対象のキャッシュ済み入力トークンには、標準処理と同じ割引が適用されます。

GPT-5.6 Sol の Fast モードの料金は、対応する標準料金の 2 倍です。短いコンテキストのリクエストは、入力 100 万トークンあたり $8、出力 100 万トークンあたり $40 です。長いコンテキストのリクエストは、入力 100 万トークンあたり $16、出力 100 万トークンあたり $60 です。GPT-5.6 Sol のプロモーション料金は、少なくとも 2026 年 11 月 21 日までは利用できます。料金の詳細をご覧ください。

使用状況を確認するには、使用状況ダッシュボードを開き、Responses または Chat Completions を選択して、サービスティア別にグループ化します。費用を確認するには、明細項目別にグループ化します。

Fast モードに対応するモデルとモダリティ

Fast モードは、画像入力など、標準処理で利用できるマルチモーダル機能に対応しています。GPT-5.6 モデルは長いコンテキストに対応しています。Fast モードは、ファインチューニング済みモデルや埋め込みには対応していません。今後の GPT モデルも Fast モードに対応する可能性はありますが、すべてのモデルでの対応を保証するものではありません。

プロジェクトや組織をまたぐトラフィック増加率の制限の共有

はい。すべてのトラフィックが、同じ増加率の制限にカウントされます。頻繁に増加率の制限にかかる場合は、スケールティアのクォータの購入をご検討ください。

Fast モードがレイテンシの目標を達成しなかった場合の扱い

GPT-6 Astra の Fast モードには、レイテンシに関する SLA は含まれていません。GPT-5.6 以前のモデルでは、Fast モードとスケールティアに同じサービスレベル契約上の扱いが適用されます。レイテンシの目標が達成されなかった場合、対象となるエンタープライズ契約ではサービスクレジットが付与されることがあります。ご不明な点や懸念がある場合は、アカウント担当者にお問い合わせください。

Fast モードとデータレジデンシー、ゼロデータ保持、BAA の併用

Fast モードは、モデルごとの提供状況に応じて、データレジデンシー、ゼロデータ保持、事業提携契約（BAA）と併用できます。GPT-6 Astra では、Fast モードと EU データレジデンシーを併用できません。エンドポイント、ツール、利用資格、契約に関する既存の要件は引き続き適用されます。詳細については、お客様のデータに関するガイドをご覧ください。