プロンプティング

プロンプティングとは、モデルに入力を与えることです。出力の品質は、多くの場合、プロンプトの書き方に左右されます。

概要

プロンプティングには、体系的な手法と、試行錯誤で培う感覚の両方が役立ちます。OpenAI は、効果的なプロンプトを組み立て、モデルから安定して良い結果を得るための手法を紹介しています。API の設計にも、そのための工夫を取り入れています。さまざまなプロンプトを試してみてください。

プロンプティングのツールと手法

• プロンプトキャッシュ：プロンプトの先頭にある共通部分を再利用し、キャッシュヒット時のレイテンシと入力トークンのコストを削減
• プロンプトエンジニアリング：プロンプトの設計方針、具体的な手法、ツールを紹介

プロンプトの改善

• 全体の口調や役割に関する指示はシステムメッセージに記述し、タスク固有の詳細や例はユーザーメッセージに記述します。
• フューショットの例は、YAML 風の記法か箇条書きで簡潔にひとまとめにします。チームのメンバーがひと目で内容を把握でき、更新もしやすくなります。
• プロジェクトの構成に合わせてフォルダーを整理し、わかりやすい名前を付けます。チームのメンバーがプロンプトをすぐに見つけられます。
• プロンプトを公開するたびに、プロンプトのテストと評価ケースを実行します。問題を早期に発見すれば、本番環境で修正するよりもコストを抑えられます。

アプリケーションでのプロンプト管理

プロンプトはアプリケーションコードと同じように扱います。プロンプトの内容は名前を付けたモジュールに格納し、動的に変わる部分は型付きの関数引数を使って組み立てます。プロンプトを変更するときは、その変更に対応する製品の動作変更と同じ Pull Request でレビューします。

新規開発では、再利用可能なプロンプトオブジェクトを作成せず、次の方法でプロンプトを管理してください。

• 本番用の各プロンプトは、prompts/supportReply.ts のようなヘルパーに格納し、コードとしてバージョン管理します。
• プロンプト変数は、型付きの関数パラメーターまたは検証済みの入力オブジェクトに置き換えます。
• 生成したメッセージは、Responses API の input と instructions に直接渡します。
• デプロイプロセスにテストと評価チェックを組み込み、代表的なフィクスチャを使ってプロンプトの変更を検証します。
• Git の履歴、PR レビュー、リリースタグ、機能フラグを活用して、プロンプトの変更をレビュー、リリース、比較し、必要に応じてロールバックします。

API リクエストですでにプロンプト ID やプロンプトのバージョンを使用している場合は、移行ガイドに沿って、それらのプロンプトをコードに移してください。

次のステップ

プロンプトの作成に慣れたら、次のガイドや資料も参考にしてください。