如需完整的文件索引,請參閱 llms.txt。在文件頁面的網址末尾加上 .md ,即可取得該頁面的 Markdown 版本。
主要導覽
主題

為 Realtime 模型撰寫提示詞

為 Realtime 語音模型設計及測試提示詞。

選擇你用來開發應用程式的 Realtime 模型。如果使用 GPT-Live,請參閱為 GPT-Live 撰寫提示詞。

gpt-realtime-2 是我們專為低延遲語音到語音應用程式打造的最先進語音推理模型。它能先思考再開口。相較於舊版即時模型,它能更可靠地遵循指示、運用更大的上下文視窗,也能更精準地呼叫工具。

要發揮這些優勢,設計提示詞時請明確寫出預期行為。具體界定助理的職責、需要做決策的時機、工具呼叫方式及行為限制,說明它該做什麼、何時該做,以及該避免什麼。

從簡單的提示詞開始。一開始只寫必要的指示,接著執行評估,只針對測試中未達預期的行為補充指示。

選擇模型

模型適用情境提示詞設計重點
gpt-realtime-2

需要最強的即時推理、工具使用及指示遵循能力。

調整推理程度、行動前的簡短說明、工具使用規則、精確擷取實體的方式,以及長時間工作階段的狀態管理。

gpt-realtime-1.5需要快速、可靠的非推理型語音到語音模型。

採用即時模型的基本提示詞結構,並測試對延遲敏感的行為。

Realtime 2.0 提示詞指南

如果語音智慧體需要更強的推理或工具選擇能力、需要精確處理實體,或需要在長時間工作階段中維護狀態,請使用 gpt-realtime-2。先設定 reasoning.effort: “low”,測試模型預設如何在行動前提供簡短說明,並明確界定哪些寫入操作必須先取得確認。

Realtime 2 有哪些改變

為 Realtime 2 撰寫提示詞時,請把它視為能推理的語音智慧體,而非基本的語音機器人。

改變 對提示詞設計的影響
推理能力 處理複雜任務時,讓模型在開口或呼叫工具前先進行內部推理。適時加入行動前的簡短說明,避免尷尬的沉默或多餘的填充語。
提示詞的精確度更重要 把「盡量幫忙」等籠統指引改為明確的觸發條件、行動及例外規則,說明何時該行動、該做什麼,以及何時不該做。
指示衝突的代價更高 除非確有必要,否則請移除彼此重疊的 always、never、only 及 must 規則。規則相互衝突時,請明定優先順序。
工具使用方式更容易控制 指定助理何時應立即行動、詢問缺少的資訊、確認必須精確無誤的細節、失敗後重試,或轉交處理。
行動前的簡短說明可獨立控制 在較長的推理或工具操作流程開始前,模型可能會簡短說明進度。指定何時需要說明、要多簡短,以及何時應省略。
上下文視窗擴大 gpt-realtime-2 將即時上下文視窗從 32k 擴大到 128k 個 Token,更適合長時間工作階段及篇幅較長的系統提示詞。

行動前的簡短說明並非隱藏的思路鏈,而是「我現在幫你查這筆訂單」之類的簡短口頭進度說明。請勿要求模型揭露內部推理過程。

建議的提示詞結構

將提示詞分成簡短、有標題的區段,讓模型能快速找到相關指示。

# 角色與目標

# 個性與語氣

# 語言

# 推理

# 訊息通道

# 行動前的簡短說明

# 回應詳略

# 工具

# 聽不清楚的音訊

# 實體擷取

# 長上下文中的行為

# 轉交處理

並非每種使用情境都需要所有區段。請選用與產品相關的區段。

設定推理程度

gpt-realtime-2 可以用較長的延遲換取更深入的推理。請選擇足以讓助理完成工作流程的最低推理程度。

對多數正式環境中的語音智慧體,建議先使用 low,再依任務複雜度、可接受的延遲及失敗的代價調高或調低。

推理程度 適用情境 範例
minimal 任務簡單,最重要的是盡可能降低延遲。 智慧家庭指令、計時器、簡單的行事曆查詢。
low 需要快速回應及基本推理能力。 客戶支援、訂單查詢、簡單的政策問題。
medium 助理必須透過推理完成多步驟任務。 技術支援、診斷、複雜的分流。
high 更深入的推理能顯著提高成功率。 要求高度精確的工作流程、轉交決策、有條件限制的任務。
xhigh 值得付出額外延遲與成本,以取得最強的推理能力。 複雜規劃、關鍵事件分流、影響重大的多工具協調。

除了 API 設定,也請在提示詞中說明模型何時需要推理,以及該推理到什麼程度。

## 推理

- 如果能直接回答,或只需簡單查詢、簡短確認,請立即回應,不要推理。
- 處理多步驟任務、決定如何使用工具、排解問題或轉交處理時,先推理再行動。
- 使用者的音訊不清楚時,請直接請對方說清楚,不要花時間深入推理。

選擇何時在行動前簡短說明

語音智慧體在推理、查詢資料或呼叫工具前,可以用一句簡短的話告知進度,讓使用者知道它正在處理請求。用得恰當,使用者就能安心等候。用得不當,這些話只會變成填充語,讓人覺得等得更久。

gpt-realtime-2 預設會產生行動前的簡短說明。先測試預設行為。如果不符合產品預期的體驗,再用明確的指示調整。

行動前簡短說明的產生與播放時間軸

## 行動前的簡短說明

只有在簡短說明有助於使用者知道你正在處理請求時,才開口說明。

### 何時需要說明

遇到以下情況時,先簡短說明:

- 即將呼叫的工具可能需要讓使用者等一會兒。
- 需要推理才能處理包含多個步驟的請求。
- 正在查詢紀錄、可用情形、帳戶狀態或政策細節。
- 正準備將案件升級或交給他人接手。
- 保持沉默會讓使用者覺得助理沒有反應。

需要說明時,請立即說明,接著再開始實質推理或使用工具。

### 何時省略說明

遇到以下情況時,請省略行動前的說明:

- 可以立即直接回答。
- 使用者只是在確認、更正或婉拒某件事。
- 音訊不清楚,需要請使用者澄清。
- 最新音訊是靜默、背景雜音、電話等候音樂、電視聲或旁人的交談。
- 工具呼叫很快就能完成,告知進度對使用者沒有幫助。

### 說明的語氣

行動前簡短說明時:

- 語氣自然、平靜,措辭簡潔。
- 每輪對話變換說法。
- 說明要做的事,不要描述內部推理過程。
- 避免填充語。

避免以下說法:

- 「讓我想想……」
- 「嗯……」
- 「等我處理一下……」
- 「我現在要存取工具……」

### 說明的長度

用一句短句說明。

除非在執行影響重大的操作前需要先向使用者解釋,否則最多用兩句短句。

### 建議說法

- 「我現在幫你查這筆訂單。」
- 「我幫你查一下預約詳情。」
- 「我先核對一下,再做變更。」
- 「我先查一下規定,再告訴你下一步怎麼做。」
- 「我把資料調出來,一起確認是不是這個帳戶。」

### 避免的說法

- 「讓我稍微想一下。」
- 「請稍候,我正在處理你的請求。」
- 「我現在要使用工具了。」
- 「這個問題很有意思。我會仔細推理。」

控制回應長度

提示詞若依任務類型指定該提供多少細節,gpt-realtime-2 最能遵循長度要求。不要只告訴模型「簡短回答」,請依情境說明怎樣才算簡短。直接作答、回報工具結果、排解問題、比較選項及轉交處理,各自需要的回應長度可能不同。

## 回應詳略

- 直接回答:用 1 至 2 句短句。
- 釐清問題:一次只問一個問題。
- 工具結果:先概述結果,接著只說明下一個有用的行動。
- 比較產品或選項:說明主要差異、各自的取捨,以及適合哪些人。
- 排解問題:一次說明一個步驟,除非使用者要求完整流程。
- 轉交處理:簡短解釋為什麼需要轉交,以及接下來會怎麼處理。

範例:

使用者:我該選哪個方案?

助理:想把費用降到最低,可以選 Basic。如果需要團隊權限和共用帳單,可以選 Pro。如果重視合規審查或管理員控制功能,可以選 Enterprise。

設計工具使用行為

gpt-realtime-2 呼叫工具的能力更強,但實際行為仍取決於提示詞與工具規格的設計。如果提示詞沒有定義何時該行動、詢問、確認或處理失敗,助理可能會太早呼叫工具、詢問不必要的問題,或重複已失敗的呼叫。

設定工具呼叫的主動程度

對於唯讀、低風險的操作,可以讓助理主動呼叫工具。如果工具會修改資料、對外部系統產生影響,或需要精確的識別碼,則適合降低主動程度。

工具類型 預設行為
唯讀、低風險的查詢 意圖和必要欄位都明確時即可呼叫。
需要精確識別碼的唯讀查詢 先確認識別碼,再查詢。
使用者看得到的通訊內容 傳送前先擬稿或概述內容。
帳戶變更 呼叫前先確認。
購買、取消、付款 呼叫前先確認金額、操作對象及後果。
無法復原或影響重大的操作 明確取得確認,並在適當時提供轉交處理的選項。

工作流程同時包含讀取及寫入操作時,可先採用下列兼顧兩者的預設規則,再依使用情境調整。

## 工具

只能使用目前工具清單中明確提供的工具。不要編造、假定、模擬工具,或更改工具名稱。

使用唯讀工具時:

- 如果使用者意圖明確,且已取得所有必填欄位的值,就呼叫工具。
- 除非查詢需要精確無誤的識別碼,或確實有可能用錯紀錄,否則不用要求確認。
- 只有在必填欄位的值缺漏、不明確或互相矛盾時,才提問釐清。

使用寫入工具或執行對外操作時:

- 呼叫工具前先概述要執行的操作。
- 說明主要後果,例如會變更、傳送、取消或訂購什麼,或將收取什麼費用。
- 請使用者確認。
- 使用者明確確認後才能呼叫工具。

使用精確識別碼時:

- 訂單 ID、物流追蹤號碼、帳號、確認碼、電話號碼及電子郵件地址都必須精確無誤。
- 只有在欄位類型明確時,才將值轉為標準格式。
- 查詢特定帳戶、驗證或寫入前,先確認最終值。

呼叫工具後:

- 工具呼叫成功後,才能告訴使用者操作已完成。
- 如果工具呼叫失敗,簡短說明原因,不要照念原始錯誤訊息,並清楚告知使用者下一步該怎麼做。

高風險操作範例:

使用者:請用我的卡付清剩餘款項。

不佳的回應:

助理:已經從你的卡扣款了。

較佳的回應:

助理:跟你確認一下,你要用已登記的卡支付剩餘的 248.16 美元。可以扣款嗎?

處理工具失敗

工具呼叫失敗也是對話的一部分。妥善處理失敗時,助理應說明發生了什麼事,並清楚告知使用者下一步該怎麼做。

請依工具類型、失敗原因及對使用者的影響選擇處理方式。有些失敗可直接重試,無須打斷對話。其他情況則需要請使用者澄清、更正識別碼、確認新的操作,或選擇其他處理方式。

## 工具呼叫失敗

如果工具呼叫失敗:

1. 用使用者容易理解的話簡短說明哪個步驟失敗。
2. 不要責怪使用者,也不要顯示原始工具錯誤訊息。
3. 如果可能是識別碼有誤,請念出實際使用的值,讓使用者更正。
4. 如果可能是暫時性問題,可以提議重試一次。
5. 如果相同錯誤反覆發生,提供其他做法或提議轉交處理。

呼叫失敗後,不要用相同引數反覆呼叫同一項工具。

先確認記下的識別碼是否正確,再請使用者提供其他識別碼。

不佳的回應:

助理:出了點問題。

較佳的回應:

助理:我查不到符合「O R D 連字號 3 1 2 5 B 2 3」的訂單。我有哪裡聽錯了嗎?

讓提示詞與可用工具保持一致

Realtime 模型會主動嘗試協助使用者。如果提示詞提到實際上無法使用的工具,或工具清單與提示詞不符,模型可能會編造工具名稱,或假裝已完成操作。

例如,提示詞提到 lookup_order,但提供的工具名為 search_orders,模型就可能呼叫錯誤的名稱,或模擬該操作。

## 可用工具

只能使用目前工具清單中明確提供的工具。

不要編造、假定或模擬工具。即使指示提到某項工具,只要工具清單中沒有,就視為無法使用。

如果使用者要求的操作需要目前無法使用的工具:

1. 不要假裝已經完成操作。
2. 簡短說明目前無法使用該工具。
3. 在支援的操作中,提出最符合需求的下一步。

只有在相應的工具呼叫成功後,才能告知使用者操作已完成。

使用附錄中用於審查提示詞的元提示詞,檢查正式環境的提示詞是否有矛盾、缺少工具,或包含稍遇例外就失效的指示。

處理靜默與背景音訊

語音智慧體預設傾向於回應。在正式環境中,它們經常收到不該出聲回應的音訊,例如靜默、背景雜音、電話等候音樂、電視聲或旁人的交談。

助理應安靜地繼續聆聽時,請使用不執行任何操作的等候工具。這讓模型有一個不需出聲的有效動作可選,不必說「我在這裡」或「我沒聽清楚」。

工具設計:

{
  "name": "wait_for_user",
  "description": "Call this when the latest audio does not need a spoken response, such as silence, background noise, hold music, TV audio, side conversation, or speech not addressed to the assistant. This tool helps end the turn without a spoken reply.",
  "parameters": {
    "type": "object",
    "properties": {},
    "required": []
  }
}

搭配以下提示詞指示:

## 處理靜默與背景雜音

如果最新音訊是靜默、背景雜音、電話等候音樂、電視聲、旁人的交談,或有人說話但對象不是你,請呼叫 `wait_for_user`。

呼叫這個工具後,不要開口回應。

不要說「我在這裡」、「我沒聽清楚」、「你慢慢來」或「準備好了再告訴我」。

等到使用者明確對你說話或尋求協助,再恢復正常回應。

此做法適用於並非對助理說話的音訊。如果使用者明顯在向助理提出請求,只是內容聽不清楚,就應請使用者澄清。

依用途指定訊息通道

gpt-realtime-2 可以在 commentary 通道產生使用者看得到的中間訊息,並在 final 通道提供給使用者的最終回應。如果預期行為取決於訊息出現在哪個通道,請針對通道撰寫指示。

通道 使用者看得到嗎? 用途
commentary 是 行動前的簡短說明及工具呼叫。
final 是 給使用者的最終訊息。

例如,工具呼叫會在 commentary 通道執行。如果希望助理在使用工具之前、期間或之後說些什麼,請在指示中說明該行為與 commentary 通道的關係。

在 commentary 通道呼叫工具前,先簡短告訴使用者你正在做什麼。

gpt-realtime-2 可以在同一輪對話中輸出多個階段的回應。API 輸出會透過 response.done 事件區分這些階段,其中的 phase 值會指出內容屬於中間說明或最終答案。

應用程式可以根據這個欄位分別處理各階段。例如,可以將 commentary 內容播放或顯示為簡短的進度說明,並將 final_answer 專用於助理完成的回應。

response.output[0].phase: "commentary"
response.output[1].phase: "final_answer"

處理聽不清楚的音訊

模型只應根據有把握聽懂的音訊採取行動。如果音訊不清楚,應簡短詢問使用者以釐清內容,避免猜測。

不要讓模型推測遺漏的字詞、呼叫工具、擷取實體、產生行動前的簡短說明,或花時間在內部推理,試圖還原使用者可能說過的話。

## 聽不清楚的音訊

- 只回應清楚的音訊或文字。
- 如果使用者的音訊不清楚,用一句簡短的英語請對方再說一次,例如「Sorry, could you repeat that clearly?」
- 不要連續兩次用同一句話請使用者重述聽不清楚的內容。
- 只要音訊有歧義、有雜音、無聲、聽不懂、部分中斷,或無法確定使用者說了哪些字詞,就視為音訊不清楚。
- 不要根據聽不清楚的音訊猜測使用者的意思。
- 音訊不清楚時不要推理。
- 音訊不清楚時,不要在 commentary 通道提供行動前的簡短說明或呼叫工具。

範例:

使用者語音:「幫我查訂單三、一……」[語音中斷]

不佳的回應:

助理:我現在幫你查訂單 31。

較佳的回應:

助理:我只聽到一部分訂單號碼。可以請你一個數字一個數字再念一次嗎?

精確擷取實體

許多即時工作流程都需要精確的值,例如訂單 ID、物流追蹤號碼、電子郵件地址、確認碼、帳號、理賠案號、工單 ID、客服案件編號及電話號碼。

透過語音擷取這些值並不容易。使用者可能說得很快、以不同方式將數字分組、只拼出部分字元、夾雜填充語、說到一半更正,或念出發音相近的字元。只要錯一位數,查詢就可能失敗,或查到錯誤的帳戶。

擷取實體時應謹慎。一次收集一個值,只將明確的內容轉為標準格式,在呼叫工具前確認必須精確無誤的值,並確保使用者每次更正後都能重新核對。

一次收集一個實體

如果工作流程需要多個值,請逐一收集,以免不同欄位的內容混在一起。這在語音對話中特別重要。

## 實體收集順序

逐一收集必要的值。

- 只詢問下一個缺少的值。
- 不要在同一輪對話中詢問多個值。
- 詢問前,先檢查使用者是否已在先前的對話或工作階段中提供該值。
- 如果已有可能符合的值,先與使用者確認再使用。

範例:

「我看到你先前提供的物流追蹤號碼是 ABC-54321。要用這個號碼,還是有其他追蹤號碼?」

收集、驗證並確認目前的值之後,才能呼叫工具。

處理逐字拼讀的字元

使用者逐字拼讀 ID、代碼、姓名或電子郵件地址時,可採用以下做法。口述內容是輸入,還需要整理成最終欄位值。

## 逐字拼讀的字元

使用者逐字元念出 ID、代碼或電子郵件地址時,請將口述的字元合併成一個值。保留對方明確念出的分隔符號,例如連字號、點號、底線、斜線或加號。其餘位置不要自行加入空格或分隔符號。

範例:

- 「A B C 一 二 三」 -> "ABC123"
- 「B C 連字號 九 八 七」 -> "BC-987"
- 「J O H N 小老鼠 example 點 com」 -> "john@example.com"

除非使用者明確表示值中包含空格,否則不要在逐字拼讀的字元之間插入空格。

謹慎轉換口述數字

口述數字識別碼時,使用者可能逐位念出、分組念出,或按平常念數目的方式表達。如果欄位需要一串連續的數字,請把聽得清楚的數字轉成數字字元。

## 處理口述數字

收集數字識別碼時,請將口述內容轉為阿拉伯數字。

範例:

- 「一、二、三、四」 -> "1234"
- 「一、二十三」 -> "123"
- 「一、十九」 -> "119"
- 「九十九、十一」 -> "9911"
- 「九千九百一十一」 -> "9911"

如果有多種合理解讀,請使用者澄清後再使用該值。

範例:

「我不確定聽到的是 119 還是 1-19。可以請你一個數字一個數字再念一次嗎?」

呼叫工具前確認識別碼完全正確

訂單 ID、物流追蹤號碼、帳號、理賠案號、確認碼及類似識別碼都是必須精確無誤的欄位。在工具呼叫中使用之前,請先確認。

對於數字識別碼,請逐位複誦。把整串數字當作一個數目念出,可能讓人聽不出錯誤。

範例:

助理:跟你確認一下,我聽到的是 8……3……5……2……1。對嗎?

如果使用者更正了一個字元或數字,請在呼叫工具前複誦更正後的完整值。

範例:

助理:好,更正後是 8……3……5……7……1。這樣對嗎?

## 確認精確識別碼

使用必須精確無誤的識別碼呼叫工具前:

- 與使用者確認轉為標準格式後的最終值。
- 逐位複誦數字識別碼。
- 不要使用猜測、不完整或有歧義的值。
- 如果使用者更正了內容,請在呼叫工具前複誦更正後的完整值。

逐字元確認電子郵件地址

電子郵件地址必須正確無誤。點號、連字號、底線、重複的字母,以及發音相近的名字,都可能導致帳戶查詢失敗,或把訊息寄到錯誤的地址。

請使用者拼出電子郵件地址:

助理:可以請你把電子郵件地址一個字元一個字元念出來嗎?我想確認每個字元都記對了。

複誦時,請確認完整的最終地址:

助理:跟你確認一下,是 c、h、e、n,小老鼠,example,點,com,對嗎?

## 確認電子郵件地址

記下的電子郵件地址必須完全正確。

如果使用者用平常的說法念出電子郵件地址,沒有逐字拼讀,請對方一個字元一個字元再念一次。

範例:

「可以請你把電子郵件地址一個字元一個字元念出來嗎?我想確認每個字元都記對了。」

複誦時,請與使用者核對完整的最終地址。

範例:

「跟你確認一下,是 c、h、e、n,小老鼠,example,點,com,對嗎?」

實體收集流程

避免指示遭到過度字面解讀

gpt-realtime-2 比舊版即時模型更嚴格地按字面遵循指示。在舊模型上表現良好的提示詞,可能需要調整。

請使用精確的措辭。模型可能會優先遵循指示的字面意思,忽略你原本期望的整體行為。過於籠統或僵化的規則可能出乎意料地主導助理的行為,尤其是在多項規則重疊時。

請謹慎使用 must、only、never 及 always 等限制性字詞。只有在確實要求某種行為時才使用,避免只是為了加強語氣。過度使用硬性限制會讓助理行為僵化、過度謹慎,或無法處理合理的例外情況。

建議明確限定適用範圍:

如果寫入操作會修改使用者資料,請先取得確認,再呼叫工具。

避免範圍過廣:

做任何事之前,一律先要求確認。

範圍過廣的寫法,可能導致助理在查詢訂單狀態、查詢可預約時段或讀取帳戶資訊等無害的唯讀操作之前,也要求不必要的確認。

字面解讀範例

撰寫提示詞的一般建議:

  • 明確寫出指示,避免讓模型揣測意圖。
  • 只有在行為確實必須嚴格受限時,才使用限制性字詞。
  • 盡量減少互相矛盾的指引。
  • 如果指示分成多個優先層級,或不只一項指示要求優先執行,請仔細檢查。
  • 逐步測試提示詞。措辭的小幅改動可能大幅影響行為。
  • 從舊版即時模型遷移時,部分提示詞可能需要重新組織,才能達到最佳效果。

分別控制語言與口音

請分別控制回應使用的語言與口音。

使用者的口音無法代表他們想使用的語言。使用者可能說帶有印地語、西班牙語、法語或華語口音的英語,仍然期待助理用英語回答。

避免使用下列籠統的語言指示:

模仿使用者的說話方式。
用使用者的語言自然回應。
適時切換語言。
說得像當地人。
配合使用者的口音。

這些指示範圍太廣。模型可能把口音、填充語、簡短的附和聲,或零星的外語詞彙當成切換語言的理由。

英語回應規則

## 語言

預設使用英語回應。

- 不要只根據口音推斷語言。
- 判斷語言時,忽略短暫的語助聲、附和聲及零星的外語詞彙。
- 只有在使用者明確要求,或用另一種語言說出有實質內容的話時,才切換語言。
- 如果無法確定語言,請簡短詢問,不要猜測。
- 行動前的簡短說明、口頭轉場語、工具相關訊息和最終回答都使用同一種語言。
- 配合口音時,不得改變回應語言。

多語言回應規則

## 語言

除非使用者明確使用其他語言,否則預設使用英語。

只有遇到以下情況才切換語言:

- 使用者明確要求使用另一種語言。
- 使用者用另一種語言說出有實質內容的話,也就是用該語言提出完整的請求、問題或更正。只有問候語、姓名、地址、填充語或外來詞不算。

不要根據下列線索切換語言:

- 口音。
- 發音。
- 填充語。
- 簡短的附和聲。
- 姓名。
- 地址。
- 零星的外語詞彙。

不確定時,請詢問:

「接下來你希望我用英語還是 [LANGUAGE] 回答?」

控制口音

gpt-realtime-2 更能遵循口音指示,但模糊的口音提示詞可能導致口音逐漸改變,或意外切換語言。

控制口音的提示詞明確指定以下事項時,效果最佳:

  • 目標口音;
  • 哪些特徵應保持一致;
  • 預期的語速、重音及韻律;
  • 調整口音是否應影響語言選擇。

避免這樣寫:

說得像澳洲人。

建議這樣寫:

## 口音

說英語時帶一點澳洲口音。

- 從第一個字到最後一個字都保持相同口音。
- 採用自然的澳洲英語母音發音,並讓人容易聽懂。
- 不要刻意誇張口音。
- 不要因使用者的口音改變回應語言。

自訂聲音

如果標準聲音無法穩定符合品牌、口音或角色的需求,請使用自訂聲音。

提示詞可以引導口音、語速及表達方式,但無法完全取代聲音設計。如果使用情境要求品牌聲音始終一致,或必須忠實呈現特定口音,可以考慮使用自訂聲音。

自訂聲音僅開放給已獲核准的客戶。請聯絡負責你帳戶的團隊以取得存取權。

在長時間工作階段中維護狀態

gpt-realtime-2 將即時上下文視窗從 32k 擴大到 128k 個 Token,更適合長時間工作階段。對於雙方密集交談的情境,128k 個 Token 約可容納 1 至 2 小時的密集原始音訊上下文。實際容量會依工具使用情形、內部推理、加入的紀錄及工作階段的其他細節而異。

在需要長上下文的情境中,若 gpt-realtime-2 能分辨哪些資訊是最新狀態、哪些是背景資料,以及來源衝突時應忽略哪些資訊,表現就會最好。不要讓模型自行從原始逐字稿或大量未整理的上下文中推斷來源的優先順序。請以結構化方式呈現。

如果工作階段一開始就需要大量上下文,例如檢索到的紀錄、過往對話、政策、摘要、帳戶備註或背景文件,可使用下列結構整理。

從舊版即時模型遷移

從舊版即時模型遷移時,請把提示詞視為控制模型行為的介面,不能只把文字照搬過去。

  1. 使用 Codex 或推理能力強的模型,依照最新的 Realtime 提示詞指引重新組織提示詞。請附上本指南的連結,讓遷移工作有最佳做法可循。
  2. 將推理程度設為 low,取代預設值。只有工作流程需要更深入的規劃時才調高。
  3. 檢查工具名稱、參數、列舉值、JSON 結構描述及其他設定,確保與預期的實作一致。
  4. 移除過時的範例。為正常流程、語意不明、對話中斷、工具呼叫及備援處理方式加入簡短範例。
  5. 比較遷移前後具代表性的對話。利用既有評估檢查是否出現退步,並記錄刻意變更的行為。
  6. 最後檢查一致性。確認提示詞清楚區分硬性要求、預設行為、工具規則、安全規則及備援處理方式。
  7. 執行評估、檢視具代表性的失敗案例,並反覆調整提示詞,直到模型能可靠地展現預期行為。

後續步驟

如果使用 GPT-Live:

如果使用 Realtime: