如需瞭解 OpenAI 採取的防護措施,請參閱安全分類器、資安檢查與模型行為偏離預期的監控機制。如果你的應用程式為未成年人提供服務,也請遵循未滿 18 歲使用者的相關指引。
使用免費的 Moderation API
OpenAI 的 Moderation API 可免費使用,有助於降低模型回應中出現不安全內容的頻率。你也可以根據自己的使用情境,開發內容過濾系統。
如果你的應用程式使用 Responses API 或 Chat Completions 生成文字,也可以在生成請求中要求傳回內容審核分數。
對抗性測試
建議針對應用程式進行「紅隊演練」,確認它在面對對抗性輸入時仍能正常運作。請用各種輸入和使用者行為測試產品,既要涵蓋具代表性的情境,也要模擬有人刻意讓應用程式出錯的情況。應用程式會偏離主題嗎?使用者能否輕易透過提示注入改變功能的行為,例如要求「忽略先前的指示,改做這件事」?
人工介入(HITL)
建議盡可能在實際使用輸出結果前,先由人工審查。在決策後果重大的領域,以及生成程式碼時,這一點尤其重要。審查人員應瞭解系統的限制,並能取得驗證輸出結果所需的所有資訊。例如,如果應用程式會產生筆記摘要,審查人員應能輕鬆查閱原始筆記以供核對。
提示工程
「提示工程」有助於限制輸出文字的主題和語氣。即使使用者刻意誘導模型生成不符合預期的內容,也能降低這類內容出現的機率。為模型提供更多上下文,例如在新的輸入之前先給出幾個能展現預期行為的高品質範例,有助於引導模型產生符合預期的輸出。
「認識你的客戶」(KYC)
一般而言,應要求使用者註冊並登入後才能使用你的服務。讓使用者透過 Gmail、LinkedIn 或 Facebook 等既有帳號登入,可能有所幫助,但未必適合所有使用情境。要求使用者提供信用卡或身分證件,可進一步降低風險。
限制使用者輸入量與輸出 Token 數量
限制使用者可在提示詞中輸入的文字量,有助於防範提示注入。限制輸出 Token 數量則有助於降低應用程式遭到濫用的機率。
縮小輸入或輸出的範圍,尤其是將內容限定於可信來源,有助於減少濫用應用程式的方式。
讓使用者從已驗證的下拉式選單中選取項目(例如維基百科上的電影清單),可能比允許使用者自由輸入文字更安全。
在可行的情況下,從後端已驗證的資料中選取內容並傳回,可能比傳回新生成的內容更安全。例如,收到客戶提問時,可以引導客戶閱讀最符合問題的既有客服文章,而不必從頭生成回答。
讓使用者回報問題
一般而言,應提供容易找到的管道,讓使用者回報功能異常或其他與應用程式行為有關的疑慮,例如列出聯絡信箱或提供提交支援單的方式。應由專人留意回報內容,並視情況回應。
瞭解並說明限制
語言模型可能因幻覺而產生錯誤資訊,也可能輸出冒犯性內容、呈現偏見或出現其他問題。某些使用情境可能需要大幅調整模型才能適用。請評估模型是否適合你的用途,並以各種可能的輸入測試 API,找出 API 表現可能變差的情況。請考量你的客戶群以及他們可能提供的各種輸入,讓客戶對系統的能力有合理的預期。
OpenAI 非常重視使用安全與資訊安全。
如果你在使用 API 開發時,或在其他與 OpenAI 有關的情況下發現任何使用安全或資安問題,請透過我們的漏洞協調揭露計畫回報。
使用安全識別碼
在請求中傳送安全識別碼,有助於 OpenAI 監控並偵測濫用行為。如果我們在你的應用程式中偵測到違反政策的情況,就能向你的團隊提供更具體的回饋,方便團隊採取行動。
安全識別碼也能協助團隊更快處理濫用事件。團隊可以透過固定的識別碼,將活動追溯至個別終端使用者,並降低單一使用者的濫用行為影響組織內其他人使用服務的機率。
安全識別碼應為可唯一識別個別使用者的字串。請將使用者名稱或電子郵件地址雜湊,以免將可識別身分的資訊傳給我們。如果你提供產品預覽供未登入的使用者試用,可以改為傳送工作階段 ID。
如果產品讓個別使用者與模型互動,建議使用安全識別碼,但這並非必要條件。請透過 safety_identifier 參數,在 API 請求中加入安全識別碼:
import OpenAI from "openai";
const client = new OpenAI();
const response = await client.chat.completions.create({
model: "gpt-6-astra",
messages: [{ role: "user", content: "This is a test" }],
max_completion_tokens: 5,
safety_identifier: "user_123456",
});
console.log(response.choices[0].message.content);使用 Images API 時,請將 safety_identifier 加入每個圖像生成(POST /v1/images/generations)和圖像編輯(POST /v1/images/edits)請求。在 JSON 請求中,請以 JSON 屬性傳送識別碼。在採用 multipart 格式的圖像編輯請求中,則以表單欄位傳送。在你的組織內,同一位終端使用者的各個請求都應使用相同的固定識別碼,長度不得超過 128 個字元。
Images API 的 user 參數已棄用。遷移時,請將原先透過 user 提供的識別碼改用 safety_identifier 傳送。API 仍支援使用 user 的既有請求。如果同時提供這兩個欄位,API 會優先採用非空的 safety_identifier。如果省略 safety_identifier,或其值為 null 或空字串,API 就會使用請求中提供的 user 值(如有)。
對於 Realtime API 請求,請透過 OpenAI-Safety-Identifier 標頭提供同一個可保護隱私的固定識別碼。建立短效 Realtime 用戶端密鑰時,請在建立密鑰的伺服器端請求中加入此標頭,將識別碼繫結至該工作階段。如果從受信任的後端直接發出 WebSocket 或 WebRTC 連線請求,請在連線請求中加入此標頭。
安全識別碼不會自動沿用至其他 API 或工作階段。如果你的應用程式已在 Responses API 請求中傳送 safety_identifier,請在每個 Images API 請求中,以及每次建立或連線至 Realtime 工作階段時,分別傳送相同的固定值。
撤銷安全性受損的 API 金鑰
如果你認為某個 API 金鑰已外洩、遭到濫用,或因其他原因而不再安全,請儘速撤銷並換用新金鑰。前往安全性設定,即可檢視所有 API 金鑰,並撤銷任何安全性受損的金鑰。
CSAM 指引
OpenAI 與 NCMEC、Thorn 等兒童安全專家合作,為開發者提供保護兒童的實務指引。閱讀 CSAM 指引。