如需完整的文件索引,請參閱 llms.txt。在文件頁面的網址末尾加上 .md ,即可取得該頁面的 Markdown 版本。
主要導覽
主題

CSAM 處理指南

預防、偵測及處理 CSAM。

OpenAI 編寫本指南時,參考了以下機構提供的專業意見:Tech Coalition、Thorn、美國國家失蹤與受剝削兒童中心(NCMEC),以及網路觀察基金會(IWF)。

開發產品時就納入兒童安全考量

OpenAI 對開發者在兒童安全方面的責任有明確要求。你有責任確保使用者在使用 OpenAI 服務時遵守適用法律,包括將兒童性虐待與性剝削列為犯罪的法律。絕不可利用 OpenAI 服務剝削、危害或性化任何未滿 18 歲的人。請參閱 OpenAI 的使用政策。

網路兒童性剝削與性虐待會波及各類產品與服務,即使其目標使用者並非兒童。OpenAI 希望協助開發者瞭解可以採取哪些措施來因應這類侵害。

請儘早思考他人可能如何濫用你的產品。從開發初期就著手規劃,才能隨產品規模擴大而強化兒童安全措施,避免日後才設法將措施納入已經相當複雜的產品或系統。無論規模大小,開發團隊與組織都應評估他人可能如何濫用產品,造成哪些傷害。評估範圍應包括兒童性虐待素材(CSAM)、為性侵害而誘騙兒童、性勒索、將兒童性化、直播虐待過程,以及人口販運。若產品支援傳送訊息、上傳內容、編輯圖像、直播、探索內容或使用者,或是付款,更應進行這項評估。

本指南聚焦於 CSAM,提供開發者保護兒童的實務做法。

從哪裡開始

起初可能很難判斷該從何著手。適合的解決方案與實施方式,取決於組織的規模、成熟度與可用資源。

你可以從以下檢查清單著手處理 CSAM。重要的是先開始因應風險,無須等到所有工具都已就緒或每個步驟都已完成才採取行動。

預防

為產品或服務訂定明確規則,並建立管道,讓使用者能反映實際使用經驗。

  • 訂定明確規則。 在服務條款、可接受使用政策或社群規範中,明文禁止兒童性剝削與性虐待。你可以透過 TSPA 或 Tech Coalition 的免費 Pathways 計畫 取得專業指引與實用工具,包括介紹哪些外部標準禁止網路兒童性剝削與性虐待的資料。
  • 提供使用者檢舉管道。 將檢舉入口設在醒目處,讓使用者能標記可能有害的內容或行為。將檢舉轉至有人監看的佇列或其他有人受理的管道,並附上足夠資訊,供審核人員依政策作出判斷。如需更多指引,請參閱澳洲網路安全專員提供的資料。
  • 透過安全識別碼追蹤上傳內容與使用者。 在產品或服務中,記錄每筆內容由哪位使用者上傳。在支援的 OpenAI 請求中傳送安全識別碼,有助於 OpenAI 監控及偵測濫用行為。如此一來,如果 OpenAI 偵測到你的產品或服務中有違反政策的情況,就能提供更具體的回饋,協助團隊採取行動。安全識別碼也能協助團隊更快處理濫用事件。團隊可以透過固定的識別碼,將活動追溯到個別終端使用者,降低單一使用者濫用服務而影響組織其他成員存取服務的風險。請為每位使用者指定一個不重複的字串。為保護隱私,請先對電子郵件地址或使用者名稱進行雜湊,再傳送雜湊值,以免揭露可識別個人身分的資訊。直接呼叫 Images API 時,請將同一個固定識別碼作為 safety_identifier,隨圖像生成與圖像編輯請求傳送。user 參數已棄用,但為了維持回溯相容性,仍可使用。

準備好採取進一步行動時,可以考慮其他預防措施:

  • 針對與 CSAM 相關的關鍵字或網址,加入封鎖或拒絕請求的預防機制。詳情請參閱 IWF 提供的資料。
  • 向試圖從事 CSAM 相關行為的使用者顯示警告或提示訊息。詳情請參閱 Stop It Now 提供的資料。
  • 如果兒童可以使用你的服務,而有使用者告知你平台上有涉及其本人的性影像或影片,請引導該使用者尋求支援。例如,IWF 與 NSPCC 的 Report Remove 計畫讓英國兒童可以檢舉影像與影片,要求移除或封鎖。另一個支援管道是 NCMEC 的 Take It Down 服務。
  • 如果你得知兒童正在遭受傷害或面臨迫在眉睫的危險:
    • 將案件轉介給緊急應變單位,例如當地執法機關。
    • 告知兒童如何聯絡緊急應變單位。

偵測

找出可能違規的內容或行為,以便審核並採取行動。

使用可取得的 CSAM 偵測工具:

  • 感知雜湊比對。 如果產品支援上傳、儲存或處理圖像與影片,可以考慮導入感知雜湊比對。這項技術會為圖像或影片建立數位指紋,再與已知 CSAM 的指紋比對。即使有人調整尺寸、壓縮檔案或以其他方式修改檔案,仍有助於辨識已知素材。你需要同時取得雜湊比對技術(例如 PhotoDNA)與 CSAM 雜湊清單。這些清單收錄了已知 CSAM 的雜湊值。只有部分服務同時提供兩者。
    • 建議使用的雜湊比對技術:
    • 建議使用的 CSAM 雜湊清單:
      • NCMEC 提供的雜湊清單涵蓋已知 CSAM、剝削性內容,以及由生成式 AI 產生的 CSAM。請聯絡其電子服務提供者團隊。
      • IWF 提供 Image Intercept 雜湊比對服務,符合資格的小型企業與新創公司只需具備基本技術知識即可整合。
  • 用於偵測未知 CSAM 的分類器。 這些工具可偵測未知或先前未曾發現的 CSAM。
    • Safer by Thorn 提供的分類器旨在辨識圖像與影片中可能尚未被發現的 CSAM,也能找出文字中與性剝削相關的跡象。
    • Google 的 Content Safety API 使用 AI 為圖像與影片分類,並指定審核優先順序。分類器給予的優先順序越高,該圖像或影片含有 CSAM 的可能性就越高。
  • 辨識違規者並執行政策。 如果有人使用帳號違反或試圖違反 CSAM 政策,可利用現有識別碼及資訊(例如使用者名稱、電子郵件地址與裝置 ID)辨識這些帳號,並考慮永久停權,或採取其他措施阻止其繼續違規。請留意試圖規避處分的反覆違規者。

應對與通報

請確保產品具備必要功能,團隊也做好準備,以便在得知服務上出現 CSAM 時採取適當行動。

  • 完成登記,準備向主管機關通報 CSAM。 請向 NCMEC 登記,或向當地通報專線登記。請考量 NCMEC 需要哪些資訊才能採取行動,以及通報如何協助保護兒童。盡可能提供完整資訊,以便將通報轉交給有管轄權的機關,並協助辨識嫌疑人。NCMEC 的通報欄位說明文件列出了 IP 位址、裝置 ID 與其他資料欄位。

各司法管轄區的法律與通報義務可能有所不同。

  • 保存可供調查使用的紀錄與識別碼。 通報時,請保存事件紀錄,以及任何有助於辨識違規者的相關資料,以便回應執法機關的要求。
  • 撰寫應對手冊。 明訂由誰審核檢舉、緊急案件如何在組織內部呈報及向外部單位通報、應對違規使用者採取哪些措施,以及誰有權作出這些決定。這份 TSPA 資源可協助你建立處理違規事件的作業流程。
  • 考慮建立由可信賴的專業通報者組成的網絡,邀請 IWF 等組織及其他通報專線參與,運用其專業知識協助你找出並通報 CSAM 案件。
  • 為相關人員提供訓練與支援。 處理流程中必須有人參與判斷。請確保審核人員、支援團隊與值班人員都瞭解你的政策、案件呈報流程,以及各自動化系統的限制。
  • 使用所需工具審核內容或處理濫用事件。 其他工具也有助於因應兒童安全風險與傷害:
    • Moderation API 可偵測文字與圖像中可能有害的內容。詳情請參閱 omni-moderation-latest 模型說明。這項 API 無法取代專門的 CSAM 偵測工具。它仍提供 sexual/minors 類別,涵蓋涉及未滿 18 歲人士的性內容。此類別僅適用於文字。你可以依據偵測結果:
      • 封鎖或過濾內容。
      • 將內容送交人工審核。
      • 對相關帳號採取措施。
      • 提高反覆濫用的難度,並依產品或服務的規則處置違規行為。
    • 也可考慮其他合適的內容審核工具。例如,ROOST 的 Coop 是開放原始碼的審核主控台,可協助團隊初步判斷文字、多媒體內容與個人檔案中的疑似違規情形,並安排處理順序。它支援人工與自動化審核,設計上重視審核人員的身心健康,並支援完整的內容審核流程,包括向 NCMEC CyberTipline 通報。

準備好採取進一步行動時,可以考慮其他應對與通報措施:

  • 支援參與處理 CSAM 的人員。 組織應投入資源,為 CSAM 審核人員提供訓練、支援及身心健康計畫。請參閱 WeProtect 的建議 。
  • 尋求專業支援。 即使沒有大型信任與安全團隊,也可以開始行動。Tech Coalition 提供多種管道,協助公司強化兒童安全機制:
    • Pathways 是協助企業培養兒童安全實務能力的免費計畫,特別為新創公司與中小型平台設計,也開放各種規模的公司參與。計畫提供實用資源、指引與支援,協助公司建立健全的兒童安全機制。符合資格的公司也可以透過 Pathways 申請 PhotoDNA 再授權。
    • Elevate 依各公司需求提供顧問服務與實施支援,適合希望獲得更直接的實務協助,以強化兒童安全計畫並因應特定風險的公司。
    • 成為 Tech Coalition 會員 後,公司即可與全球同業合作,共同因應網路兒童性剝削與性虐待,與同業交流、分享專業知識並參與集體行動。請聯絡 Tech Coalition 團隊安排初步諮詢。
    • 如需更多指引,開發者可參閱 Tech Coalition 的兒童安全實務建議。

隨產品發展擴充防護措施

選擇適當的管控與防護措施時,應考量產品本身、開發階段與成熟度、使用者與功能、營運地區,以及可用資源。

面臨較高風險的產品,例如支援直播、圖像生成或編輯、檔案儲存或使用者私下聯繫的產品,應考慮採用並強化下列防護措施:

  • 在產品推出前,以及每次變更高風險功能時,評估產品風險。請參閱 Ofcom 的風險評估指引。
  • 依服務特性採用多層次偵測機制,可包括雜湊比對、圖像或影片分類器、文字中的可疑跡象、關鍵字偵測,以及網址封鎖。
  • 對可信度高或顯示情節嚴重的訊號進行人工審核。選用能保護審核人員身心健康的工具,減少審核人員不必要地接觸有害素材的機會。
  • 設定速率限制、實施帳號管控並監控濫用行為,提高反覆濫用的難度。
  • 定期測試並衡量成效,以便找出缺口、追蹤結果並改善管控措施。

這些建議可作為起點,但不構成法律意見,也不是普遍適用的注意義務標準。請依服務特性、風險狀況及適用法律調整做法。