探索我們的兒童安全工具包
更有效率地決定優先順序
這些 API 可找出要優先進行人工審查的不當內容，協助打擊線上兒少剝削行為。
提高辨識速度
只要能以更快的速度辨識內容，就越有可能找出受害者，並保護他們不再受虐。
以更安全的方式維持營運
提升審查作業效率並簡化作業程序，同時降低內容審核員的負擔。
瞭解我們的工具
這兩項工具可與其他工具互補，不僅可彼此互相搭配使用，也能配合其他解決方案，以滿足不同的需求。
Content Safety API
將從未見過的圖片分類
CSAI Match
與已確認為不當的影片片段進行比對
Content Safety API
用途：將從未見過的圖片分類
Content Safety API 分類器會使用程式輔助存取技術和人工智慧，協助合作夥伴將數十億張圖片分類，並找出要優先審查的項目。分類器提供的優先順序值越高，圖片就越可能含有不當內容。合作夥伴可根據這個值判斷圖片的人工審查順序，並自行決定內容處置方式。Content Safety API 會對收到的內容提供優先順序建議。合作夥伴必須自行審查內容，判斷是否要採取行動。
實際操作時，建議機構組織在人工審查前先使用 Content Safety API 將內容分類、決定優先處理順序，以及管理處理佇列。Content Safety API 可搭配其他解決方案，例如 YouTube 的 CSAI Match 影片雜湊工具或 Microsoft 的 PhotoDNA，這兩項解決方案可因應不同的需求。
運作方式
1. 擷取圖片
合作夥伴以多種形式擷取圖片，例如由使用者提出檢舉或由檢索器或篩選器辨識。這些檢索器和篩選器是由合作夥伴自行建立，用於審核自家平台上的圖片。
合作夥伴
使用者檢舉的圖片
檢索器
預先篩選器
(色情內容/其他分類器)
2. API 審查
接著，系統透過簡易 API 呼叫將圖片檔傳送至 Content Safety API，讓分類器判定圖片的審查優先順序，然後再將各張圖片的優先順序值傳回給合作夥伴。
Content Safety API
分類器技術
3. 人工審查
合作夥伴根據優先順序值優先處理必須盡早進行人工審查的圖片。
合作夥伴
人工審查
4. 採取行動
圖片經過人工審查後，合作夥伴就可根據當地法律和法規對該內容採取行動。
合作夥伴
依法採取行動
CSAI Match
用途：與已確認為不當的影片片段進行比對
CSAI Match 是 YouTube 的獨家技術，用於防制含有兒少性虐待圖像的線上影片。這項業界首創技術採用雜湊比對的方法辨識確定違規的內容，協助我們從大量的未違規影片中找出這類違規項目。如果系統在比對時找到這類違規內容，就會回報給合作夥伴，再由合作夥伴進行審查及確認，並負責依據當地法律和法規提出檢舉。YouTube 為業界和非政府組織提供 CSAI Match 技術，我們則提供指紋檔案軟體和相關 API，以便將影片與我們已確認為不當內容的資料庫進行比對。
線上平台可使用 CSAI Match 比較平台內容與其中一個規模最大的已確認為兒少性虐待圖像內容的索引，避免有人在該平台的網站上張貼及散播違規內容。合作夥伴可輕鬆將 CSAI Match 整合至自家系統，以便進一步處理棘手的內容。
運作方式
1. 建立影片的指紋檔案
影片上傳至合作夥伴平台後，在該平台上運作的 CSAI Match 指紋建立器會建立影片的指紋檔案，也就是影片檔案內容的專屬數位 ID。
合作夥伴
影片檔案
指紋建立器
建立指紋檔案
2. API 審查
合作夥伴透過 CSAI Match API 傳送指紋檔案，以便與 YouTube 指紋存放區中的其他檔案進行比對。這個存放區包含 YouTube 和 Google 偵測到的已確認為不當內容指紋。
YouTube
CSAI Match API
CSAI Match 技術
共用兒少性虐待圖像
指紋存放區
3. 人工審查
API 呼叫完畢後，系統會將比對結果 (相符或不相符) 傳回給合作夥伴，方便他們根據這項資訊進行人工審查，確認影片是否含有兒少性虐待圖像。
合作夥伴
人工審查
4. 採取行動
圖片審查完畢後，合作夥伴可根據當地法律和法規對內容採取行動。
合作夥伴
依法採取行動
Content Safety API
用途：將從未見過的圖片分類
Content Safety API 分類器會使用程式輔助存取技術和人工智慧，協助合作夥伴將數十億張圖片分類，並找出要優先審查的項目。分類器提供的優先順序值越高，圖片就越可能含有不當內容。合作夥伴可根據這個值判斷圖片的人工審查順序，並自行決定內容處置方式。Content Safety API 會對收到的內容提供優先順序建議。合作夥伴必須自行審查內容，判斷是否要採取行動。
實際操作時，建議機構組織在人工審查前先使用 Content Safety API 將內容分類、決定優先處理順序，以及管理處理佇列。Content Safety API 可搭配其他解決方案，例如 YouTube 的 CSAI Match 影片雜湊工具或 Microsoft 的 PhotoDNA，這兩項解決方案可因應不同的需求。
Content Safety API
用途：將從未見過的圖片分類
運作方式
1. 擷取圖片
合作夥伴以多種形式擷取圖片，例如由使用者提出檢舉或由檢索器或篩選器辨識。這些檢索器和篩選器是由合作夥伴自行建立，用於審核自家平台上的圖片。
合作夥伴
使用者檢舉的圖片
檢索器
預先篩選器
(色情內容/其他分類器)
2. API 審查
接著，系統透過簡易 API 呼叫將圖片檔傳送至 Content Safety API，讓分類器判定圖片的審查優先順序，然後再將各張圖片的優先順序值傳回給合作夥伴。
Content Safety API
分類器技術
3. 人工審查
合作夥伴根據優先順序值優先處理必須盡早進行人工審查的圖片。
合作夥伴
人工審查
4. 採取行動
圖片經過人工審查後，合作夥伴就可根據當地法律和法規對該內容採取行動。
合作夥伴
依法採取行動
想使用我們的工具包嗎？
如要登記意願，請提供一些關於貴機構的詳細資料
查看意願調查表
CSAI Match
用途：與已確認為不當的影片片段進行比對
CSAI Match 是 YouTube 的獨家技術，用於防制含有兒少性虐待圖像的線上影片。這項業界首創技術採用雜湊比對的方法辨識確定違規的內容，協助我們從大量的未違規影片中找出這類違規項目。如果系統在比對時找到這類違規內容，就會回報給合作夥伴，再由合作夥伴進行審查及確認，並負責依據當地法律和法規提出檢舉。YouTube 為業界和非政府組織提供 CSAI Match 技術，我們則提供指紋檔案軟體和相關 API，以便將影片與我們已確認為不當內容的資料庫進行比對。
線上平台可使用 CSAI Match 比較平台內容與其中一個規模最大的已確認為兒少性虐待圖像內容的索引，避免有人在該平台的網站上張貼及散播違規內容。合作夥伴可輕鬆將 CSAI Match 整合至自家系統，以便進一步處理棘手的內容。
CSAI Match
用途：與已確認為不當的影片片段進行比對
運作方式
1. 建立影片的指紋檔案
影片上傳至合作夥伴平台後，在該平台上運作的 CSAI Match 指紋建立器會建立影片的指紋檔案，也就是影片檔案內容的專屬數位 ID。
合作夥伴
影片檔案
指紋建立器
建立指紋檔案
2. API 審查
合作夥伴透過 CSAI Match API 傳送指紋檔案，以便與 YouTube 指紋存放區中的其他檔案進行比對。這個存放區包含 YouTube 和 Google 偵測到的已確認為不當內容指紋。
YouTube
CSAI Match API
CSAI Match 技術
共用兒少性虐待圖像
指紋存放區
3. 人工審查
API 呼叫完畢後，系統會將比對結果 (相符或不相符) 傳回給合作夥伴，方便他們根據這項資訊進行人工審查，確認影片是否含有兒少性虐待圖像。
合作夥伴
人工審查
4. 採取行動
圖片審查完畢後，合作夥伴可根據當地法律和法規對內容採取行動。
合作夥伴
依法採取行動
想使用我們的工具包嗎？
如要登記意願，請提供一些關於貴機構的詳細資料
查看意願調查表
想使用我們的工具包嗎？
如要登記意願，請提供一些關於貴機構的詳細資料
查看意願調查表客戶回饋
「Google 的雜湊比對解決方案徹底改變了我們的工作流程，不但加快了作業速度，成效也更好。在 Google 的大力協助下，美國國家失蹤及被剝削兒童保護中心得以將審查程序自動化，而不必人工審查先前通報過的兒少性剝削內容，進而減少我們員工接觸到這類內容的時間。只要有人轉貼這些相片，孩子就會再次受到傷害，因此我們必須盡快將這些相片下架。這也可讓我們將心力放在前所未知的新兒童受害者/倖存者身上。」- 美國國家失蹤及被剝削兒童保護中心
「Plugon 平台旨在提供視覺內容，而且必須負責有效管理使用者提供的所有內容。Google 的 Content Safety API 及其 AI 技術能夠以簡馭繁，讓我們快速且有效率地審查、移除及通報任何令人反感的內容，幫助我們為世界安全盡一己之力。」- Plugon
「Content Safety API 容易整合、回應快速、穩定又準確，不但大幅減少內容分析人員審查兒少性剝削圖片的時間、充分改善分析流程，還為內容分析人員的身心健康帶來正面影響。」- Safernet Brasil
「我們在幾個月前整合了 Content Safety API，相信這項簡單好用的擴充式解決方案可做為重要技術，用於保護我們的社群及防範不當內容分享行為。」- Yubo
「Content Safety API 可協助分析人員優先找出內含未成年人性虐待行為的圖片。由於待處理的通報案量與日俱增，分析人員難以順利優先審查這類內容。有了這項技術，分析人員就能更快找出含有未成年人性虐待內容的通報案件，進而更快採取相關行動，保護受害者及移除內容。」- Point de Contact
「CSAI Match 這項工具容易部署且一直相當有效，讓我們可進一步偵測及遏止散布兒少性剝削內容的行為。」- Adobe
「為了打擊兒少性剝削影片內容的出現，我們必須克服新的挑戰並採用新技術。CSAI Match 經證實能有效解決問題，讓我們可更有效地偵測及移除自家平台上的兒少性剝削影片內容。」- Yahoo!
常見問題
Content Safety API
Content Safety API 是否可用於辨識影片內容？
Content Safety API 是專為辨識圖片而設計的工具。如要辨識影片內容，機構組織可透過 YouTube 的 CSAI Match 技術使用指紋檔案軟體和專屬 API，與我們已確認為不當影片的內容資料庫進行比對，藉此確認影片中是否含有兒少性剝削內容。瞭解詳情。
誰可以申請使用相關技術和 Content Safety API？
凡是想避免自家平台出現不當內容的業界和民間第三方機構，都可申請使用 Content Safety API。所有申請均須經過核准。
為什麼 Google 要大力推廣這些工具？
Google 相信，與其他公司和非政府組織攜手合作，才是解決線上兒少剝削內容問題的最佳做法。我們長期與業界夥伴和非政府組織合作，協助開發以數據為準的新工具、提升技術能力，以及共同呼籲社會大眾重視兒少剝削內容問題。我們認為大力推廣這些工具，讓合作夥伴能夠利用 AI 技術更有效率地大規模審查內容，是能否打贏這場戰役的重要關鍵。
CSAI Match
CSAI Match 是否可用於辨識圖片內容？
CSAI Match 是專為辨識影片內容而設計的技術。如要辨識圖片，業界和非政府組織合作夥伴可使用 Google 的 Content Safety API 系列工具，透過機器學習技術將圖片分類。瞭解詳情。
找到相符內容時會傳回哪些資訊？
找到相符內容時，系統會指出影片的哪個部分與已確認為兒少性剝削圖像相符，並以標準化分類法將相符的內容歸類。
為什麼 CSAI Match 技術如此有效率？
CSAI Match 會偵測與已確認為兒少性剝削圖像內容幾乎相同的部分，包括完全相同的項目 (經 MD5 雜湊比對後找出) 和不完全相同的項目 (例如經過重新編碼、模糊處理、不完整或縮放的兒少性剝削圖像影片)。即使影片可能在非兒少性剝削圖像內容中參雜了一小部分兒少性剝削圖像，這項技術也能找出來。合作夥伴必須執行指紋二進位檔以產生影片的「指紋」(近似於 MD5 雜湊的位元組序列)。接著，系統會將指紋傳送至 Google 的 CSAI Match，透過這項服務有效率地掃描影片內容，並與 YouTube 的已確認為兒少性剝削圖像參考資料庫進行比對。