探索我們的兒童安全工具包
更有效率地決定優先順序
這些 API 可找出要優先進行人工審查的不當內容，協助打擊線上兒少剝削行為。
提高辨識速度
只要能以更快的速度辨識內容，就越有可能找出受害者，並保護他們不再受虐。
以更安全的方式維持營運
提升審查作業效率並簡化作業程序，同時降低內容審核員的負擔。
瞭解我們的工具
這兩項工具可與其他工具互補，不僅可以搭配使用，也能配合其他解決方案，以滿足不同需求。
Content Safety API
將先前未見過的圖片和影片分類
CSAI Match
與已知不當的影片片段比對
Content Safety API
用於將先前未見過的圖片和影片分類
Content Safety API 分類器會使用程式輔助存取技術和人工智慧，協助合作夥伴將數十億個圖片和影片分類，並找出要優先審查的項目。分類器提供的優先順序值越高，媒體檔案就越可能含有不當內容。合作夥伴可根據這個值判斷檔案的專人審查順序，並自行決定內容處置方式。Content Safety API 會對收到的內容提供優先順序建議。合作夥伴必須自行審查內容，判斷是否要採取行動。
實際操作時，建議機構在人工審查前先使用 Content Safety API 將內容分類、決定優先處理順序，以及管理處理次序。Content Safety API 可搭配其他解決方案，例如 YouTube 的 CSAI Match 影片雜湊工具或 Microsoft 的 PhotoDNA，這兩項解決方案可因應不同的需求。
運作方式
1. 擷取檔案
合作夥伴以多種形式擷取檔案，例如由使用者提出檢舉或者由檢索器或篩選器辨識。這些檢索器和篩選器由合作夥伴自行建立，用於審核自家平台上的內容。
夥伴
使用者檢舉的圖片或影片
檢索器
預先篩選器
(色情內容/其他分類器)
2. API 審查
接著，只要呼叫 API，媒體檔案便會傳送至 Content Safety API，讓分類器判定檔案的審查優先順序，然後將各項內容的優先順序值傳回給合作夥伴。
Content Safety API
分類器技術
3. 人工審查
合作夥伴根據優先順序值，先行處理需要盡早進行人工審查的檔案。
夥伴
人工審查
4. 採取行動
圖片和影片檔案經過人工審查後，合作夥伴可以接著根據當地法律和法規對該內容採取行動。
夥伴
依法採取行動
CSAI Match
用於與已知不當影片片段比對
CSAI Match 是 YouTube 的獨家技術，用於防堵含有兒少性虐待圖像的線上影片。這項業界首創技術採用雜湊比對的方法辨識確定違規的內容，協助我們從大量的未違規影片中找出這類違規項目。如果系統在比對時找到這類違規內容，就會回報給合作夥伴，再由合作夥伴進行審查及確認，並負責依據當地法律和法規提出檢舉。YouTube 為業界和非政府組織提供 CSAI Match 技術，我們則提供指紋辨識軟體和 API，可用於將影片與已知不當內容的資料庫比對。
線上平台可使用 CSAI Match，將平台上的內容與規模首屈一指的已知兒少性虐待圖像內容索引互相比較，避免有人在自家網站上張貼及散播違規內容。合作夥伴可輕鬆將 CSAI Match 整合至自己的系統，以便進一步處理棘手的內容。
運作方式
1. 建立影片的指紋檔案
影片上傳至合作夥伴平台後，在該平台上運作的 CSAI Match 指紋建立器會建立影片的指紋檔案，也就是影片檔案內容的專屬數位 ID。
夥伴
影片檔案
指紋建立器
建立指紋檔案
2. API 審查
合作夥伴透過 CSAI Match API 傳送指紋檔案，與 YouTube 指紋存放區中的其他檔案比對。這個存放區包含 YouTube 和 Google 偵測到的已知不當內容指紋。
YouTube
CSAI Match API
CSAI Match 技術
共用兒少性虐待圖像
指紋存放區
3. 人工審查
API 呼叫完畢後，比對結果 (相符或不相符) 會傳回給合作夥伴，他們可根據這項資訊進行人工審查，確認影片是否含有兒少性虐待圖像。
夥伴
人工審查
4. 採取行動
圖片審查完畢後，合作夥伴可根據當地法律和法規對內容採取行動。
夥伴
依法採取行動
Content Safety API
用於將先前未見過的圖片和影片分類
Content Safety API 分類器會使用程式輔助存取技術和人工智慧，協助合作夥伴將數十億個圖片和影片分類，並找出要優先審查的項目。分類器提供的優先順序值越高，媒體檔案就越可能含有不當內容。合作夥伴可根據這個值判斷檔案的專人審查順序，並自行決定內容處置方式。Content Safety API 會對收到的內容提供優先順序建議。合作夥伴必須自行審查內容，判斷是否要採取行動。
實際操作時，建議機構在人工審查前先使用 Content Safety API 將內容分類、決定優先處理順序，以及管理處理次序。Content Safety API 可搭配其他解決方案，例如 YouTube 的 CSAI Match 影片雜湊工具或 Microsoft 的 PhotoDNA，這兩項解決方案可因應不同的需求。
Content Safety API
用於將先前未見過的圖片和影片分類
運作方式
1. 擷取檔案
合作夥伴以多種形式擷取檔案，例如由使用者提出檢舉或者由檢索器或篩選器辨識。這些檢索器和篩選器由合作夥伴自行建立，用於審核自家平台上的內容。
夥伴
使用者檢舉的圖片或影片
檢索器
預先篩選器
(色情內容/其他分類器)
2. API 審查
接著，只要呼叫 API，媒體檔案便會傳送至 Content Safety API，讓分類器判定檔案的審查優先順序，然後將各項內容的優先順序值傳回給合作夥伴。
Content Safety API
分類器技術
3. 人工審查
合作夥伴根據優先順序值，先行處理需要盡早進行人工審查的檔案。
夥伴
人工審查
4. 採取行動
圖片和影片檔案經過人工審查後，合作夥伴可以接著根據當地法律和法規對該內容採取行動。
夥伴
依法採取行動
有興趣使用我們的工具包嗎？
如要登記意願，請提供一些關於貴機構的詳細資料
查看意願調查表
CSAI Match
用於與已知不當影片片段比對
CSAI Match 是 YouTube 的獨家技術，用於防堵含有兒少性虐待圖像的線上影片。這項業界首創技術採用雜湊比對的方法辨識確定違規的內容，協助我們從大量的未違規影片中找出這類違規項目。如果系統在比對時找到這類違規內容，就會回報給合作夥伴，再由合作夥伴進行審查及確認，並負責依據當地法律和法規提出檢舉。YouTube 為業界和非政府組織提供 CSAI Match 技術，我們則提供指紋辨識軟體和 API，可用於將影片與已知不當內容的資料庫比對。
線上平台可使用 CSAI Match，將平台上的內容與規模首屈一指的已知兒少性虐待圖像內容索引互相比較，避免有人在自家網站上張貼及散播違規內容。合作夥伴可輕鬆將 CSAI Match 整合至自己的系統，以便進一步處理棘手的內容。
CSAI Match
用於與已知不當影片片段比對
運作方式
1. 建立影片的指紋檔案
影片上傳至合作夥伴平台後，在該平台上運作的 CSAI Match 指紋建立器會建立影片的指紋檔案，也就是影片檔案內容的專屬數位 ID。
夥伴
影片檔案
指紋建立器
建立指紋檔案
2. API 審查
合作夥伴透過 CSAI Match API 傳送指紋檔案，與 YouTube 指紋存放區中的其他檔案比對。這個存放區包含 YouTube 和 Google 偵測到的已知不當內容指紋。
YouTube
CSAI Match API
CSAI Match 技術
共用兒少性虐待圖像
指紋存放區
3. 人工審查
API 呼叫完畢後，比對結果 (相符或不相符) 會傳回給合作夥伴，他們可根據這項資訊進行人工審查，確認影片是否含有兒少性虐待圖像。
夥伴
人工審查
4. 採取行動
圖片審查完畢後，合作夥伴可根據當地法律和法規對內容採取行動。
夥伴
依法採取行動
有興趣使用我們的工具包嗎？
如要登記意願，請提供一些關於貴機構的詳細資料
查看意願調查表
有興趣使用我們的工具包嗎？
如要登記意願，請提供一些關於貴機構的詳細資料
查看意願調查表真實評價
「Google 的雜湊比對解決方案徹底改變了我們的工作流程，不但加快了作業速度，成效也更好。在 Google 的大力協助下，美國國家失蹤及被剝削兒童保護中心得以將審查程序自動化，而不必人工審查先前通報過的兒少性虐待內容，進而減少我們員工接觸到這類內容的時間。只要有人轉貼這些相片，孩子就會再次受到傷害，因此我們必須盡快將這些相片下架。這也可讓我們將心力放在之前未注意到的兒童受害者/倖存者身上。」- 美國國家失蹤與受虐兒童援助中心
「我們的平台管理著數億份使用者上傳的文件，採用 Google 的 Content Safety API 讓我們獲益良多，這個 API 可以有效率地掃描大量圖片，找出可能令人反感的內容，協助為使用者營造安全的數位環境。它的處理量高和準確率也高，讓我們可將心力投注於審查、人工介入和支援工作。」- Scribd, Inc.
「因為使用 Google 的兒童安全工具，我們可以檢驗現有安全措施的有效性。我們還注意到，Nextdoor 上關於兒少性虐待內容的事件數屢創歷史新低，始終保持在個位數。」- Nextdoor
「Substack 持續改進影片功能，在此過程中確保社群安全，尤其是保護未成年人，是我們在信任與安全方面的首要之務。面對這些重大安全挑戰，進階兒少性虐待圖像 (CSAI) 偵測技術非常有幫助。使用 Google 的工具，讓我們能迅速又精準地識別和移除有害內容，確保我們的平台始終為創作者和讀者提供安全的空間。」- Substack
「CSAI Match 依然是 Adobe 推行兒童安全計畫的重要幫手。事實證明這項技術非常有效，可以幫助提升大規模偵測兒少性虐待影片的效率。」- Adobe
「為了打擊更加猖獗的兒少性虐待影片，我們必須克服新挑戰並採用新技術。CSAI Match 經證實能夠幫助解決問題，讓我們可更有效地偵測及移除 Yahoo 平台上的兒少性虐待影片。」- Yahoo!
「Content Safety API 可協助分析人員優先找出呈現未成年人性虐待行為的圖片。由於待處理的通報案量與日俱增，分析人員難以順利優先審查這類內容。有了這項技術，分析人員就能更快看到通報未成年人性虐待內容的案件，更迅速採取行動來保護受害者及移除內容。」- Point de Contact
「Content Safety API 容易整合、回應快速、穩定又準確，不但大幅減少內容分析人員審查兒少性虐待圖片的時間、改善分析流程，還有助於改善分析人員的身心健康。」- SaferNet Brasil
常見問題
Content Safety API
傳送至 Content Safety API 的資料是什麼格式？
我們支援原始內容位元組，以及媒體檔案中的嵌入資料選項。聯絡我們以瞭解詳情。
誰可以申請使用相關技術和 Content Safety API？
只要是想避免自家平台出現不當內容的業界和民間第三方機構，都可申請使用 Content Safety API。所有申請均須經過核准。
為什麼 Google 要大力推廣這些工具？
Google 相信與其他公司和非政府組織攜手合作，才是解決線上兒少剝削內容問題的最佳做法。我們長期與業界夥伴和非政府組織合作，協助開發以資料為導向的新工具、提升技術能力，以及共同呼籲社會大眾重視此議題。我們認為大力推廣這些工具，讓合作夥伴能夠利用 AI 技術更有效率地大規模審查內容，是能否打贏這場戰役的重要關鍵。
CSAI Match
CSAI Match 是否可用於辨識圖片內容？
CSAI Match 是專為辨識影片內容而設計的技術。如要辨識圖片，業界和非政府組織合作夥伴可使用 Google 的 Content Safety API 系列工具，透過機器學習技術將圖片分類。瞭解詳情。
找到相符內容時會傳回哪些資訊？
找到相符內容時，系統會指出影片的哪個部分與已知的兒少性虐待圖像相符，並以標準化分類法將相符的內容歸類。
為什麼 CSAI Match 技術如此有效率？
CSAI Match 會偵測與已知的兒少性虐待圖像內容幾乎相同的部分。包括完全相同的項目 (經 MD5 雜湊比對後找出) 和不完全相同的項目 (例如經過重新編碼、模糊處理、不完整或縮放的兒少性虐待圖像影片)。即使影片可能在非兒少性虐待圖像內容中參雜了一小部分兒少性虐待圖像，這項技術也能找出來。合作夥伴必須執行指紋二進位檔以產生影片的「指紋」(近似於 MD5 雜湊的位元組序列)。接著，系統會將指紋傳送至 Google 的 CSAI Match，透過這項服務有效率地掃描影片內容，並與 YouTube 的已知兒少性虐待圖像參考資料庫比對。