探索我們的兒童安全工具包
優先處理
這些 API 優先處理需人工審查的虐待內容，幫助打擊網上兒童剝削行為。
更快識別內容
加快識別內容，就有更大機會識別受害人，並保護他們免受進一步虐待。
營運更安全
這項工具不但能提升審查效率並減低審查難度，更可以降低由內容管理員進行人工審查的成本。
瞭解我們的工具
我們的工具提供多種輔助功能，可以因應不同需要合併使用或配合其他解決方案使用。
Content Safety API
對以往從未出現的圖像和影片進行分類
CSAI Match
比對已知虐待影片的片段
Content Safety API
用於：對以往從未出現的圖像和影片進行分類
Content Safety API 分類器利用程式化存取和人工智能，協助合作夥伴為數十億個需要審查的圖像和影片分類，並找出需優先處理的項目。分類器計算出的優先次序越高，即代表媒體檔案包含虐待內容的機會越大，這樣合作夥伴就可以優先對這些內容進行人手審查並決定處理方式。Content Safety API 會就收到的內容提供優先次序建議。合作夥伴必須自行作出審查，以決定是否對該內容採取行動。
在操作上，我們建議機構在進行人手審查前使用 Content Safety API，以協助分類和決定優先處理次序，並更有效地安排審查程序。Content Safety API 也可與其他解決方案配合使用，例如 YouTube 的 CSAI Match 影片雜湊工具或 Microsoft 的 PhotoDNA，從而應付不同需要。
運作方式
1. 擷取檔案
合作夥伴以不同方式擷取檔案，例如透過使用者舉報，又或者透過合作夥伴就監察平台圖像而製作的檢索器或篩選器來識別檔案。
合作夥伴
使用者舉報的圖像或影片
檢索器
預先篩選器
(色情內容/其他分類器)
2. API 審查
媒體檔案會透過簡單的 API 調用傳送至 Content Safety API，再經由分類器判斷審查的優先次序。每項內容的優先處理值會傳回至合作夥伴。
Content Safety API
分類器技術
3. 人手審查
合作夥伴利用優先處理值找出最急需人手審查的圖像優先處理。
合作夥伴
人手審查
4. 採取行動
對圖像和影片進行人手審查後，合作夥伴就可以根據本地法律及規例對內容採取相應行動。
合作夥伴
採取相應行動
CSAI Match
用於：比對已知虐待影片的片段
CSAI Match 是 YouTube 用以打擊網上兒童性虐待圖像 (CSAI) 的專有技術。這項技術率先採用雜湊配對的方法來識別已知的違規內容，協助我們從大量非違規影片中找出這類違規的內容。當系統透過比對雜湊找出違規內容之後，就會加上標記，再交由合作夥伴審查和確認，並負責根據當地法律及規例進行舉報。YouTube 以指紋編碼軟件和 API 向業界和非政府機構提供 CSAI Match，以便透過比對我們的已知虐待內容資料庫來識別違規內容。
網上平台可以利用 CASI Match 將自己的內容與其中一個最大規模的已知兒童性虐待圖像 (CSAI) 內容索引進行比對，以免自己的網站展示和分享違規內容。合作夥伴可以簡單地把 CSAI Match 整合至自己的系統，方便大規模地管理具挑戰性的內容。
運作方式
1. 影片指紋編碼
當影片上載至合作夥伴的平台時，平台運行的 CSAI Match 指紋編碼器便會為影片製作指紋檔案，亦即一組代表影片檔案內容的不重複數碼 ID。
合作夥伴
影片檔案
指紋編碼器
指紋編碼器檔案
2. API 審查
合作夥伴利用 CSAI Match API 來傳送指紋檔案，然後與 YouTube 指紋存放區中的其他檔案進行比對。存放區包含 YouTube 和 Google 偵測到已知虐待內容的指紋。
YouTube
CSAI Match API
CSAI Match 技術
共用兒童性虐待圖像 (CSAI)
指紋編碼存放區
3. 人手審查
完成 API 調用後，便會向合作夥伴傳送匹配或不匹配的配對結果。合作夥伴便可以根據配對結果來安排人手審查，確定內容是否兒童性虐待圖像 (CSAI)。
合作夥伴
人手審查
4. 採取行動
在審查圖像後，合作夥伴便可根據本地法律及規例對內容採取合適行動。
合作夥伴
採取相應行動
Content Safety API
用於：對以往從未出現的圖像和影片進行分類
Content Safety API 分類器利用程式化存取和人工智能，協助合作夥伴為數十億個需要審查的圖像和影片分類，並找出需優先處理的項目。分類器計算出的優先次序越高，即代表媒體檔案包含虐待內容的機會越大，這樣合作夥伴就可以優先對這些內容進行人手審查並決定處理方式。Content Safety API 會就收到的內容提供優先次序建議。合作夥伴必須自行作出審查，以決定是否對該內容採取行動。
在操作上，我們建議機構在進行人手審查前使用 Content Safety API，以協助分類和決定優先處理次序，並更有效地安排審查程序。Content Safety API 也可與其他解決方案配合使用，例如 YouTube 的 CSAI Match 影片雜湊工具或 Microsoft 的 PhotoDNA，從而應付不同需要。
Content Safety API
用於：對以往從未出現的圖像和影片進行分類
運作方式
1. 擷取檔案
合作夥伴以不同方式擷取檔案，例如透過使用者舉報，又或者透過合作夥伴就監察平台圖像而製作的檢索器或篩選器來識別檔案。
合作夥伴
使用者舉報的圖像或影片
檢索器
預先篩選器
(色情內容/其他分類器)
2. API 審查
媒體檔案會透過簡單的 API 調用傳送至 Content Safety API，再經由分類器判斷審查的優先次序。每項內容的優先處理值會傳回至合作夥伴。
Content Safety API
分類器技術
3. 人手審查
合作夥伴利用優先處理值找出最急需人手審查的圖像優先處理。
合作夥伴
人手審查
4. 採取行動
對圖像和影片進行人手審查後，合作夥伴就可以根據本地法律及規例對內容採取相應行動。
合作夥伴
採取相應行動
有興趣使用我們的工具包？
提供你機構的簡單資料以註冊使用
查看意願表
CSAI Match
用於：比對已知虐待影片的片段
CSAI Match 是 YouTube 用以打擊網上兒童性虐待圖像 (CSAI) 的專有技術。這項技術率先採用雜湊配對的方法來識別已知的違規內容，協助我們從大量非違規影片中找出這類違規的內容。當系統透過比對雜湊找出違規內容之後，就會加上標記，再交由合作夥伴審查和確認，並負責根據當地法律及規例進行舉報。YouTube 以指紋編碼軟件和 API 向業界和非政府機構提供 CSAI Match，以便透過比對我們的已知虐待內容資料庫來識別違規內容。
網上平台可以利用 CASI Match 將自己的內容與其中一個最大規模的已知兒童性虐待圖像 (CSAI) 內容索引進行比對，以免自己的網站展示和分享違規內容。合作夥伴可以簡單地把 CSAI Match 整合至自己的系統，方便大規模地管理具挑戰性的內容。
CSAI Match
用於：比對已知虐待影片的片段
運作方式
1. 影片指紋編碼
當影片上載至合作夥伴的平台時，平台運行的 CSAI Match 指紋編碼器便會為影片製作指紋檔案，亦即一組代表影片檔案內容的不重複數碼 ID。
合作夥伴
影片檔案
指紋編碼器
指紋編碼器檔案
2. API 審查
合作夥伴利用 CSAI Match API 來傳送指紋檔案，然後與 YouTube 指紋存放區中的其他檔案進行比對。存放區包含 YouTube 和 Google 偵測到已知虐待內容的指紋。
YouTube
CSAI Match API
CSAI Match 技術
共用兒童性虐待圖像 (CSAI)
指紋編碼存放區
3. 人手審查
完成 API 調用後，便會向合作夥伴傳送匹配或不匹配的配對結果。合作夥伴便可以根據配對結果來安排人手審查，確定內容是否兒童性虐待圖像 (CSAI)。
合作夥伴
人手審查
4. 採取行動
在審查圖像後，合作夥伴便可根據本地法律及規例對內容採取合適行動。
合作夥伴
採取相應行動
有興趣使用我們的工具包？
提供你機構的簡單資料以註冊使用
查看意願表
有興趣使用我們的工具包？
提供你機構的簡單資料以註冊使用
查看意願表客戶推薦
「Google 的雜湊配對解決方案革新了我們的工作流程，讓我們更快捷地取得更佳成效。全賴 Google 向美國國家失蹤及被剝削兒童中心 (NCMEC) 的大力幫助，透過自動化流程減少以人手審查接獲舉報的兒童性虐待內容，將員工接觸內容的機會減至最低。我們必須盡快移除這些圖像，因為每次兒童的相片被再次分享，他們便會又一次受到傷害。過程自動化之後，我們就能集中心力，為新受害和之前未知的受害兒童和倖存者提供服務。」 - 美國國家失蹤及被剝削兒童中心
「我們的平台寄存了數以億計由使用者上載的文件，而執行 Google 的 Content Safety API 對我們有莫大幫助。這個 API 可以有效率地掃瞄大量圖像，偵測是否有任何可能令人反感的內容，幫助確保使用者有一個安全的數碼環境。因為這個 API 有極高的吞吐量和準確性，讓我們可以專注於審查、介入和提供支援。」 - Scribd, Inc.
「Google 的兒童安全工具讓我們可以驗證目前採用的安全措施是否有效，而我們見到 Nextdoor 上出現的兒童性虐待內容只屬零星事件，而且數字持續創新低。」 - Nextdoor
「隨著 Substack 持續擴展影片能力，確保社群安全是『信任與安全』方面的首要工作，其中我們特別著重保護未成年人。面對這些重大的安全挑戰，採取先進的兒童性虐待圖像 (CSAI) 偵測技術至關重要。Google 的工具讓我們可以迅速而準確地識別和移除有害內容，確保平台可為創作者和觀眾帶來安全的空間。」 - Substack
「CSAI Match 一直是 Adobe 兒童安全計劃的中流柢柱，這種技術提供有效的方法，協助我們大規模地偵測兒童性虐待影片，效率有目共睹。」 - Adobe
「打擊日益增加的兒童性虐待內容影片是一項新挑戰，必須採用新技術來應付。CSAI Match 讓我們更有效地偵測平台上的兒童性虐待內容影片，然後快速移除，是實際地打擊問題的重要工具。」 - Yahoo!
「Content Safety API 幫助負責識別包含未成年人性虐待內容的分析人員優先處理有問題的圖像。由於需處理的舉報數量與日俱增，如何有效率地優先審查舉報是一項真正挑戰。這項技術讓分析人員能更快速查看包含未成年人性虐待內容的舉報，從而更迅速地採取保護受害人的行動並移除內容。」 - Point de Contact
「Content Safety API 容易整合、回應迅速，同時穩定而準確，大幅減少了內容分析人員審查兒童性虐待圖像的時間，同時可優化分析程序，內容分析人員本身亦可得益。」 - Safernet Brasil
常見問題
Content Safety API
傳送至 Content Safety API 的資料需要使用什麼格式？
我們提供各種選項，同時支援原始內容字節和來自媒體檔案的嵌入資料。聯絡我們以瞭解詳情。
誰可以註冊使用相關技術和 Content Safety API？
致力打擊平台上虐待內容的業界和公民社會第三方可以註冊使用 Content Safety API。申請需經過核准。
為什麼 Google 要致力推廣這些工具？
我們相信，與其他公司和非政府機構合作，才是解決網上兒童剝削問題的最佳方法。我們長期與各行各業和非政府機構合作，協助開發新的資料驅動型工具、提升技術能力，以及提高社會大眾對兒童性虐待問題的關注。我們相信如果能讓更多機構使用這些工具，合作夥伴就能利用 AI 大規模地審查內容，這是打擊行動的致勝關鍵。
CSAI Match
CSAI Match 是否亦適用於圖像？
CSAI Match 專為影片而設，但透過 Google 的 Content Safety API，業界和非政府機構合作夥伴均可使用一系列採用機器學習技術的圖像分類工具。瞭解詳情。
偵測到吻合的項目時會回傳什麼資料？
配對功能可以識別影片內哪些內容包含已知的兒童性虐待圖像 (CSAI)，同時可以為吻合的內容類型進行標準分類。
為什麼 CSAI Match 技術更有效率？
CSAI Match 可以偵測到已知兒童性虐待圖像 (CSAI) 內容中接近重複的細項資料。這包括 MD5 雜湊配對可識別到的完全重複資料，以及可能經過再編碼、編碼隱匿、刪節或對兒童性虐待圖像影片進行比例調整的接近重複內容，即使影片只在非兒童性虐待圖像內容中混合了少量兒童性虐待圖像，此工具亦能夠成功偵測。合作夥伴會進行二進制指紋編碼，並為影片製作「指紋」，即一組與 MD5 雜湊相似的字節序列。然後，這些資料會傳送至 Google 的 CSAI Match 服務，這項技術的特別設計可於掃瞄影片比對 YouTube 已知兒童性虐待圖像參考檔案時提高效率。