優先處理

優先處理


這些 API 優先處理需人工審查的虐待內容,幫助打擊網上兒童剝削行為。

快速識別

更快識別內容


加快識別內容,就有更大機會識別受害人,並保護他們免受進一步虐待。

營運更安全

營運更安全


這項工具不但能提升審查效率並減低審查難度,更可以降低由內容管理員進行人工審查的成本。

瞭解我們的工具

我們的工具提供多種輔助功能,可以因應不同需要合併使用或配合其他解決方案使用。

Content Safety API

Content Safety API

對以往從未出現的圖像進行分類。

CSAI Match

CSAI Match

比對已知虐待影片細項資料

Content Safety API

用於:對以往從未出現的圖像進行分類


Content Safety API 分類器利用程式設計存取和人工智能來幫助分類並優先處理數以十億計需要審查的圖像。分類器計算出的優先次序越高,即代表圖像包含虐待內容的機會越大,這樣合作夥伴就可以先對這些內容進行人工審查並決定處理方式。Content Safety API 會就收到的內容提供優先次序建議。合作夥伴必須自行進行審查,以決定是否應對內容採取行動。

在操作上,我們建議機構在進行人工審查程序前使用 Content Safety API協助分類和決定優先處理次序,以便更有效地整理審查程序。Content Safety API 也可與其他解決方案配合使用,例如 YouTube 的 CSAI Match 影片雜湊工具或 Microsoft 的 PhotoDNA,從而應付不同需要。

運作方式

擷取圖像

1. 擷取圖像

合作夥伴以不同方式擷取圖像,例如透過使用者舉報,又或者透過合作夥伴就監察平台圖像而製作的檢索器或篩選器來識別圖像。

合作夥伴

使用者報告圖像

檢索器

預先篩選器

(色情內容/其他分類器)

API 審查

2. API 審查

圖像檔案會透過簡單的 API 調用傳送至 Content Safety API,再經由分類器判斷審查的優先次序。每幅圖像的優先處理值會傳回至合作夥伴。

Google

Content Safety API

分類器技術

人工審查

3. 人工審查

合作夥伴利用優先處理值來優先處理最急需人工審查的圖像。

合作夥伴

人工審查

採取行動

4. 採取行動

在進行人工審查後,合作夥伴就可以根據本地法律及規例對內容採取相應行動。

合作夥伴

採取相應行動

CSAI Match

用於:比對已知虐待影片細項資料


CSAI Match 是 YouTube 用以打擊網上兒童性虐待圖像 (CSAI) 的專有技術。這項技術率先採用雜湊配對的方法來識別已知的違規內容,協助我們從大量非違規影片中找出這類違規的內容。當系統透過比對雜湊找出違規內容之後,就會加上標記,再交由合作夥伴審查和確認,並負責根據當地法律及規例進行舉報。YouTube 以指紋編碼軟件和 API 向業界和非政府機構提供 CSAI Match,以便透過比對我們的已知虐待內容資料庫來識別違規內容。

網上平台可以利用 CASI Match 來比對自己的內容和其中一個最大規模的已知兒童性虐待圖像 (CSAI) 內容索引,以免自己的網站展示和分享違規內容。合作夥伴可以簡單地把 CSAI Match 整合至自己的系統,方便大規模地管理具挑戰性的內容。

運作方式

影片指紋編碼

1. 影片指紋編碼

當影片上載至合作夥伴的平台時,平台運行的 CSAI Match 指紋編碼器便會為影片製作指紋檔案一組獨一無二代表影片檔案內容的數碼 ID。

合作夥伴

影片檔案

指紋編碼器

指紋編碼器檔案

API 審查

2. API 審查

合作夥伴利用 CSAI Match API 來傳送指紋檔案,然後與 YouTube 指紋存放區中的其他檔案進行比對。存放區包含 YouTube 和 Google 偵測到已知虐待內容的指紋。

YouTube

CSAI Match API

CSAI Match 技術

共用兒童性虐待圖像 (CSAI)

指紋編碼存放區

人工審查

3. 人工審查

完成 API 調用後,便會向合作夥伴傳送觸發或排除配對資料。合作夥伴便可以根據配對資料來進行人工審查,確定內容是否兒童性虐待圖像 (CSAI)。

合作夥伴

人工審查

採取行動

4. 採取行動

在審查圖像後,合作夥伴便可根據本地法律及規例對內容採取合適行動。

合作夥伴

採取相應行動

Content Safety API

用於:對以往從未出現的圖像進行分類

Content Safety API 分類器利用程式設計存取和人工智能來幫助分類並優先處理數以十億計需要審查的圖像。分類器計算出的優先次序越高,即代表圖像包含虐待內容的機會越大,這樣合作夥伴就可以先對這些內容進行人工審查並決定處理方式。Content Safety API 會就收到的內容提供優先次序建議。合作夥伴必須自行進行審查,以決定是否應對內容採取行動。

在操作上,我們建議機構在進行人工審查程序前使用 Content Safety API協助分類和決定優先處理次序,以便更有效地整理審查程序。Content Safety API 也可與其他解決方案配合使用,例如 YouTube 的 CSAI Match 影片雜湊工具或 Microsoft 的 PhotoDNA,從而應付不同需要。

CSAI Match

用於:比對已知虐待影片細項資料

CSAI Match 是 YouTube 用以打擊網上兒童性虐待圖像 (CSAI) 的專有技術。這項技術率先採用雜湊配對的方法來識別已知的違規內容,協助我們從大量非違規影片中找出這類違規的內容。當系統透過比對雜湊找出違規內容之後,就會加上標記,再交由合作夥伴審查和確認,並負責根據當地法律及規例進行舉報。YouTube 以指紋編碼軟件和 API 向業界和非政府機構提供 CSAI Match,以便透過比對我們的已知虐待內容資料庫來識別違規內容。

網上平台可以利用 CASI Match 來比對自己的內容和其中一個最大規模的已知兒童性虐待圖像 (CSAI) 內容索引,以免自己的網站展示和分享違規內容。合作夥伴可以簡單地把 CSAI Match 整合至自己的系統,方便大規模地管理具挑戰性的內容。

兒童安全工具包意願表

有興趣使用我們的工具包?

提供您的機構的簡單資料以註冊使用

查看意願表

客戶推薦

常見問題

Content Safety API

Content Safety API 是否亦適用於影片?

Content Safety API 專為圖像而設,但透過 YouTube 的 CSAI Match 技術,各機構可使用指紋編碼軟件和 API 與我們的已知不當影片內容資料庫比對,找出符合的項目。瞭解詳情

誰可以註冊使用相關技術和 Content Safety API?

致力打擊平台上虐待內容的業界和第三方公民社會組織可以註冊使用 Content Safety API。申請需經過核准。

為什麼 Google 要致力推廣這些工具?

我們相信.......與其他公司和非政府機構合作,才是解決網上兒童剝削問題的最佳方法。我們長期與各行各業和非政府機構合作,協助開發新的資料驅動型工具、提升技術能力,以及提高社會大眾對 CSAM 問題的關注。我們相信如果能讓更多機構使用這些工具,合作夥伴就能利用 AI 大規模地審查內容,這是打擊行動的重要一環。

CSAI Match

CSAI Match 是否亦適用於圖像?

CSAI Match 專為影片而設,但透過 Google 的 Content Safety API,業界和非政府機構合作夥伴均可使用一系列採用機器學習技術的圖像分類工具。瞭解詳情

偵測到吻合的項目會提供什麼資料?

配對可以識別影片內哪些內容包含已知的兒童性虐待圖像 (CSAI),同時可以為吻合的內容類型進行標準分類。

為什麼 CSAI Match 技術更有效率?

CSAI Match 可以偵測到已知兒童性虐待圖像 (CSAI) 內容中接近重複的細項資料。這包括 MD5 雜湊配對可識別到的完全重複資料,以及可能經過再編碼、編碼隱匿、刪節或對兒童性虐待圖像 (CSAI) 影片進行比例調整的接近重複內容,即使影片只在非兒童性虐待圖像 (CSAI) 內容中混合了少量兒童性虐待圖像 (CSAI),此工具亦能夠成功偵測。合作夥伴會進行二進制指紋編碼,並為影片製作「指紋」,即一組與 MD5 雜湊相似的字節序列。然後,這些資料會傳送至 Google 的 CSAI Match 服務,這項技術的特別設計可提高掃瞄影片比對 YouTube 已知兒童性虐待圖像 (CSAI) 參考語言資料時的效率。