我們投注大量心力打擊線上兒少性剝削和剝削內容,並運用我們的獨家技術防堵、偵測、移除及通報平台上的違規內容。

我們與非政府組織和業界團體攜手合作,透過多項計畫分享我們在技術方面的專業知識,同時也開發及提供相關工具,協助機構組織打擊兒少性剝削內容。

歡迎前往這個網頁進一步瞭解我們的兒童安全工具包。

Google 的平台和服務致力打擊兒少性剝削內容

自成立以來,Google 就致力於打擊旗下平台上的兒少性剝削和剝削內容。我們投注大量資源 (包括技術、人力和時間),目的就是要防堵、偵測、移除及通報兒少性剝削內容和行為。

我們採取的行動

防範濫用行為

防範濫用行為


我們希望確保兒童能夠安全使用 Google 產品,避免發生濫用行為。此外,我們還透過所有可用的深入分析資訊與研究結果,瞭解日新月異的威脅和新的違規行為。我們鎖定的目標不僅限於非法兒少性剝削內容;凡是旨在鼓吹兒少性剝削行為,並可能讓兒童身陷險境中的內容,我們也會採取行動。

偵測及通報

偵測及通報


為了找出及通報兒少性剝削內容,我們設有受過訓練的專家團隊,並採用各種先進技術,包括機器學習分類器和雜湊比對技術,後者會為圖片或影片建立「雜湊」(專屬的數位指紋),以便與已確認為兒少性剝削內容的雜湊進行比較。一旦發現兒少性剝削內容,我們就會通報給美國國家失蹤及被剝削兒童保護中心 (National Center for Missing and Exploited Children,NCMEC),再由該機構與世界各地的執法機關聯絡。

與世界各地的機構組織攜手合作

與世界各地的機構組織攜手合作


我們與 NCMEC 和世界各地的其他機構攜手合作,共同打擊線上兒少性剝削內容。為此,我們與非政府組織和業界聯盟密切合作,協助彼此進一步瞭解不斷變化的兒少性剝削和剝削行為。

我們實際採取的做法

打擊 Google 搜尋上的兒少性剝削內容

打擊 Google 搜尋上的兒少性剝削內容


Google 搜尋可讓使用者輕鬆尋找所需資訊,但我們從不希望這項服務出現非法內容或兒少性剝削內容。因此,我們訂立了相關政策:如果搜尋結果會導向兒少性剝削圖像,或是意圖對兒童進行性迫害、危害或剝削的內容,我們一律會予以封鎖。此外,為了打擊日新月異的威脅,我們也不斷更新自家演算法。

當有人試圖搜尋兒少性剝削內容時,我們也有額外的防護措施。如果搜尋查詢要尋找兒少性剝削內容,我們會濾除包含煽情露骨內容的結果;假如搜尋查詢要尋找成人煽情露骨內容,Google 搜尋不會傳回含有兒童的圖像,避免讓兒童與色情內容產生關聯。在許多國家/地區,使用者輸入與兒少性剝削內容明確相關的搜尋查詢後,畫面上會顯示一則醒目的警告,指出兒少性剝削圖像為非法內容,並說明如何向英國網路觀察基金會 (Internet Watch Foundation)、加拿大兒童保護中心 (Centre for Child Protection) 以及哥倫比亞 Te Protejo 等值得信任的機構檢舉這類內容。看到這些警告後,使用者繼續尋找這類內容的可能性就會降低。

YouTube 如何打擊涉及剝削行為的影片和內容

YouTube 如何打擊涉及剝削行為的影片和內容


一直以來,我們都設有明確的政策規定,避免 YouTube 上出現兒童性慾化或剝削兒童的影片、播放清單、縮圖和留言。我們會利用機器學習系統主動偵測違反政策規定的內容,並由世界各地的人工審查員快速移除系統偵測到的違規項目,或是使用者和認證檢舉人回報的違規內容。

某些含有未成年人的內容或許並未違反 Google 政策,但我們知道那些未成年人可能會在網路上或現實世界中受到剝削。因此,我們在實行這些政策時格外謹慎小心。我們的機器學習系統會主動找出可能讓未成年人身陷險境中的影片,並大規模套用相關保護措施,例如限制直播功能、停用留言功能以及限制影片建議。

我們的兒少性剝削內容資訊公開報告

我們的兒少性剝削內容資訊公開報告


我們在 2021 年發布一份資訊公開報告,說明 Google 如何致力打擊線上兒少性剝削內容,包括我們向 NCMEC 通報的次數。這份報告還提供相關資料,詳述 YouTube 採取的措施、我們如何偵測及移除含有兒少性剝削內容的 Google 搜尋結果,以及因為在 Google 服務中違反兒少性剝削內容規定而遭停用的帳戶數量。

此外,這份資訊公開報告也說明了我們提供給 NCMEC 的兒少性剝削內容雜湊數量。這些雜湊可協助其他平台大規模找出兒少性剝削內容。為 NCMEC 雜湊資料庫貢獻一己之力,是我們和業界其他機構打擊兒少性剝削內容的重要方式之一,因為這可減少這類內容的散播情形,同時避免受虐兒童受到牽連並再次受害。

檢舉 Google 產品中的不當行為

檢舉 Google 產品中的不當行為


我們希望保護 Google 產品的兒童使用者,避免他們遭受性誘拐、性勒索、販運或其他形式的性剝削。為確保兒童能夠安全使用 Google 產品,我們提供了實用資訊,協助使用者向相關主管機關檢舉兒少性剝削內容。

如果使用者懷疑某位兒童在 Gmail 或 Hangouts 等 Google 產品中受到危害,可以填寫相關表單提出檢舉。使用者可以檢舉 YouTube 上的不當內容,也能透過說明中心或直接在產品中檢舉 Google Meet 濫用行為。此外,我們還說明了如何因應霸凌和騷擾方面的問題,包括如何禁止使用者與某位兒童聯絡。想進一步瞭解我們的兒童安全政策,請參閱《YouTube 社群規範》及前往 Google 安全中心。

開發提供相關工具,共同打擊兒少性剝削內容

Google 運用自家的專業知識和創新技術保護兒童,並協助其他機構一起為兒童安全盡一份心力。我們為符合資格的機構提供無須支付費用的先進技術,讓他們以效率更高、速度更快且更安全的方式維持營運,同時鼓勵有意願的機構申請使用我們的兒童安全工具。

Content Safety API

Google 多年來不斷改進機器學習分類器,以便主動辨識從未見過的兒少性剝削圖像並進行審查。如果確認為兒少性剝削內容,我們就會盡快移除並通報。Content Safety API 採用了這項技術,可協助機構將內容分類,並優先審查潛在的不當內容。在 2021 上半年,合作夥伴使用 Content Safety API 將超過 60 億張圖片分類,藉此更快速精準地找出有問題的內容,以便向主管機關通報。

CSAI Match

2014 年,YouTube 工程師開發並採用了一項技術,以便將含有已確認為兒少性剝削內容的影片加上標記,並從我們的服務中移除。我們透過 CSAI Match API 提供這項技術,幫助其他機構辨識自家平台上是否有人重新上傳含有已確認為兒少性剝削內容的影片。許多非政府組織和公司皆使用 CSAI Match,將自家平台上的內容與我們的已確認為不當內容的資料庫進行比對,以便在找到相符項目時負責根據當地法律和法規採取行動。

聯盟和計畫

我們積極參與數個聯盟,例如技術聯盟 (Technology Coalition)、ICT 聯盟 (ICT Coalition)、WeProtect 全球聯盟 (WeProtect Global Alliance)、INHOPE 和公平遊戲聯盟 (Fair Play Alliance)。這些聯盟旨在集結各個公司和非政府組織共同發展解決方案,藉此遏止線上兒少性剝削內容交流行為,以及防範兒少性剝削行為。

我們與其他成員一起為兒童安全研究計畫提供資金,並分享相關工具及知識,例如我們在資訊公開報告、產品內偵測技術和營運程序方面的深入分析結果。

我們的合作夥伴

透過 Google.org 提供 Grants 廣告計畫

透過 Google.org 提供 Grants 廣告計畫


Google.org 為致力打擊兒少性剝削和剝削行為的機構提供補助,例如 INHOPE 和 ECPAT International。此外,自 2003 年起,Google.org 已為設置兒少性剝削檢舉熱線的非政府組織和慈善機構提供約 $9,000 萬美元的免費廣告預算,協助他們觸及迫切需要協助的人。

Google Fellow 計畫

Google Fellow 計畫


我們為 NCMEC 和 Thorn 等致力打擊兒少性剝削行為的機構提供技術贊助金,協助推動相關計畫。此外,Google 還透過兒童受暴研討會 (Crimes Against Children Conference) 和兒童剝削行為全國執法人員訓練 (National Law Enforcement Training on Child Exploitation) 等論壇,為調查線上兒少犯罪行為的執法人員提供訓練。