打擊網上兒童性虐待
我們投放大量資源打擊網上兒童性虐待和剝削行為,並運用專有的技術來偵測、移除和報告平台上的違規內容。
我們與非政府機構及業界合作,透過各種計劃分享我們的技術專業知識,同時開發和分享幫助機構打擊兒童性虐待內容的工具。
進一步瞭解我們的 兒童安全工具包。
打撃旗下平台和服務中的虐待內容
我們進行了什麼打擊工作?
-
防止虐待行為
我們致力確保產品安全並適合兒童使用,防止出現虐待行為。我們也會透過現有的所有分析資料和研究,掌握層出不窮的威脅和新犯罪手法,例如 AI 生成的兒童性虐待內容。我們採取的行動不只針對非法兒童性虐待內容,同時包含其他鼓勵兒童性虐待和令兒童面對風險的內容。 -
偵測及舉報
我們由受過培訓的專家團隊配合頂尖技術來偵測及舉報兒童性虐待內容,包括使用機器學習分類器及雜湊配對技術,為圖像或影片製作「雜湊」或獨特的數碼指紋,以便與已知兒童性虐待內容的雜湊進行比對。一旦發現兒童性虐待內容,我們便會向美國國家失蹤及被剝削兒童中心(NCMEC) 舉報,然後與全球各地的執法機構協商。 -
全球協作
我們與 NCMEC 及全球其他機構合作,致力打擊網上兒童性虐待行為。我們與多個非政府機構和業界聯盟緊密合作,透過提供資訊幫助瞭解層出不窮的兒童性虐待及剝削行為。
我們怎樣打擊兒童性虐待內容?
我們運用多種不同的科技與人力資源,對兒童性虐待內容、誘識兒童、性勒索和其他違規內容採取行動。你可以閱讀有關我們各種措施的概要說明,又或者在下方深入瞭解我們的部分產品如何處理這類虐待內容。
-
打擊「搜尋」上的兒童性虐待內容
「Google 搜尋」令查找資訊更加方便,但我們絕不希望「搜尋」展示非法或兒童性剝削的內容。我們的政策會封鎖連至兒童性虐待圖像或可能會對兒童造成性傷害、危險或其他剝削的內容。我們也持續更新演算法,努力對抗層出不窮的威脅。
對於已知以兒童性虐待內容為目標的搜尋,我們會採取更強的保護措施。如果搜尋查詢似乎是在找尋兒童性虐待內容,以及對於搜尋成人露骨色情內容的查詢,我們都會篩走露骨色情結果。搜尋不會展示包括兒童的圖像,以斷絕兒童及色情內容的關聯。在多個國家/地區內,當使用者輸入明顯與兒童性虐待內容相關的查詢,就會在當眼處看到兒童性虐待圖像是非法行為的警告,同時會包含如何向可靠機構舉報內容的資訊。這些機構包括英國的 Internet Watch Foundation,加拿大兒童保護中心 (Canadian Centre for Child Protection),以及哥倫比亞的 Te Protejo。在展示警告後,使用者繼續搜尋這類內容的機會就會減少。
相關連結 -
YouTube 打擊剝削影片和內容的工作
我們一直對性化或剝削兒童的 YouTube 影片、播放清單、縮圖和留言設有清晰的政策。我們會利用機器學習系統來主動偵測政策違規行為,同時由全球各地的人工審查員快速移除系統偵測到或由使用者或可信任舉報者舉報的違規內容。
雖然部分以未成年人為對象的內容並不一定違反政策,但我們認為未成年人可能會面對網上或線下剝削的風險。因此我們在執行這些政策時會加倍謹慎。我們的機器學習系統幫助主動識別可能對未成年人構成風險的影片,然後採取大規模的保護措施,例如限制即時功能、停用留言和限制影片推薦等。
相關連結 -
我們的兒童性虐待內容公開報告
我們在 2021 年發表了一份 Google 打擊網上兒童性虐待內容的公開報告,詳細說明我們向 NCMEC 舉報的個案數目。報告同時講解我們在 YouTube 打擊有關行為的工作、我們如何偵測和移除「搜尋」中含有兒童性虐待內容的結果,以及在我們各項服務中因兒童性虐待內容違規而被停用的帳戶數目。
這份公開報告同時提供我們與 NCMEC 分享的兒童性虐待內容雜湊數目資料。這些雜湊幫助其他平台大規模地偵測兒童性虐待內容。向 NCMEC 雜湊資料庫提供資料是我們與其他業界人士合力打擊兒童性虐待內容的一個重要方法,有助減少這些內容再次散播,同時避免受虐待兒童受到重複傷害。
相關連結 -
在我們的產品上舉報不當行為
我們希望防止有人利用我們的產品來進行誘識兒童、性勒索、人口販賣及其他形式的兒童性剝削。我們工作的一部分是要令產品適合兒童安全使用,因此我們提供實用資訊,幫助使用者向相關監管機構舉報兒童性虐待內容。
如果使用者懷疑在 Gmail 或 Hangouts 等 Google 產品上有兒童受到危害的情況,可以利用此表格舉報。使用者也可以舉報 YouTube 上的不當內容,以及透過說明中心和在產品內直接舉報 Google Meet 上的虐待行為。我們同時說明在有欺凌和騷擾行為等疑慮時的處理方法,包括如何封鎖使用者接觸兒童的資訊。要進一步瞭解我們的兒童安全政策,請瀏覽 YouTube 的《社群指南》及 Google 安全中心。
相關連結
發展及分享 打擊兒童性虐待行為的工具
-
Content Safety API
用於以往從未出現的圖像和影片內容
多年來,Google 致力研發透過機器學習分類器主動偵測從未見過的兒童性虐待影像,以便進行審查,並在確認為兒童性虐待內容時盡快移除和舉報。透過這項技術,Content Safety API 可幫助機構偵測和優先處理需進行審查的潛在虐待內容。每月,我們的合作夥伴利用 Content Safety API 為數十億計的圖像進行分類,幫助他們更快和更準確地偵測有問題的內容,以便向監管機構舉報。
獲以下機構採用 -
CSAI Match
用於影片雜湊配對
在 2014 年,YouTube 工程人員開發並應用新技術,以從我們的服務中偵測和移除已知的兒童性虐待影片。我們利用 CSAI Match 與其他人分享這些技術,這個 API 可幫助偵測影片中是否有再次上載以往曾識別為兒童性虐待的內容。現時非政府機構和企業利用 CSAI Match 與我們的已知虐待內容資料庫比對,幫助找出符合的內容,以便按照本地法律及規例採取負責任的行動。
獲以下機構採用
聯盟及計劃
我們合作贊助兒童安全研究,同時分享相關工具和知識,例如我們對資訊公開報告、產品內偵測和營運流程。
合作夥伴
-
透過 Google.org 提供公益廣告計劃
Google.org 為帶領打擊兒童性虐待和剝削的機構提供資助,當中包括 INHOPE 和 ECPAT International。自 2003 年起,Google.org 也向營運兒童性虐待舉報熱線的非政府機構和慈善組織提供約 9,000 萬美元的免費廣告預算,幫助他們接觸最需要獲得支援的人士。
相關連結 -
Google Fellow 計劃
我們對 NCMEC 和荊棘 (Thorn) 等致力打擊兒童性虐待行為的機構會贊助技術獎學金。此外,Google 更透過兒童罪行全國研討會 (Crimes Against Children National Conference) 和全國兒童剝削執法培訓 (National Law Enforcement Training on Child Exploitation) 等論壇,為調查網上兒童罪行的執法人員提供培訓。
相關連結