オンラインでの児童性的虐待の撲滅に対する取り組み

Google 検索では、情報が簡単に見つけることができます。しかし、違法なコンテンツや児童を性的に搾取するようなコンテンツが表示されるようなことはあってはなりません。Google のポリシーとして、児童への性的虐待の画像、または児童を性的に虐待している、危険にさらしている、搾取していると考えられるコンテンツに誘導する検索結果をブロックしています。これらの脅威は進化しており、それに対抗するため Google は常にアルゴリズムをアップデートしています。

CSAM コンテンツを求めているとみなされた検索には、特別な防護を適用しています。CSAM を求めるような検索クエリの場合は、露骨な性的描写を含むコンテンツを検索結果から除外します。露骨なアダルト コンテンツを求めるクエリの場合は、児童と性的コンテンツの関連性を断つために、児童を含む画像を検索結果に表示しません。多くの国では、明らかに CSAM に関連するクエリを入力したユーザーに対し、児童への性的虐待の画像が違法であることを示す警告が目立つように表示されます。また、英国の Internet Watch Foundation、カナダの Centre for Child Protection、コロンビアの Te Protejo といった信頼できる組織に、こうしたコンテンツを報告する方法についての情報が表示されます。このような警告が表示されると、ユーザーがそのようなコンテンツを探し続ける可能性は低くなります。

YouTube は、児童の性的対象化や搾取にあたる YouTube 上の動画、再生リスト、サムネイル、コメントに対して常に明確なポリシーを提示しています。機械学習システムを使用してこのポリシーに対する違反を積極的に検出しており、システムによって検出された違反、ユーザーや YouTube 公認報告者によって報告された違反の対象を、世界中の審査担当者が迅速に削除しています。

コンテンツが YouTube のポリシーに違反していなくても、そこに含まれる未成年者がオンラインまたはオフラインで悪用される危険性があることを YouTube は認識しています。そのため、ポリシーの適用に対しては特に周到なアプローチを取っており、機械学習システムを活用して、未成年者を危険にさらす可能性のある動画を積極的に特定し、ライブ配信の制限、コメントの無効化、おすすめの動画の制限などの保護を広範囲に適用しています。

2021 年、Google はオンラインにおける児童性的虐待のコンテンツの撲滅に向けた取り組みについて、NCMEC への報告件数を詳細に記した透明性レポートを発表しました。このレポートには、YouTube における取り組み、検索結果から CSAM を検出して削除する仕組み、サービス全体における CSAM 違反により無効になったアカウントの数などのデータも掲載されています。

透明性レポートには、NCMEC と共有している CSAM のハッシュ数に関する情報も含まれています。これらのハッシュは、他のプラットフォームが CSAM を広範囲に特定するのに役立ちます。NCMEC のハッシュ データベースへの寄与は、業界全体で CSAM を撲滅するための重要な手段のひとつです。CSAM の再流通や、それに伴う被虐待児童の 2 次被害を減らすことができるためです。

Google は、Google のプロダクトを利用する子どもたちを性的な誘いかけ、セクストーション、人身売買やその他の児童性的搾取から保護する取り組みを行っています。子どもが安全に使えるプロダクトを目指す取り組みの一環として、ユーザーが児童性的虐待のコンテンツを関係当局に通報する際に役立つ情報を提供しています。

Gmail やハングアウトなどの Google プロダクトで、児童が危険にさらされていると思われる場合は、こちらのフォームから報告することができます。YouTube でも不適切なコンテンツを報告できます。Google Meet 内の不適切なコンテンツについては、ヘルプセンター経由で、またはプロダクト内で直接報告することが可能です。また、他ユーザーからの子どもへの連絡をブロックする方法など、いじめや嫌がらせへに対応するための情報も提供しています。子どもの安全に関するポリシーについて詳しくは、YouTube のコミュニティ ガイドラインと Google セーフティ センターをご覧ください。