児童安全ツールキット
的確な優先順位付け
この API は、オンラインでの児童搾取の撲滅を目指して、不適切なコンテンツを選別して優先的に人間による審査ができるようにするものです。
迅速な識別
コンテンツをより迅速に識別することで、被害者を特定し、さらなる虐待から保護できる可能性が高まります。
より安全な運用
審査待ちのコンテンツに関して、CSAM である可能性が高いコンテンツを効率的に調査できるようになるため、コンテンツ管理者の負担も軽減されます。
Google のツール について
Google のツールには補完的な機能があります。他のソリューションと組み合わせて使用することで、さまざまなニーズに対応できます。
Content Safety API
これまでに検出されていない画像の分類
CSAI Match
既知の不適切な動画セグメントのマッチング
Content Safety API
用途: これまでに検出されていない画像の分類
Content Safety API の分類器は、プログラムによるアクセスと人工知能を使用して、パートナーが数十億の画像を分類して審査の優先度を決定できるようにします。分類器による優先度が高いほど、画像に不正なコンテンツが含まれている可能性が高くなり、パートナーが優先的に人間による審査を行い、内容をご自身で判断するのに役立ちます。Content Safety API は、送信されてきたコンテンツの優先度について勧告します。パートナーは、コンテンツに対して措置を講じるべきかを判断するために、ご自身で審査を行う必要があります。
運用面では、手動による審査プロセスの直前に Content Safety API を使用して、分類、優先度の決定、キューの整理を行うことをおすすめします。Content Safety API は、YouTube の動画ハッシュツール「CSAI Match」や Microsoft の「PhotoDNA」など、それぞれ異なるニーズに対応したソリューションと併用できます。
仕組み
1. 画像の取得
画像は、ユーザーからの報告、パートナーがプラットフォーム上の画像を管理するために作成したクローラやフィルタによる特定など、さまざまな形でパートナーによって取得されます。
パートナー
ユーザーが報告した画像
クローラ
プレフィルタ
（ポルノ /
2. API による審査
その後、画像ファイルはシンプルな API 呼び出しで Content Safety API に送信されます。これらは分類器を介して実行され、審査の優先度が決定されると、各画像の優先度の値がパートナーに返送されます。
Content Safety API
分類器技術
3. 人間による審査
パートナーは優先度の値を使用して、手動による審査で最初に注意が必要な画像を優先します。
パートナー
人間による審査
4.措置
画像が手動で審査されると、パートナーは現地の法律および規制に従ってコンテンツに対する措置を講じることができます。
パートナー
状況に応じた措置
CSAI Match
用途: 既知の不適切な動画セグメントのマッチング
CSAI Match は、オンラインの CSAI（児童への性的虐待の画像）動画に対処するための、YouTube 独自のテクノロジーです。既知の違反コンテンツを特定する技術として初めてハッシュ マッチングを活用し、膨大な数の適法動画に紛れ込む違反コンテンツを検出することを可能にしました。違反コンテンツの一致が検出されると、パートナーに対し、現地の法律および規制を遵守したうえで審査と確認を行い、責任を持って報告するよう通知します。YouTube は、CSAI Match を業界や NGO のパートナーに提供しています。Google は、既知の不適切なコンテンツのデータベースとの一致を確認するために、フィンガープリント ソフトウェアと API へのアクセスを提供しています。
オンライン プラットフォームは、CSAI Match を使用して、コンテンツを最大規模の既知の CSAI コンテンツのインデックスと照合することで、サイトでの違反コンテンツの表示や共有を防止することができます。CSAI Match は、パートナーのシステムに簡単に統合でき、困難なコンテンツ管理のスケーラビリティ向上を実現します。
仕組み
1. 動画のフィンガープリント
動画がパートナーのプラットフォームにアップロードされます。CSAI Match Fingerprinter（パートナーのプラットフォーム上で動作）によって、動画ファイルの内容を一意に表すデジタル ID であるフィンガープリント ファイルが生成されます。
パートナー
動画ファイル
Fingerprinter
Fingerprinter ファイル
2. API による審査
パートナーは、CSAI Match API を介してフィンガープリント ファイルを送信し、YouTube のフィンガープリント リポジトリにある他のファイルと比較します。このリポジトリには、YouTube や Google によって検出された既知の不適切なコンテンツのフィンガープリントが含まれます。
YouTube
CSAI Match API
CSAI Match テクノロジー
Shared CSAI
Fingerprinter リポジトリ
3. 人間による審査
API の呼び出しが完了すると、一致または不一致がパートナーに返されます。一致情報に基づいて、パートナーは手動で動画を審査し、CSAI であることを確認します。
パートナー
人間による審査
4.措置
画像が審査されると、パートナーは現地の法律および規制に従ってコンテンツに対する措置を講じることができます。
パートナー
状況に応じた措置
Content Safety API
用途: これまでに検出されていない画像の分類
Content Safety API の分類器は、プログラムによるアクセスと人工知能を使用して、パートナーが数十億の画像を分類して審査の優先度を決定できるようにします。分類器による優先度が高いほど、画像に不正なコンテンツが含まれている可能性が高くなり、パートナーが優先的に人間による審査を行い、内容をご自身で判断するのに役立ちます。Content Safety API は、送信されてきたコンテンツの優先度について勧告します。パートナーは、コンテンツに対して措置を講じるべきかを判断するために、ご自身で審査を行う必要があります。
運用面では、手動による審査プロセスの直前に Content Safety API を使用して、分類、優先度の決定、キューの整理を行うことをおすすめします。Content Safety API は、YouTube の動画ハッシュツール「CSAI Match」や Microsoft の「PhotoDNA」など、それぞれ異なるニーズに対応したソリューションと併用できます。
Content Safety API
用途: これまでに検出されていない画像の分類
仕組み
1. 画像の取得
画像は、ユーザーからの報告、パートナーがプラットフォーム上の画像を管理するために作成したクローラやフィルタによる特定など、さまざまな形でパートナーによって取得されます。
パートナー
ユーザーが報告した画像
クローラ
プレフィルタ
（ポルノ / その他の分類）
2. API による審査
その後、画像ファイルはシンプルな API 呼び出しで Content Safety API に送信されます。これらは分類器を介して実行され、審査の優先度が決定されると、各画像の優先度の値がパートナーに返送されます。
Content Safety API
分類器技術
3. 人間による審査
パートナーは優先度の値を使用して、手動による審査で最初に注意が必要な画像を優先します。
パートナー
人間による審査
4.措置
画像が手動で審査されると、パートナーは現地の法律および規制に従ってコンテンツに対する措置を講じることができます。
パートナー
状況に応じた措置
ツールキットにご興味がある場合
こちらから、お客様の組織に関する情報をご登録ください
お問い合わせフォームを表示
CSAI Match
用途: 既知の不適切な動画セグメントのマッチング
CSAI Match は、オンラインの CSAI（児童への性的虐待の画像）動画に対処するための、YouTube 独自のテクノロジーです。既知の違反コンテンツを特定する技術として初めてハッシュ マッチングを活用し、膨大な数の適法動画に紛れ込む違反コンテンツを検出することを可能にしました。違反コンテンツの一致が検出されると、パートナーに対し、現地の法律および規制を遵守したうえで審査と確認を行い、責任を持って報告するよう通知します。YouTube は、CSAI Match を業界や NGO のパートナーに提供しています。Google は、既知の不適切なコンテンツのデータベースとの一致を確認するために、フィンガープリント ソフトウェアと API へのアクセスを提供しています。
オンライン プラットフォームは、CSAI Match を使用して、コンテンツを最大規模の既知の CSAI コンテンツのインデックスと照合することで、サイトでの違反コンテンツの表示や共有を防止することができます。CSAI Match は、パートナーのシステムに簡単に統合でき、困難なコンテンツ管理のスケーラビリティ向上を実現します。
CSAI Match
用途: 既知の不適切な動画セグメントのマッチング
仕組み
1. 動画のフィンガープリント
動画がパートナーのプラットフォームにアップロードされます。CSAI Match Fingerprinter（パートナーのプラットフォーム上で動作）によって、動画ファイルの内容を一意に表すデジタル ID であるフィンガープリント ファイルが生成されます。
パートナー
動画ファイル
Fingerprinter
Fingerprinter ファイル
2. API による審査
パートナーは、CSAI Match API を介してフィンガープリント ファイルを送信し、YouTube のフィンガープリント リポジトリにある他のファイルと比較します。このリポジトリには、YouTube や Google によって検出された既知の不適切なコンテンツのフィンガープリントが含まれます。
YouTube
CSAI Match API
CSAI Match テクノロジー
Shared CSAI
Fingerprinter リポジトリ
3. 人間による審査
API の呼び出しが完了すると、一致または不一致がパートナーに返されます。一致情報に基づいて、パートナーは手動で動画を審査し、CSAI であることを確認します。
パートナー
人間による審査
4.措置
画像が審査されると、パートナーは現地の法律および規制に従ってコンテンツに対する措置を講じることができます。
パートナー
状況に応じた措置
ツールキットにご興味がある場合
こちらから、お客様の組織に関する情報をご登録ください
お問い合わせフォームを表示
ツールキットにご興味がある場合
こちらから、お客様の組織に関する情報をご登録ください
お問い合わせフォームを表示
利用者の声
「Google のハッシュ マッチング ソリューションは、私たちのワークフローに大きな変革をもたらし、質の高い結果が迅速に得られるようになりました。全米行方不明・被搾取児童センターに対する Google の大きな貢献のおかげで、プロセスが自動化され、以前に報告された CSAM を人間が審査する必要性が減り、スタッフの負担を最小限に抑えることができています。児童の写真が再共有されるたびに 2 次被害が発生するため、こうした画像をできるだけ早く削除することが非常に重要です。これにより、新たな被害者やサバイバーの子どもたちに専念して活動することができます。」 - 全米行方不明・被搾取児童センター
「当社のプラットフォームは、ビジュアル コンテンツを利用しやすくするものであり、ユーザーから投稿されたすべてのコンテンツが効果的にモデレートされるようにすることが私たちの責任です。面倒なプロセスを効率的な方法で合理化し、不適切なコンテンツを迅速に審査、削除、報告できるようにする Google の Content Safety API と、この機能を支える AI は、世界をより安全な場所にするという当社の使命の達成に役立っています。」 - Plugon
「統合が簡単で、応答が早く、安定かつ正確な Content Safety API のおかげで、コンテンツ アナリストによる CSAM 画像の審査時間の大幅な短縮、分析プロセスの最適化、コンテンツ アナリストの負荷の軽減が実現しました。」 - Safernet Brasil
「Content Safety API は使いやすく拡張性のあるソリューションで、当社は数か月前に統合しました。コミュニティを保護し、不適切なコンテンツの共有を防ぐ重要なテクノロジーになってくれると確信しています。」 - Yubo
「Content Safety API は、未成年者への性的虐待を描写した画像の特定に取り組むアナリストが、優先順位を付けて作業するのに役立ちます。処理するレポートの量が増え続けている今日、優先順位を付けて審査することは難しい課題となっています。このテクノロジーにより、アナリストは未成年者への性的虐待を示すコンテンツが含まれたレポートをいち早く確認し、被害者の保護やコンテンツの削除に迅速に対応できるようになります。」 - Point de Contact
「CSAI Match は導入が簡単で、児童性的虐待のコンテンツのさらなる検出と拡散防止に役立つツールとして、効果的に機能しています。」 - Adobe
「児童性的虐待の動画コンテンツの増加と闘うことは、新たな課題であり、新しいテクノロジーを必要とします。CSAI Match はそのソリューションとして有効であることが実証されており、当社のプラットフォームに含まれる動画の CSAM をより適切に検出して削除できます。」 - Yahoo!
よくある質問
Content Safety API
Content Safety API は動画に対応していますか？
Content Safety API は画像用に設計されていますが、YouTube の CSAI Match を通じて、フィンガープリント ソフトウェアと API にアクセスし、既知の不正な動画コンテンツのデータベースとの一致を確認できます。詳細
このテクノロジーと Content Safety API は、誰が利用できますか？
プラットフォームを不適切なコンテンツから保護したいと考えている業界および市民団体のサードパーティであれば、Content Safety API へ登録してお申し込みいただけます。お申し込みには、Google による承認が必要となります。
なぜ、このようなツールを広く公開しているのですが？
Google は、オンラインでの児童搾取の撲滅に取り組む最善のアプローチは、他の企業や NGO と協力することであると考えています。私たちは長年にわたり、業界や NGO と協力し、新しいデータドリブンなツールの開発を支援して、技術力と意識を高めてきました。こうしたツールを広く利用できるようにし、Google のパートナーが AI によりコンテンツを大規模に審査しやすくすることが、この取り組みにおいて重要なことだと信じています。
CSAI Match
CSAI Match は画像に対応していますか？
CSAI Match は動画用に設計されていますが、業界や NGO のパートナーは Google の Content Safety API を通じて、機械学習による画像分類を行えるツール群を利用することができます。詳細
一致が確認された場合、どのような情報が返されるのですか？
一致した場合は、既知の CSAI と一致した動画のコンテンツ、およびその種類の標準的な分類が示されます。
CSAI Match テクノロジーは、なぜ効率的なのでしょうか？
CSAI Match は、既知の CSAI コンテンツとほぼ同じセグメントを検出します。これには、MD5 ハッシュ マッチングで得られる完全な重複だけでなく、重複に近いもの（CSAI 動画の再エンコード、難読化、切り捨て、スケーリングなど）も含まれており、動画に CSAI がごく一部しか含まれていない可能性がある場合もあります。パートナーは、フィンガープリント バイナリを実行して、動画の「フィンガープリント」（MD5 ハッシュに類似のバイト シーケンス）を生成します。生成結果は、Google の CSAI Match サービスに送信されます。このサービスは、YouTube の既知の CSAI 参照コーパスに対して動画をスキャンする際の効率性を特に重視して設計されています。