的確な優先順位付け

的確な優先順位付け


この API は、オンラインでの児童搾取の撲滅を目指して、不適切なコンテンツを選別して優先的に人間による審査ができるようにするものです。

すばやい特定

迅速な識別


コンテンツをより迅速に識別することで、被害者を特定し、さらなる虐待から保護できる可能性が高まります。

より安全な運用

より安全な運用


審査待ちのコンテンツに関して、CSAM である可能性が高いコンテンツを効率的に調査できるようになるため、コンテンツ管理者の負担も軽減されます。

Google のツールついて

Google のツールには補完的な機能があります。他のソリューションと組み合わせて使用することで、さまざまなニーズに対応できます。

Content Safety API

Content Safety API

これまでに検出されていない画像の分類

CSAI Match

CSAI Match

既知の不適切な動画セグメントのマッチング

Content Safety API

用途: これまでに検出されていない画像の分類


Content Safety API の分類器は、プログラムによるアクセスと人工知能を使用して、パートナーが数十億の画像を分類して審査の優先度を決定できるようにします。分類器による優先度が高いほど、画像に不正なコンテンツが含まれている可能性が高くなり、パートナーが優先的に人間による審査を行い、内容をご自身で判断するのに役立ちます。Content Safety API は、送信されてきたコンテンツの優先度について勧告します。パートナーは、コンテンツに対して措置を講じるべきかを判断するために、ご自身で審査を行う必要があります。

運用面では、手動による審査プロセスの直前に Content Safety API を使用して、分類、優先度の決定、キューの整理を行うことをおすすめします。Content Safety API は、YouTube の動画ハッシュツール「CSAI Match」や Microsoft の「PhotoDNA」など、それぞれ異なるニーズに対応したソリューションと併用できます。

仕組み

画像の取得

1. 画像の取得

画像は、ユーザーからの報告、パートナーがプラットフォーム上の画像を管理するために作成したクローラやフィルタによる特定など、さまざまな形でパートナーによって取得されます。

パートナー

ユーザーが報告した画像

クローラ

プレフィルタ

(ポルノ / その他の分類)

API による審査

2. API による審査

その後、画像ファイルはシンプルな API 呼び出しで Content Safety API に送信されます。これらは分類器を介して実行され、審査の優先度が決定されると、各画像の優先度の値がパートナーに返送されます。

Google

Content Safety API

分類器技術

人間による審査

3. 人間による審査

パートナーは優先度の値を使用して、手動による審査で最初に注意が必要な画像を優先します。

パートナー

人間による審査

措置

4.措置

画像が手動で審査されると、パートナーは現地の法律および規制に従ってコンテンツに対する措置を講じることができます。

パートナー

状況に応じた措置

CSAI Match

用途: 既知の不適切な動画セグメントのマッチング


CSAI Match は、オンラインの CSAI(児童への性的虐待の画像)動画に対処するための、YouTube 独自のテクノロジーです。既知の違反コンテンツを特定する技術として初めてハッシュ マッチングを活用し、膨大な数の適法動画に紛れ込む違反コンテンツを検出することを可能にしました。違反コンテンツの一致が検出されると、パートナーに対し、現地の法律および規制を遵守したうえで審査と確認を行い、責任を持って報告するよう通知します。YouTube は、CSAI Match を業界や NGO のパートナーに提供しています。Google は、既知の不適切なコンテンツのデータベースとの一致を確認するために、フィンガープリント ソフトウェアと API へのアクセスを提供しています。

オンライン プラットフォームは、CSAI Match を使用して、コンテンツを最大規模の既知の CSAI コンテンツのインデックスと照合することで、サイトでの違反コンテンツの表示や共有を防止することができます。CSAI Match は、パートナーのシステムに簡単に統合でき、困難なコンテンツ管理のスケーラビリティ向上を実現します。

仕組み

動画のフィンガープリント

1. 動画のフィンガープリント

動画がパートナーのプラットフォームにアップロードされます。CSAI Match Fingerprinter(パートナーのプラットフォーム上で動作)によって、動画ファイルの内容を一意に表すデジタル ID であるフィンガープリント ファイルが生成されます。

パートナー

動画ファイル

Fingerprinter

Fingerprinter ファイル

API による審査

2. API による審査

パートナーは、CSAI Match API を介してフィンガープリント ファイルを送信し、YouTube のフィンガープリント リポジトリにある他のファイルと比較します。このリポジトリには、YouTube や Google によって検出された既知の不適切なコンテンツのフィンガープリントが含まれます。

YouTube

CSAI Match API

CSAI Match テクノロジー

Shared CSAI

Fingerprinter リポジトリ

人間による審査

3. 人間による審査

API の呼び出しが完了すると、一致または不一致がパートナーに返されます。一致情報に基づいて、パートナーは手動で動画を審査し、CSAI であることを確認します。

パートナー

人間による審査

措置

4.措置

画像が審査されると、パートナーは現地の法律および規制に従ってコンテンツに対する措置を講じることができます。

パートナー

状況に応じた措置

Content Safety API

用途: これまでに検出されていない画像の分類

Content Safety API の分類器は、プログラムによるアクセスと人工知能を使用して、パートナーが数十億の画像を分類して審査の優先度を決定できるようにします。分類器による優先度が高いほど、画像に不正なコンテンツが含まれている可能性が高くなり、パートナーが優先的に人間による審査を行い、内容をご自身で判断するのに役立ちます。Content Safety API は、送信されてきたコンテンツの優先度について勧告します。パートナーは、コンテンツに対して措置を講じるべきかを判断するために、ご自身で審査を行う必要があります。

運用面では、手動による審査プロセスの直前に Content Safety API を使用して、分類、優先度の決定、キューの整理を行うことをおすすめします。Content Safety API は、YouTube の動画ハッシュツール「CSAI Match」や Microsoft の「PhotoDNA」など、それぞれ異なるニーズに対応したソリューションと併用できます。

CSAI Match

用途: 既知の不適切な動画セグメントのマッチング

CSAI Match は、オンラインの CSAI(児童への性的虐待の画像)動画に対処するための、YouTube 独自のテクノロジーです。既知の違反コンテンツを特定する技術として初めてハッシュ マッチングを活用し、膨大な数の適法動画に紛れ込む違反コンテンツを検出することを可能にしました。違反コンテンツの一致が検出されると、パートナーに対し、現地の法律および規制を遵守したうえで審査と確認を行い、責任を持って報告するよう通知します。YouTube は、CSAI Match を業界や NGO のパートナーに提供しています。Google は、既知の不適切なコンテンツのデータベースとの一致を確認するために、フィンガープリント ソフトウェアと API へのアクセスを提供しています。

オンライン プラットフォームは、CSAI Match を使用して、コンテンツを最大規模の既知の CSAI コンテンツのインデックスと照合することで、サイトでの違反コンテンツの表示や共有を防止することができます。CSAI Match は、パートナーのシステムに簡単に統合でき、困難なコンテンツ管理のスケーラビリティ向上を実現します。

児童安全ツールキットに関するお問い合わせフォーム

ツールキットにご興味がある場合

こちらから、お客様の組織に関する情報をご登録ください

お問い合わせフォームを表示

利用者の

よくある質問

Content Safety API

Content Safety API は動画に対応していますか?

Content Safety API は画像用に設計されていますが、YouTube の CSAI Match を通じて、フィンガープリント ソフトウェアと API にアクセスし、既知の不正な動画コンテンツのデータベースとの一致を確認できます。詳細

このテクノロジーと Content Safety API は、誰が利用できますか?

プラットフォームを不適切なコンテンツから保護したいと考えている業界および市民団体のサードパーティであれば、Content Safety API へ登録してお申し込みいただけます。お申し込みには、Google による承認が必要となります。

なぜ、このようなツールを広く公開しているのですが?

Google は、オンラインでの児童搾取の撲滅に取り組む最善のアプローチは、他の企業や NGO と協力することであると考えています。私たちは長年にわたり、業界や NGO と協力し、新しいデータドリブンなツールの開発を支援して、技術力と意識を高めてきました。こうしたツールを広く利用できるようにし、Google のパートナーが AI によりコンテンツを大規模に審査しやすくすることが、この取り組みにおいて重要なことだと信じています。

CSAI Match

CSAI Match は画像に対応していますか?

CSAI Match は動画用に設計されていますが、業界や NGO のパートナーは Google の Content Safety API を通じて、機械学習による画像分類を行えるツール群を利用することができます。詳細

一致が確認された場合、どのような情報が返されるのですか?

一致した場合は、既知の CSAI と一致した動画のコンテンツ、およびその種類の標準的な分類が示されます。

CSAI Match テクノロジーは、なぜ効率的なのでしょうか?

CSAI Match は、既知の CSAI コンテンツとほぼ同じセグメントを検出します。これには、MD5 ハッシュ マッチングで得られる完全な重複だけでなく、重複に近いもの(CSAI 動画の再エンコード、難読化、切り捨て、スケーリングなど)も含まれており、動画に CSAI がごく一部しか含まれていない可能性がある場合もあります。パートナーは、フィンガープリント バイナリを実行して、動画の「フィンガープリント」(MD5 ハッシュに類似のバイト シーケンス)を生成します。生成結果は、Google の CSAI Match サービスに送信されます。このサービスは、YouTube の既知の CSAI 参照コーパスに対して動画をスキャンする際の効率性を特に重視して設計されています。