Google のツールには補完的な機能があります。他のソリューションと組み合わせて使用することで、さまざまなニーズに対応できます。
CONTENT SAFETY API
これまでに検出されていない画像や動画の分類
CSAI MATCH
既知の不適切な動画セグメントのマッチング
CONTENT SAFETY API
これまでに検出されていない画像や動画の分類
Content Safety API 用途:これまでに検出されていない画像や動画の分類
Content Safety API の分類器は、プログラムによるアクセスと AI を使用して、パートナーが数十億の画像や動画を分類して審査の優先度を決定できるようにします。分類器による優先度が高いほど、メディア ファイルに不正なコンテンツが含まれている可能性が高くなり、パートナーが優先的に人間による審査を行い、内容をご自身で判断するのに役立ちます。Content Safety API は、送信されてきたコンテンツの優先度について勧告します。パートナーは、コンテンツに対して措置を講じるべきかを判断するために、ご自身で審査を行う必要があります。
運用面では、人間による審査プロセスの直前に Content Safety API を使用して、分類、優先度の決定、キューの整理を行うことをおすすめします。Content Safety API は、YouTube の動画ハッシュツール「CSAI Match」や Microsoft の「PhotoDNA」など、それぞれ異なるニーズに対応したソリューションと併用できます。
CSAI Match は、オンラインの CSAI（児童への性的虐待の画像）動画に対処するための、YouTube 独自のテクノロジーです。既知の違反コンテンツを特定する技術として初めてハッシュ マッチングを活用し、膨大な数の適法動画に紛れ込む違反コンテンツを検出することを可能にしました。違反コンテンツの一致が検出されると、パートナーに対し、現地の法律および規制を遵守したうえで審査と確認を行い、責任を持って報告するよう通知します。YouTube は、CSAI Match を業界や NGO のパートナーに提供しています。Google は、既知の不適切なコンテンツのデータベースとの一致を確認するために、フィンガープリント ソフトウェアと API へのアクセスを提供しています。
オンライン プラットフォームは、CSAI Match を使用して、コンテンツを最大規模の既知の CSAI コンテンツのインデックスと照合することで、サイトでの違反コンテンツの表示や共有を防止することができます。CSAI Match は、パートナーのシステムに簡単に統合でき、困難なコンテンツ管理のスケーラビリティ向上を実現します。
仕組み
1. 動画のフィンガープリント
動画がパートナーのプラットフォームにアップロードされます。CSAI Match Fingerprinter（パートナーのプラットフォーム上で動作）によって、動画ファイルの内容を一意に表すデジタル ID であるフィンガープリント ファイルが生成されます。
2. API による審査
パートナーは、CSAI Match API を介してフィンガープリント ファイルを送信し、YouTube のフィンガープリント リポジトリにある他のファイルと比較します。このリポジトリには、YouTube や Google によって検出された既知の不適切なコンテンツのフィンガープリントが含まれます。
3. 人間による審査
API の呼び出しが完了すると、一致または不一致がパートナーに返されます。一致情報に基づいて、パートナーは手動で動画を審査し、CSAI であることを確認します。
「ユーザーがアップロードした何億ものドキュメントをホストする当社のプラットフォームにとって、Google の Content Safety API の実装は非常に大きなメリットとなっています。API が大量の画像を効率的にスキャンして不適切な可能性のあるコンテンツを探してくれるので、ユーザーにとって安全なデジタル環境を実現するのに役立っています。その高いスループットと正確性のおかげで、審査、介入、サポートに注力できるようになりました。」- Scribd, Inc.
「CSAI Match は、Adobe の子どもの安全に関するプログラムにおける重要な柱であり続けています。このテクノロジーを活用することが、児童性的虐待の動画をより効率的かつ大規模に検出するうえで有効であることが実証されています。」- Adobe
「児童性的虐待の動画コンテンツの増加と闘うことは、新たな課題であり、新しいテクノロジーを必要とします。CSAI Match はそのソリューションとして有効であることが実証されており、当社のプラットフォームに含まれる動画の CSAM をより適切に検出して削除できます。」- Yahoo!
「Content Safety API は、未成年者への性的虐待を描写した画像の特定に取り組むアナリストが、優先順位を付けて作業するのに役立ちます。処理するレポートの量が増え続けている今日、優先順位を付けて審査することは難しい課題となっています。このテクノロジーにより、アナリストは未成年者への性的虐待を示すコンテンツが含まれたレポートをいち早く確認し、被害者の保護やコンテンツの削除に迅速に対応できるようになります。」- Point de Contact
「統合が簡単で、応答が早く、安定かつ正確な Content Safety API のおかげで、コンテンツ アナリストによる CSAM 画像の審査時間の大幅な短縮、分析プロセスの最適化、コンテンツ アナリストの負荷の軽減が実現しました。」- Safernet Brasil
プラットフォームを不適切なコンテンツから保護したいと考えている業界および市民団体のサードパーティであれば、Content Safety API へ登録してお申し込みいただけます。お申し込みには、Google による承認が必要となります。
なぜ、このようなツールを広く公開しているのですが？
Google は、オンラインでの児童搾取の撲滅に取り組む最善のアプローチは、他の企業や NGO と協力することであると考えています。私たちは長年にわたり、業界や NGO と協力し、新しいデータドリブンなツールの開発を支援して、技術力と意識を高めてきました。こうしたツールを広く利用できるようにし、Google のパートナーが AI によりコンテンツを大規模に審査しやすくすることが、この取り組みにおいて重要なことだと信じています。
CSAI Match
CSAI Match は画像に対応していますか？
CSAI Match は動画用に設計されていますが、業界や NGO のパートナーは Google の Content Safety API を通じて、機械学習による画像分類を行えるツール群を利用することができます。詳細
