Google und YouTube haben Tools entwickelt, um Organisationen beim Schutz von Kindern zu unterstützen. Mit diesen Tools können sie missbräuchliche Inhalte besser für die Überprüfung priorisieren.
Das Herzstück dieses Toolkits bilden zwei APIs – die Content Safety API und CSAI Match –, die wir berechtigten Partnern kostenlos zur Verfügung stellen. Mithilfe dieser Technologien können unsere Partner jedes Jahr Milliarden von Dateien verarbeiten und Millionen von Bildern und Videos auf missbräuchliche Verhaltensweisen hin evaluieren.
Bessere Priorisierung
Die APIs unterstützen die Bekämpfung der Ausbeutung von Kindern im Internet. Dazu werden missbräuchliche Inhalte für die manuelle Überprüfung priorisiert.
Schnellere Identifikation
Durch die schnellere Identifikation von Inhalten steigt die Wahrscheinlichkeit, dass Opfer identifiziert und vor weiterem Missbrauch geschützt werden können.
Mehr Sicherheit für Abläufe
Ein effizienterer Überprüfungsprozess entlastet auch die Inhaltsmoderatoren.
Informationen zu unseren Tools
Die Funktionen unserer Tools ergänzen sich gegenseitig. Sie können gemeinsam und mit anderen Lösungen verwendet werden, um verschiedene Anforderungen zu erfüllen.
CONTENT SAFETY API
Klassifizierung noch nicht gesehener Bilder und Videos
CSAI MATCH
Abgleich mit bekannten missbräuchlichen Videoinhalten
CONTENT SAFETY API
Klassifizierung noch nicht gesehener Bilder und Videos
Content Safety API Verwendungszweck: KLASSIFIZIERUNG NOCH NICHT GESEHENER BILDER UND VIDEOS
Beim Content Safety API-Klassifikator werden unsere Partner durch programmatischen Zugriff und künstliche Intelligenz dabei unterstützt, Milliarden von Bildern und Videos zu klassifizieren und zu priorisieren. Je höher die vom Klassifikator festgelegte Priorität ist, desto wahrscheinlicher ist es, dass die Mediendatei missbräuchliche Inhalte aufweist. Hierdurch können Partner die manuelle Überprüfung besser priorisieren und im Hinblick auf die Inhalte leichter zu einer Entscheidung kommen. Die Content Safety API gibt eine Priorisierungsempfehlung für die Inhalte aus, die an sie gesendet werden. Partner müssen durch eine eigene Überprüfung ermitteln, ob sie für die Inhalte Maßnahmen ergreifen müssen.
Wir empfehlen Organisationen, die Content Safety API direkt vor der manuellen Überprüfung einzusetzen, um die Elemente in der Warteschlange besser klassifizieren, priorisieren und strukturieren zu können. Die Content Safety API kann parallel zu anderen Lösungen eingesetzt werden – sei es das Video-Hashing-Tool CSAI Match von YouTube oder PhotoDNA von Microsoft. Sie alle erfüllen jeweils unterschiedliche Zwecke.
Funktionsweise
1. Dateiabruf
Dateien werden vom Partner auf verschiedene Arten abgerufen – beispielsweise, wenn sie von Nutzern gemeldet oder von Crawlern bzw. Filtern identifiziert wurden, die der Partner erstellt hat, um Inhalte auf seiner Plattform zu moderieren.
2. API-Überprüfung
Die Mediendateien werden dann über einen einfachen API-Aufruf an die Content Safety API gesendet. Sie durchlaufen Klassifikatoren, mit deren Hilfe die Überprüfungspriorität ermittelt wird. Anschließend wird der Prioritätswert für jeden Inhalt an den Partner zurückgesendet.
3. Manuelle Überprüfung
Anhand des Prioritätswerts können die Dateien, bei denen vorrangiger Handlungsbedarf besteht, direkt manuell geprüft werden.
4. Ergreifung von Maßnahmen
Nach der manuellen Überprüfung der Bild- oder Videodateien kann der Partner gemäß den lokalen Gesetzen und Bestimmungen geeignete Maßnahmen für die Inhalte ergreifen.
PARTNER
GOOGLE
PARTNER
PARTNER
Von Nutzern gemeldete Bilder oder Videos
Crawler
Vorfilter (Klassifikatoren für pornografische / andere Inhalte)
I
Content Safety API
I
Klassifikatortechnologie
I
Manuelle Überprüfung
I
Entsprechende Maßnahme
CSAI MATCH
Abgleich mit bekannten missbräuchlichen Videoinhalten
CSAI Match Verwendungszweck: ABGLEICH MIT BEKANNTEN MISSBRÄUCHLICHEN VIDEOINHALTEN
CSAI Match ist eine YouTube-Technologie zur Bekämpfung von Videos im Internet, die visuelle Darstellungen des sexuellen Missbrauchs von Kindern enthalten. Dabei wurde erstmals die Hash-Technologie eingesetzt, um bereits bekannte Inhalte zu kennzeichnen. Dadurch können wir diese Darstellungen sofort erkennen, wenn sie nochmals auftauchen. Aufgrund der großen Zahl an Videos, die keine Verstöße enthalten, ist es ohne diese Technik extrem schwer, illegale Videos aufzuspüren. Wenn nicht richtlinienkonforme Inhalte gefunden werden, werden diese unseren Partnern gemeldet, die sie überprüfen und gemäß den lokalen Gesetzen und Bestimmungen damit verfahren. YouTube stellt Branchenpartnern und Nichtregierungsorganisationen CSAI Match zur Verfügung. Wir bieten Zugriff auf die Fingerprinting-Software und eine API, anhand derer sich Übereinstimmungen mit unserer Datenbank bekannter missbräuchlicher Inhalte ermitteln lassen.
Mithilfe von CSAI Match können Onlineplattformen ihre Inhalte mit einem der größten Indexe bekannter Darstellungen des sexuellen Missbrauchs von Kindern vergleichen und so verhindern, dass nicht richtlinienkonforme Inhalte auf ihren Websites angezeigt und geteilt werden. Partner können CSAI Match problemlos in ihre Systeme integrieren, um problematischen Inhalten besser Einhalt gebieten zu können.
Funktionsweise
1. Fingerabdruckerstellung (Fingerprinting) für Videos
Ein Video wird auf die Plattform des Partners hochgeladen. Der CSAI Match-Fingerprinter, der auf der Plattform des Partners ausgeführt wird, erstellt eine Fingerabdruckdatei des Videos, also eine digitale ID, die den Inhalt der Videodatei eindeutig darstellt.
2. API-Überprüfung
Der Partner sendet die Fingerabdruckdatei über die CSAI Match API, damit sie mit den anderen Dateien im Fingerabdruck-Repository von YouTube verglichen wird. Das Repository enthält Fingerabdrücke von bekannten missbräuchlichen Inhalten, die von YouTube und Google erkannt wurden.
3. Manuelle Überprüfung
Sobald der Aufruf an die API abgeschlossen ist, wird dem Partner eine positive oder negative Übereinstimmung gemeldet. Anhand der Informationen zur Übereinstimmung überprüft der Partner das Video manuell, um zu bestätigen, dass es sich um Darstellungen des sexuellen Missbrauchs von Kindern handelt.
4. Ergreifung von Maßnahmen
Nach der Überprüfung der Bilder kann der Partner entsprechende Maßnahmen im Einklang mit den lokalen Gesetzen und Bestimmungen ergreifen.
PARTNER
YOUTUBE
PARTNER
PARTNER
Videodatei
I
Fingerabdruck
I
Fingerabdruckdatei
I
CSAI Match API
I
CSAI Match-Technologie
I
Geteilte Darstellungen des sexuellen Missbrauchs von Kindern Fingerabdruck-Repository
„Die Hash-Technologie von Google hat unsere Workflows revolutioniert und zu besseren, schnelleren Ergebnissen geführt. Dank Google konnte das National Center for Missing & Exploited Children bestimmte Prozesse automatisieren, sodass weniger manuelle Überprüfungen von bereits gemeldeten Darstellungen des sexuellen Missbrauchs von Kindern erforderlich sind. Dies entlastet unsere Mitarbeiter erheblich. Es ist entscheidend, dass diese Bilder möglichst schnell entfernt werden, weil ein Kind jedes Mal, wenn ein Foto von ihm geteilt wird, nochmals zum Opfer wird. Mit der Technologie von Google können wir den Schwerpunkt unserer Arbeit auf neues und unbekanntes Material legen.“ – National Center for Missing & Exploited Children
„Unsere Plattform hostet Hunderte Millionen von nutzergenerierten Dokumenten. Die Content Safety API von Google ist für uns daher ein echter Gamechanger. Sie kann schnell große Mengen von Bildern auf potenziell anstößige Inhalte prüfen und hilft uns so dabei, ein möglichst sicheres digitales Umfeld für unsere Nutzer zu schaffen. Die API arbeitet mit hohem Durchsatz und ist sehr präzise – dank ihr haben wir Zeit, uns verstärkt auf die Prüfung der identifizierten Inhalte, eventuell notwendige Maßnahmen und den Support zu konzentrieren.“ – Scribd, Inc.
„Mithilfe der Google-Tools zum Schutz von Kindern konnten wir uns von der Wirksamkeit unserer Sicherheitsmaßnahmen überzeugen. Auch weiterhin kommt es auf Nextdoor nur extrem selten zu Vorfällen wegen der Darstellung des sexuellen Missbrauchs von Kindern.“ – Nextdoor
„Substack baut seine Videofunktionen kontinuierlich weiter aus. Der Schutz unserer Community, insbesondere der Schutz Minderjähriger, bleibt dabei eine unserer wichtigsten Prioritäten. Unsere Nutzer sollen uns vertrauen können. Damit das gelingt, sind moderne Technologien zur Erkennung von visuellen Darstellungen des sexuellen Missbrauchs von Kindern für uns unverzichtbar. Die Tools von Google helfen uns dabei, schädliche Inhalte schnell und präzise zu identifizieren und zu entfernen – damit unsere Plattform für Creator und ihr Publikum so sicher wie möglich bleibt.“ – Substack
„CSAI Match bleibt ein wichtiger Pfeiler unserer Bemühungen zum Schutz von Kindern. Die Technologie hilft uns dabei, Videos, die den sexuellen Missbrauch von Kindern zeigen, in großem Umfang effizienter zu identifizieren.“ – Adobe
„Die Bekämpfung der wachsenden Anzahl von Darstellungen des sexuellen Missbrauchs von Kindern in Videos stellt uns vor neue Herausforderungen und erfordert neue Technologien. CSAI Match hat sich als Teil der Lösung bewährt. Damit können wir solche Darstellungen in Videos besser erkennen und von unseren Plattformen entfernen.“ – Yahoo!
„Die Content Safety API hilft Analyseteams beim Identifizieren und Priorisieren von Bildern, die sexuellen Missbrauch von Minderjährigen zeigen. Angesichts der ständig steigenden Anzahl von Meldungen, die bearbeitet werden müssen, ist die erfolgreiche Priorisierung eine echte Herausforderung. Mit dieser Technologie können sich Analyseteams schneller die Meldungen zu Inhalten ansehen, in denen sexueller Missbrauch von Minderjährigen dargestellt wird. Daher können sie auch schneller handeln, um die Opfer zu schützen und die Inhalte zu entfernen.“ – Point de Contact
„Die Content Safety API ließ sich im Handumdrehen integrieren und ist reaktionsschnell, stabil und genau. Bei der Content-Analyse muss unser Team nun wesentlich weniger Zeit für die Überprüfung von Bildern mit Darstellungen des sexuellen Missbrauchs von Kindern aufwenden. Außerdem trug die API zur Optimierung des Analyseprozesses bei und konnte so auch unsere Teams mental entlasten.“ – SaferNet Brasil
1
/
FAQ
Content Safety API
In welchem Format werden die Daten an die Content Safety API gesendet?
Wir haben die Möglichkeit, sowohl Rohdaten als auch eingebettete Inhalte, die aus Mediendateien abgeleitet wurden, zu unterstützen. Wenn Sie weitere Informationen wünschen, können Sie sich an uns wenden.
Wer kann sich für die Nutzung der Technologie und der Content Safety API anmelden?
Unternehmen und zivilgesellschaftliche Interessenten, die Missbrauch auf ihren Plattformen bekämpfen und verhindern möchten, können sich für die Content Safety API anmelden. Die Anfragen werden dann von uns geprüft.
Warum stellt Google diese Tools so umfassend zur Verfügung?
Am wirkungsvollsten können wir die Ausbeutung von Kindern im Internet bekämpfen, wenn wir uns mit anderen Unternehmen und mit Nichtregierungsorganisationen zusammenschließen. Darum arbeiten wir mit unseren Partnern schon seit Langem gemeinsam daran, neue datengestützte Tools zu entwickeln, die technischen Möglichkeiten insgesamt zu erweitern und ein generelles Bewusstsein für die Existenz von Darstellungen des sexuellen Missbrauchs von Kindern zu schaffen. Wir haben diese Tools vielen unserer Partner zugänglich gemacht, damit sie Inhalte besser in großem Maßstab überprüfen können. Damit leisten wir nach unserer Überzeugung einen wichtigen Beitrag im Kampf gegen die Ausbeutung von Kindern.
CSAI Match
Funktioniert CSAI Match bei Bildern?
CSAI Match wurde für Videos entwickelt. Die Content Safety API von Google bietet unseren Partnern bei Nichtregierungsorganisationen und in der Branche aber eine Reihe von Tools, durch die man Bilder mithilfe von maschinellem Lernen klassifizieren kann.Weitere Informationen
Welche Informationen werden im Falle einer Übereinstimmung zurückgegeben?
Bei einem Treffer wird angegeben, welcher Teil des Videos mit bekannten Darstellungen des sexuellen Missbrauchs von Kindern übereinstimmt. Außerdem findet eine standardisierte Kategorisierung der Art der abgeglichenen Inhalte statt.
Weshalb ist die CSAI Match-Technologie so effizient?
CSAI Match erkennt fast identische Segmente von bekannten Inhalten mit Darstellungen des sexuellen Missbrauchs von Kindern. Hierzu zählen vollständige Duplikate, die beim Abgleich von MD5-Hashes ermittelt wurden, sowie fast identische Segmente, also beispielsweise Neucodierungen, Verschleierungen, Kürzungen oder Skalierungen von Videos mit Darstellungen des sexuellen Missbrauchs von Kindern – selbst wenn ein Video nur einen kleinen Teil dieser Darstellungen enthält, der möglicherweise mit anderen Inhalten vermischt ist. Die Partner führen ein Fingerprinting-Binärprogramm aus, um einen „Fingerabdruck“ (engl. „fingerprint“) des Videos zu erstellen. Dies ist eine Bytesequenz, die einem MD5-Hash ähnelt. Die Bytesequenz wird dann an den CSAI Match-Dienst von Google gesendet, der speziell auf effiziente Scans von Videos und deren Abgleich mit dem YouTube-Korpus bekannter Referenzen mit Darstellungen des sexuellen Missbrauchs von Kindern ausgelegt ist.
