Sexuellen Missbrauch von Kindern online bekämpfen
Wir bekämpfen den sexuellen Missbrauch und die Ausbeutung von Kindern im Internet mit allen Mitteln und ergreifen umfassende Maßnahmen, um die Präsenz solcher Inhalte auf unseren Plattformen zu verhindern, sie zu erkennen, zu entfernen und zu melden.
In Kooperation mit Nichtregierungsorganisationen und anderen Unternehmen haben wir Initiativen ins Leben gerufen, um unser technisches Fachwissen weiterzugeben und Tools für die gemeinsame Nutzung zu entwickeln. Auf diese Weise können wir Organisationen bei der Bekämpfung von Darstellungen des sexuellen Missbrauchs von Kindern helfen.
Weitere Informationen zu unserem Toolkit zum Schutz von Kindern finden Sie hier.
Bekämpfung von Missbrauch auf unseren eigenen Plattformen und Diensten
Google engagiert sich seit vielen Jahren dafür, missbräuchliche und ausbeuterische Inhalte so schnell wie möglich aufzuspüren und sofort zu entfernen. Wir setzen umfangreiche technologische, personelle und zeitliche Ressourcen ein, um zu verhindern, das explizite Inhalte in unseren Ergebnissen angezeigt werden. Dazu gehört, diese Inhalte direkt zu erkennen, zu entfernen und natürlich auch zu melden. Außerdem reagieren wir auf ungewöhnliches Nutzerverhalten, das auf Interesse an sexuellem Missbrauch von Kindern hindeuten könnte, und setzen Warnungen ein, um eine abschreckende Wirkung zu erzielen.
Wie engagieren wir uns?
Missbrauch verhindern
Wir möchten Missbrauch verhindern und deshalb dafür sorgen, dass Kinder unsere Produkte bestmöglich geschützt verwenden können. Darüber hinaus nutzen wir sämtliche verfügbaren Statistiken und Forschungsdaten, damit wir bedrohliche Entwicklungen und neuartige Verbrechen erkennen und darauf reagieren können. Wir gehen nicht nur gegen illegale Darstellungen des sexuellen Missbrauchs von Kindern, sondern auch gegen weiter gefasste Inhalte vor, die den sexuellen Missbrauch von Kindern fördern und Kinder einem Risiko aussetzen können.
Erkennen und melden
Wir identifizieren und melden Darstellungen des sexuellen Missbrauchs von Kindern mithilfe von geschulten Expertenteams und innovativer Technologie. Dabei kommen Klassifikatoren, die auf maschinellem Lernen basieren, und eine Technologie für den Abgleich von Hashes zum Einsatz, die für ein Bild oder ein Video einen „Hash“ oder eindeutigen digitalen Fingerabdruck erstellt, der sich mit Hashes von bekannten Darstellungen des sexuellen Missbrauchs von Kindern vergleichen lässt. Wenn wir auf solche Darstellungen stoßen, melden wir sie dem National Center for Missing & Exploited Children (NCMEC), das mit Strafverfolgungsbehörden auf der ganzen Welt kooperiert.
Global zusammenarbeiten
Wir arbeiten mit dem National Center for Missing & Exploited Children (NCMEC; US-amerikanische Nichtregierungsorganisation für den Schutz von Kindern und Jugendlichen) und anderen Organisationen auf der ganzen Welt zusammen, um Darstellungen des sexuellen Missbrauchs von Kindern im Internet zu bekämpfen. Dabei gehen wir enge Partnerschaften mit Nichtregierungsorganisationen und branchenweite Koalitionen ein, damit wir unser Wissen über die sich ändernden Verbreitungsformen des sexuellen Missbrauchs und der Ausbeutung von Kindern austauschen und erweitern können.
Unsere Vorgehensweise
Bekämpfung des sexuellen Missbrauchs von Kindern in der Google Suche
In der Google Suche können Sie problemlos nach Inhalten suchen – doch unter allen Umständen möchten wir vermeiden, dass dabei gesetzeswidrige Seiten oder Inhalte angezeigt werden, die sexuelle Ausbeutung von Kindern darstellen. Gemäß unseren Richtlinien blockieren wir daher Suchergebnisse, die zu Darstellungen des sexuellen Missbrauchs von Kindern oder zu Inhalten führen, in denen Kinder tatsächlich oder anscheinend zu Schaden kommen oder gefährdet oder anderweitig ausgebeutet werden. Wir aktualisieren unsere Algorithmen ständig, um unsere Nutzer bestmöglich vor solchen gefährdenden Inhalten zu schützen.
Wird unserer Einschätzung nach nach Inhalten mit Darstellungen des sexuellen Missbrauchs von Kindern gesucht, treffen wir besondere Vorkehrungen: Bei solchen Suchanfragen filtern wir Ergebnisse mit expliziten pornografischen Ergebnissen heraus. Falls in der Google Suche nach nicht jugendfreien expliziten Inhalten gesucht wird, werden keine Bilder zurückgegeben, auf denen Kinder zu sehen sind, da Kinder und pornografische Inhalte in keinerlei Zusammenhang zueinander gestellt werden. In vielen Ländern wird Nutzern, die nach Darstellungen mit eindeutigem Bezug zu sexuellem Missbrauch von Kindern suchen, eine deutlich sichtbare Warnung angezeigt: Bilder mit solchen Darstellungen sind illegal. Darüber hinaus werden die Nutzer darüber informiert, dass sie diese Inhalte an vertrauenswürdige Organisationen melden können, darunter die Internet Watch Foundation im Vereinigten Königreich (UK), das Canadian Centre for Child Protection in Kanada und Te Protejo in Kolumbien. Wenn diese Warnungen eingeblendet werden, ist es weniger wahrscheinlich, dass Nutzer weiter nach derartigem Material suchen.
Maßnahmen von YouTube zur Bekämpfung von ausbeuterischen Videos und Materialien
Wir hatten schon immer eindeutige Richtlinien für Videos, Playlists, Thumbnails und Kommentare auf YouTube, in denen Kinder sexualisiert oder ausgebeutet werden. Mithilfe von maschinellem Lernen erkennen wir proaktiv Verstöße gegen diese Richtlinien. Außerdem haben wir Prüfer auf der ganzen Welt, die von unseren Systemen erkannte und von Nutzern sowie unseren Trusted Flaggern gemeldete Inhalte schnell entfernen.
Zwar verstoßen nicht alle Inhalte mit Minderjährigen gegen unsere Richtlinien, es kann aber trotzdem sein, dass die Gefahr einer Ausbeutung besteht – online oder im echten Leben. Aus diesem Grund gehen wir bei der Durchsetzung dieser Richtlinien besonders sorgfältig vor. Unsere automatisierten Systeme helfen uns dabei, Videos direkt zu erkennen, in denen Minderjährige potenziellen Gefahren ausgesetzt sind. Sie wenden außerdem umfassende Schutzmaßnahmen an, wie die Einschränkung von Funktionen in Livestreams, die Deaktivierung von Kommentaren und die Begrenzung von Videoempfehlungen.
Unser Transparenzbericht zu Darstellungen des sexuellen Missbrauchs von Kindern
Im Jahr 2021 haben wir einen Transparenzbericht über die Bemühungen von Google zur Bekämpfung von Online-Darstellungen des sexuellen Missbrauchs von Kindern veröffentlicht, in dem genau angegeben ist, wie viele Meldungen an das NCMEC erfolgt sind. Der Bericht enthält auch Daten dazu, wie wir bei YouTube Ergebnisse mit Darstellungen des sexuellen Missbrauchs von Kindern in der Suche erkennen und diese daraus entfernen. Außerdem ist darin angegeben, wie viele Konten aufgrund von Verstößen gegen unsere Richtlinien zum Schutz von Kindern und Jugendlichen in unseren gesamten Diensten deaktiviert wurden.
Darüber hinaus enthält der Transparenzbericht Informationen zur Anzahl der Hashes von Darstellungen des sexuellen Missbrauchs von Kindern, die wir an das NCMEC weitergeben. Anhand dieser Hashes können andere Plattformen solche Darstellungen schneller und einfacher identifizieren. Beiträge zur Hash-Datenbank des NCMEC sind eine der wichtigsten Möglichkeiten, die wir und andere in der Branche haben, um die Bekämpfung von Darstellungen des sexuellen Missbrauchs von Kindern zu unterstützen. Das Material wird anschließend seltener wieder in Umlauf gebracht und missbrauchte Kinder werden somit auch seltener nochmals zu Opfern.
Unangemessenes Verhalten in unseren Produkten melden
Wir müssen Kinder, die unsere Produkte verwenden, vor Verführung, sexueller Erpressung, Menschenhandel und anderen Formen von sexueller Ausbeutung schützen. Daher legen wir ein besonderes Augenmerk darauf, dass Kinder unsere Produkte mit geringstmöglicher Gefährdung nutzen können. Wir stellen auch nützliche Informationen bereit, auf deren Grundlage Nutzer Darstellungen des sexuellen Missbrauchs von Kindern leichter an die relevanten Behörden melden können.
Falls Nutzer den Verdacht haben, dass ein Kind in Google-Produkten wie Gmail oder Hangouts gefährdet sein könnte, können sie ihre Beobachtungen über dieses Formular melden. Außerdem können sie unangemessene Inhalte auf YouTube kennzeichnen und eine missbräuchliche Nutzung in Google Meet über die Hilfe und direkt im Produkt melden. Darüber hinaus stellen wir Informationen zum Vorgehen bei Bedenken im Hinblick auf Mobbing und Belästigung bereit, darunter auch Angaben dazu, wie Nutzer an der Kontaktaufnahme mit Kindern gehindert werden können. Weitere Informationen über unsere Maßnahmen zum Schutz von Kindern finden Sie in den Community-Richtlinien von YouTube und im Google Sicherheitscenter.
Tools zur Bekämpfung von Darstellungen des sexuellen Missbrauchs von Kindern entwickeln und teilen
Wir nutzen unser technisches Fachwissen und hauseigene Innovationen, um Kinder zu schützen und andere dabei zu unterstützen, dies ebenfalls zu tun. Daher bieten wir unsere hochmoderne Technologie bestimmten Organisationen auch kostenlos an, damit sie ihre Abläufe verbessern, beschleunigen und sicherer gestalten können. Interessierte Organisationen können die Nutzung unserer Tools zum Schutz von Kindern hier beantragen.
Content Safety API
Verwendungszweck: Statische Bilder und bisher unbekannte Inhalte
Google arbeitet seit vielen Jahren an der Entwicklung von ML-Klassifikatoren. Mit diesen möchten wir bisher unbekannte Bilder mit Darstellungen des sexuellen Missbrauchs von Kindern proaktiv erkennen, sodass sie überprüft und, sollten tatsächlich derartige Darstellungen nachgewiesen werden, schnellstmöglich entfernt und gemeldet werden können. Diese Technologie liegt der Content Safety API zugrunde, mit der Organisationen potenziell missbräuchliche Inhalte klassifizieren und für die Überprüfung priorisieren können. In der ersten Hälfte des Jahres 2021 klassifizierten unsere Partner mithilfe der Content Safety API über 6 Milliarden Bilder. Dank der schnelleren und genaueren Identifizierung illegaler Inhalte können sie diese auch schneller an die zuständigen Behörden melden.
CSAI Match
Verwendungszweck: Abgleich von Video-Hashes
Im Jahr 2014 entwickelten YouTube-Experten eine Technologie, mit deren Hilfe bekannte Videos mit Darstellungen des sexuellen Missbrauchs von Kindern markiert und entfernt werden. Über CSAI Match, eine API zur Identifikation erneuter Uploads von bereits identifizierten Videos mit solchen Darstellungen, ermöglichen wir auch anderen die Nutzung dieser Technologie. CSAI Match wird von Nichtregierungsorganisationen und Unternehmen eingesetzt, um Übereinstimmungen mit unserer Datenbank bekannter missbräuchlicher Inhalte zu identifizieren und so in Einklang mit den lokalen Gesetzen und Bestimmungen verantwortungsvoll dagegen vorzugehen.
Partnerschaften und Programme
Wir sind aktives Mitglied verschiedener Koalitionen, beispielsweise der Technology Coalition, der ICT Coalition, der WeProtect Global Alliance sowie INHOPE und der Fair Play Alliance, in deren Rahmen Unternehmen und Nichtregierungsorganisationen gemeinsam Lösungen entwickeln, um den Austausch von Missbrauchsdarstellungen von Kindern im Internet zu unterbinden und die sexuelle Ausbeutung von Kindern zu verhindern.
Gemeinsam finanzieren wir Forschungsinitiativen zum Schutz von Kindern und teilen Tools und Wissen. Dies gilt beispielsweise für unsere Statistiken in Transparenzberichten, für die produktinterne Erkennung und operative Prozesse.
In Zusammenarbeit mit
Ad Grants über Google.org
Google.org stellt Organisationen wie INHOPE und ECPAT International, die in der Bekämpfung des sexuellen Missbrauchs und der Ausbeutung von Kindern eine Vorreiterrolle haben, finanzielle Mittel bereit. Außerdem hat Google.org gemeinnützigen Organisationen, die Hotlines zur Meldung von Kindesmissbrauch oder Helplines für Opfer betreiben, seit 2003 Werbebudgets in Höhe von insgesamt etwa 90 Millionen $ zur Verfügung gestellt.
Google Fellow-Programm
Wir finanzieren technische Stipendien bei Organisationen, die sich dem Kampf gegen den Kindesmissbrauch verschrieben haben, z. B. das NCMEC und Thorn. Google schult außerdem Mitarbeiter von Strafverfolgungsbehörden, die Straftaten gegen Kinder im Internet untersuchen. Solche Schulungen werden beispielsweise im Rahmen der Crimes Against Children Conference und des National Law Enforcement Training on Child Exploitation angeboten.