We hebben bij Google en YouTube tools ontwikkeld om organisaties te helpen kinderen te beschermen door betere prioriteiten te stellen voor de beoordeling van ongeoorloofde content.
Centraal in deze toolkit staan twee API's, de API voor contentveiligheid en de CSAI Match, die we kosteloos aanbieden aan partners die in aanmerking komen. Onze partners gebruiken deze technologieën om miljarden bestanden te verwerken, waardoor ze elk jaar miljoenen afbeeldingen en video's kunnen beoordelen op misbruik.
Betere prioriteiten
De API's helpen in de bestrijding van online uitbuiting van kinderen door ongeoorloofde content prioriteit te geven voor handmatige beoordeling.
Snellere identificatie
Het sneller identificeren van content vergroot de kans dat slachtoffers kunnen worden geïdentificeerd en beschermd tegen verder misbruik.
Veiligere activiteiten
Door review-wachtrijen efficiënter en effectiever te maken, vermindert ook de werkbelasting voor moderators van menselijke content.
Meer informatie over onze tools
Onze tools hebben aanvullende mogelijkheden. Ze kunnen samen en met andere oplossingen worden gebruikt om aan verschillende behoeften te voldoen.
API voor contentveiligheid
Classificeren van ongeziene afbeeldingen en videos
CSAI MATCH
Bekende ongeoorloofde videosegmenten matchen
API voor contentveiligheid
Classificeren van ongeziene afbeeldingen en videos
API voor contentveiligheid GEBRUIKT VOOR: CLASSIFICEREN VAN EERDER ONGEZIENE AFBEELDINGEN EN VIDEO'S
De classificatie van de API voor contentveiligheid gebruikt programmatische toegang en artificial intelligence om onze partners te helpen bij het indelen van en prioriteit geven aan miljarden afbeeldingen en video's voor beoordeling. Hoe hoger de prioriteit die door de classificatie wordt gegeven, hoe groter de kans dat het mediabestand misbruik bevat. De hogere prioriteit kan partners helpen om voorrang te geven aan hun handmatige beoordeling en zelf de content te bepalen. De API voor contentveiligheid evalueert content en stelt een prioriteit. Partners moeten hun eigen beoordeling uitvoeren om te bepalen of ze moeten optreden tegen de content.
Voor hulp bij het indelen, rangschikken en organiseren van de wachtrij raden we organisaties aan om de API voor contentveiligheid te gebruiken vlak voor het handmatige beoordelingsproces. De API voor contentveiligheid kan naast andere oplossingen worden gebruikt, zoals de CSAI Match-videohashtool van YouTube of PhotoDNA van Microsoft, die elk aan verschillende behoeften voldoen.
Hoe het werkt?
1. Ophalen van bestanden
Bestanden worden door de partner via verschillende manieren opgehaald, bijvoorbeeld gerapporteerd door een gebruiker, geïdentificeerd door crawlers of filters die de partner heeft gemaakt om content op hun platform te modereren.
2. API-beoordeling
De mediabestanden worden dan via een eenvoudige API-aanroep naar de API voor contentveiligheid gestuurd. Ze worden door classificaties geleid om de beoordelingsprioriteit te bepalen. Daarna wordt de prioriteitswaarde voor elk van de content teruggestuurd naar de partner.
3. Handmatige beoordeling
Partners gebruiken de prioriteitswaarde om de bestanden te rangschikken die eerst aandacht nodig hebben voor handmatige beoordelingen.
4. Actie ondernemen
Nadat bestanden met afbeeldingen en video's handmatig zijn beoordeeld, kan de partner optreden tegen de content in overeenstemming met de lokale wet- en regelgeving.
PARTNER
GOOGLE
PARTNER
PARTNER
Door gebruikers gerapporteerde afbeeldingen of video's
Crawlers
Voorfilters (porno/andere classificaties)
I
API voor contentveiligheid
I
Classificatietechnologie
I
Handmatige beoordeling
I
Passende actie
CSAI MATCH
Bekende ongeoorloofde videosegmenten matchen
CSAI Match GEBRUIKT VOOR: OVEREENKOMSTEN ZOEKEN MET BEKENDE VIDEOSEGMENTEN MET MISBRUIK
CSAI Match is de eigen technologie van YouTube voor het online bestrijden van beelden en video's van seksueel misbruik van kinderen. Dit is de eerste technologie waarbij hashmatching wordt gebruikt om bekende schendende content te identificeren. We zetten deze technologie in om dit type schendende content te herkennen uit een grote hoeveelheid videocontent dat ons beleid niet schendt. Als er een match met schendende content wordt gevonden, wordt dit gemeld bij partners. Zij kunnen dit dan beoordelen, bevestigen en op verantwoorde wijze melden in overeenstemming met de lokale wet- en regelgeving. YouTube stelt CSAI Match beschikbaar voor partners in de branche en ngo's. We geven toegang tot de vingerafdruksoftware en een API om matches te vinden in onze database van bekende ongeoorloofde content.
Onlineplatforms kunnen voorkomen dat schendende content wordt weergegeven en gedeeld op hun sites door CSAI Match te gebruiken om hun content te vergelijken met een van de grootste indexen van bekende content met beelden van seksueel misbruik van kinderen. Partners kunnen CSAI Match eenvoudig integreren in hun systeem, waardoor ze uitdagend contentmanagement beter kunnen schalen.
Hoe het werkt?
1. Video-fingerprinting
Er wordt een video geüpload naar het partnerplatform. De CSAI Match Fingerprinter maakt op het partnerplatform een vingerafdrukbestand van de video. Dit is een digitale ID die op unieke wijze de content van het videobestand vertegenwoordigt.
2. API-beoordeling
De partner stuurt het vingerafdrukbestand naar de CSAI Match-API, die het bestand vergelijkt met de andere bestanden in de vingerafdrukopslagplaats van YouTube. De opslagplaats bevat vingerafdrukken van bekende ongeoorloofde content die is herkend door YouTube en Google.
3. Handmatige beoordeling
Een positieve of negatieve overeenkomst wordt teruggestuurd naar de partner zodra de aanroep van de API is voltooid. Op basis van de informatie van de overeenkomst beoordeelt de partner de video handmatig om te verifiëren dat het gaat om beelden van seksueel misbruik van kinderen.
4. Actie ondernemen
Nadat de afbeeldingen zijn beoordeeld, kan de partner actie ondernemen tegen de content in overeenstemming met de lokale wet- en regelgeving.
PARTNER
YOUTUBE
PARTNER
PARTNER
Videobestand
I
Vingerafdruk
I
Vingerafdrukbestand
I
CSAI Match-API
I
CSAI Match-technologie
I
Gedeelde beelden van seksueel misbruik van kinderen Opslagplaats van vingerafdrukken
“De hashmatching-oplossing van Google heeft een revolutie teweeggebracht in onze workflows en heeft geleid tot betere, snellere resultaten. Dankzij de aanzienlijke bijdrage van Google aan het National Center for Missing & Exploited Children, verminderen de geautomatiseerde processen de behoefte aan handmatige beoordelingen van eerder gemelde materiaal met seksueel misbruik van kinderen, waardoor personeel minder wordt blootgesteld. Het is van cruciaal belang dat deze afbeeldingen zo snel mogelijk worden verwijderd, want elke keer dat de foto van een kind opnieuw wordt gedeeld, wordt het opnieuw slachtoffer. Hierdoor kunnen we onze aandacht richten op nieuwe en nog niet bekende minderjarige slachtoffers en overlevenden.” - National Center for Missing & Exploited Children
“Het implementeren van de API voor contentveiligheid van Google is een enorme overwinning voor ons platform, dat honderden miljoenen door gebruikers geüploade documenten host. De API scant op efficiënte wijze grote hoeveelheden afbeeldingen op mogelijk aanstootgevend materiaal en garandeert zo een veiligere digitale omgeving voor onze gebruikers. Dankzij de hoge verwerkingssnelheid en nauwkeurigheid konden we ons richten op beoordeling, interventie en support.” - Scribd, Inc.
“Met de tools rond kinderveiligheid van Google hebben we kunnen valideren dat de veiligheidsmaatregelen die we hebben genomen werken, en we blijven recordwinnende lage eencijferige incidenties van materiaal met seksueel misbruik van kinderen op Nextdoor zien.” - Nextdoor
“Terwijl Substack zijn videomogelijkheden blijft uitbreiden, blijft het waarborgen van de veiligheid van onze gemeenschap en in het bijzonder het beschermen van minderjarigen, een topprioriteit voor Vertrouwen en Veiligheid. Het gebruik van geavanceerde beeldvormingstechnologieën voor de opsporing van beelden van seksueel misbruik van kinderen heeft een belangrijke rol gespeeld bij het aangaan van deze kritieke veiligheidsuitdagingen. Met de tools van Google kunnen we snel en nauwkeurig schadelijke content identificeren en verwijderen, zodat ons platform een veiligere ruimte blijft voor makers en het publiek.” - Substack
“CSAI Match blijft een belangrijke pijler van het veiligheidsprogramma voor kinderen van Adobe. Het gebruik van deze technologie is een effectieve manier gebleken om video's over seksueel misbruik van kinderen efficiënter en op grotere schaal te detecteren.” - Adobe
“De bestrijding van de opkomst van op video's gebaseerd materiaal met seksueel misbruik van kinderen zorgt voor nieuwe uitdagingen en vereist nieuwe technologie. CSAI Match heeft bewezen onderdeel te zijn van de oplossing, waardoor we video's met materiaal met seksueel misbruik van kinderen beter kunnen herkennen en verwijderen van onze platforms.” - Yahoo!
“De API voor contentveiligheid helpt analisten bij het identificeren van afbeeldingen met seksueel misbruik van minderjarigen en stelt de juiste prioriteiten. Gezien het steeds groter wordende aantal meldingen dat verwerkt moet worden, is het een echte uitdaging om de beoordeling van die meldingen de juiste prioriteit te geven. Deze technologie toont analisten sneller meldingen over content met seksueel misbruik van minderjarigen. Hierdoor kunnen ze sneller handelen om slachtoffers te beschermen en de content te verwijderen.” - Point de Contact
"De API voor contentveiligheid is makkelijk te integreren, reageert snel, en is stabiel en nauwkeurig. Het heeft de hoeveelheid tijd die contentanalisten besteden aan het beoordelen van afbeeldingen met seksueel misbruik van kinderen aanzienlijk verminderd, het analyseproces geoptimaliseerd en een positieve invloed gehad op hun welzijn." - Safernet Brasil
1
/
Veelgestelde vragen
API voor contentveiligheid
Wat is gegevensindeling die naar de API voor contentveiligheid wordt gestuurd?
We hebben opties om zowel onbewerkte inhoudbytes als van mediabestanden afgeleide toevoegingen te ondersteunen. Neem contact op voor meer details.
Wie kan zich aanmelden voor toegang tot de technologie en de API voor contentveiligheid?
Derden uit de branche en de maatschappij die hun platform willen beschermen tegen misbruik, kunnen zich aanmelden voor toegang tot de API voor contentveiligheid. Aanvragen moeten eerst worden goedgekeurd.
Waarom maken jullie deze tools zo breed beschikbaar?
De beste manier om online uitbuiting van kinderen tegen te gaan, is volgens ons om samen te werken met andere technologiebedrijven en ngo's. We werken al lange tijd samen binnen de branche en met ngo's om de ontwikkeling van nieuwe gegevensgestuurde tools te ondersteunen, de capaciteit een technische boost te geven en de bekendheid te vergroten. We zijn van mening dat het algemeen beschikbaar maken van deze tools een belangrijk onderdeel van deze strijd is, zodat onze partners AI kunnen gebruiken om content op grote schaal beter te beoordelen.
CSAI Match
Werkt CSAI Match voor afbeeldingen?
CSAI Match is ontworpen voor video's, maar via de API voor contentveiligheid van Google is een set tools beschikbaar die ngo- en branchepartners kunnen gebruiken voor door machine learning aangestuurde classificatie van afbeeldingen. Meer informatie.
Welke informatie wordt meegestuurd met een geïdentificeerde overeenkomst?
De overeenkomst identificeert welk deel van de video overeenkomt met bekende beelden van seksueel misbruik van kinderen en geeft ook een gestandaardiseerde categorisatie van het type content dat werd gevonden.
Waardoor is de CSAI Match-technologie zo efficiënt?
CSAI Match herkent segmenten die vrijwel hetzelfde zijn als bekende beelden van seksueel misbruik van kinderen. Hieronder vallen volledige kopieën die MD5-hashmatching kan herkennen en segmenten die bijna kopieën zijn. Dit zijn bijvoorbeeld hercoderingen, vermommingen, inkortingen of schalingen van video's met beelden van seksueel misbruik van kinderen. Zelfs als een video maar een klein deel van beelden van seksueel misbruik van kinderen bevat, mogelijk vermengd met content zonder beelden van seksueel misbruik van kinderen, kan deze worden herkend. Partners voeren een binair vingerafdrukbestand uit om een vingerafdruk van de video te maken: een bytereeks die lijkt op een MD5-hash. Die wordt dan naar de CSAI Match-service van Google gestuurd, die speciaal is ontworpen om een video efficiënt te kunnen vergelijken met het corpus van YouTube van bekende referenties van beelden van seksueel misbruik van kinderen.
