Ontdek onze toolkit voor kindveiligheid
Betere prioriteiten
De API's helpen in de bestrijding van online uitbuiting van kinderen door ongeoorloofde content prioriteit te geven voor handmatige beoordeling.
Snellere identificatie
Het sneller identificeren van content vergroot de kans dat slachtoffers kunnen worden geïdentificeerd en beschermd tegen verder misbruik.
Veiligere activiteiten
Door review-wachtrijen efficiënter en effectiever te maken, vermindert ook de werkbelasting voor moderators van menselijke content.
Meer informatie over onze tools
Onze tools hebben aanvullende mogelijkheden. Ze kunnen samen en met andere oplossingen worden gebruikt om aan verschillende behoeften te voldoen.
API voor contentveiligheid
Voorheen ongeziene afbeeldingen classificeren
CSAI Match
Bekende ongeoorloofde videosegmenten matchen
API voor contentveiligheid
Gebruikt voor: Voorheen ongeziene afbeeldingen classificeren
De classificatie van de API voor contentveiligheid gebruikt programmatische toegang en kunstmatige intelligentie om onze partners te helpen bij het indelen van en prioriteit geven aan miljarden afbeeldingen voor beoordeling. Hoe hoger de prioriteit die door de classificatie wordt gegeven, hoe groter de kans dat de afbeelding ongeoorloofd materiaal bevat. De hogere prioriteit kan partners helpen om voorrang te geven aan hun handmatige beoordeling en zelf de content te bepalen. De API voor contentveiligheid evalueert content en stelt een prioriteit. Partners moeten hun eigen beoordeling uitvoeren om te bepalen of ze moeten optreden tegen de content.
Voor hulp bij het indelen, prioriteit geven aan en organiseren van de wachtrij raden we organisaties aan om de API voor contentveiligheid te gebruiken vlak voor het handmatige beoordelingsproces. De API voor contentveiligheid kan naast andere oplossingen worden gebruikt, zoals de CSAI Match-videohashtool van YouTube of PhotoDNA van Microsoft, die elk aan verschillende behoeften voldoen.
Hoe het werkt?
1. Ophalen van afbeeldingen
Afbeeldingen worden door de partner via verschillende manieren opgehaald, bijvoorbeeld gerapporteerd door een gebruiker, geïdentificeerd door crawlers of filters die de partner heeft gemaakt om afbeeldingen op hun platform te modereren.
Partner
Afbeeldingen gerapporteerd door gebruikers
Crawlers
Voorfilters
(porno/andere classificaties)
2. API-beoordeling
De afbeeldingsbestanden worden dan via een eenvoudige API-aanroep naar de API voor contentveiligheid gestuurd. Ze worden door classificaties geleid om de beoordelingsprioriteit te bepalen. Daarna wordt de prioriteitswaarde voor elk van de afbeeldingen teruggestuurd naar de partner.
API voor contentveiligheid
Classificatietechnologie
3. Handmatige beoordeling
Partners gebruiken de waarde om prioriteit te geven aan de afbeeldingen die eerst aandacht nodig hebben voor handmatige beoordelingen.
Partner
Handmatige beoordeling
4. Actie ondernemen
Nadat afbeeldingen handmatig zijn beoordeeld, kan de partner optreden tegen de content in overeenstemming met de lokale wet- en regelgeving.
Partner
Passende actie
CSAI Match
Gebruikt voor: Bekende ongeoorloofde videosegmenten matchen
CSAI Match is de eigen technologie van YouTube voor het online bestrijden van beelden en video's van seksueel misbruik van kinderen. Dit is de eerste technologie waarbij hashmatching wordt gebruikt om bekende schendende content te identificeren. We zetten deze technologie in om dit type schendende content te herkennen uit een grote hoeveelheid videocontent dat ons beleid niet schendt. Als er een match met schendende content wordt gevonden, wordt dit gemeld bij partners. Zij kunnen dit dan beoordelen, bevestigen en op verantwoorde wijze melden in overeenstemming met de lokale wet- en regelgeving. YouTube stelt CSAI Match beschikbaar voor partners in de branche en ngo's. We geven toegang tot de vingerafdruksoftware en een API om matches te vinden in onze database van bekende ongeoorloofde content.
Onlineplatforms kunnen voorkomen dat schendende content wordt weergegeven en gedeeld op hun sites door CSAI Match te gebruiken om hun content te vergelijken met een van de grootste indexen van bekende content met beelden van seksueel misbruik van kinderen. Partners kunnen CSAI Match eenvoudig integreren in hun systeem, waardoor ze uitdagend contentmanagement beter kunnen schalen.
Hoe het werkt?
1. Video-fingerprinting
Er wordt een video geüpload naar het partnerplatform. De CSAI Match Fingerprinter maakt op het partnerplatform een vingerafdrukbestand van de video. Dit is een digitale ID die op unieke wijze de content van het videobestand vertegenwoordigt.
Partner
Videobestand
Fingerprinter
Vingerafdrukbestand
2. API-beoordeling
De partner stuurt het vingerafdrukbestand naar de CSAI Match-API, die het bestand vergelijkt met de andere bestanden in de vingerafdrukopslagplaats van YouTube. De opslagplaats bevat vingerafdrukken van bekende ongeoorloofde content die is herkend door YouTube en Google.
YouTube
CSAI Match-API
CSAI Match-technologie
Gedeelde beelden van seksueel misbruik van kinderen
Opslagplaats van vingerafdrukken
3. Handmatige beoordeling
Een positieve of negatieve overeenkomst wordt teruggestuurd naar de partner zodra de aanroep van de API is voltooid. Op basis van de informatie van de overeenkomst beoordeelt de partner de video handmatig om te verifiëren dat het gaat om beelden van seksueel misbruik van kinderen.
Partner
Handmatige beoordeling
4. Actie ondernemen
Nadat de afbeeldingen zijn beoordeeld, kan de partner actie ondernemen tegen de content in overeenstemming met de lokale wet- en regelgeving.
Partner
Passende actie
API voor contentveiligheid
Gebruikt voor: Voorheen ongeziene afbeeldingen classificeren
De classificatie van de API voor contentveiligheid gebruikt programmatische toegang en kunstmatige intelligentie om onze partners te helpen bij het indelen van en prioriteit geven aan miljarden afbeeldingen voor beoordeling. Hoe hoger de prioriteit die door de classificatie wordt gegeven, hoe groter de kans dat de afbeelding ongeoorloofd materiaal bevat. De hogere prioriteit kan partners helpen om voorrang te geven aan hun handmatige beoordeling en zelf de content te bepalen. De API voor contentveiligheid evalueert content en stelt een prioriteit. Partners moeten hun eigen beoordeling uitvoeren om te bepalen of ze moeten optreden tegen de content.
Voor hulp bij het indelen, prioriteit geven aan en organiseren van de wachtrij raden we organisaties aan om de API voor contentveiligheid te gebruiken vlak voor het handmatige beoordelingsproces. De API voor contentveiligheid kan naast andere oplossingen worden gebruikt, zoals de CSAI Match-videohashtool van YouTube of PhotoDNA van Microsoft, die elk aan verschillende behoeften voldoen.
API voor contentveiligheid
Gebruikt voor: Voorheen ongeziene afbeeldingen classificeren
Hoe het werkt?
1. Ophalen van afbeeldingen
Afbeeldingen worden door de partner via verschillende manieren opgehaald, bijvoorbeeld gerapporteerd door een gebruiker, geïdentificeerd door crawlers of filters die de partner heeft gemaakt om afbeeldingen op hun platform te modereren.
Partner
Afbeeldingen gerapporteerd door gebruikers
Crawlers
Voorfilters
(porno/andere classificaties)
2. API-beoordeling
De afbeeldingsbestanden worden dan via een eenvoudige API-aanroep naar de API voor contentveiligheid gestuurd. Ze worden door classificaties geleid om de beoordelingsprioriteit te bepalen. Daarna wordt de prioriteitswaarde voor elk van de afbeeldingen teruggestuurd naar de partner.
API voor contentveiligheid
Classificatietechnologie
3. Handmatige beoordeling
Partners gebruiken de waarde om prioriteit te geven aan de afbeeldingen die eerst aandacht nodig hebben voor handmatige beoordelingen.
Partner
Handmatige beoordeling
4. Actie ondernemen
Nadat afbeeldingen handmatig zijn beoordeeld, kan de partner optreden tegen de content in overeenstemming met de lokale wet- en regelgeving.
Partner
Passende actie
Interesse in het gebruik van onze toolkit?
Deel een paar details van je organisatie om je interesse te registreren
Het interesseformulier bekijken
CSAI Match
Gebruikt voor: Bekende ongeoorloofde videosegmenten matchen
CSAI Match is de eigen technologie van YouTube voor het online bestrijden van beelden en video's van seksueel misbruik van kinderen. Dit is de eerste technologie waarbij hashmatching wordt gebruikt om bekende schendende content te identificeren. We zetten deze technologie in om dit type schendende content te herkennen uit een grote hoeveelheid videocontent dat ons beleid niet schendt. Als er een match met schendende content wordt gevonden, wordt dit gemeld bij partners. Zij kunnen dit dan beoordelen, bevestigen en op verantwoorde wijze melden in overeenstemming met de lokale wet- en regelgeving. YouTube stelt CSAI Match beschikbaar voor partners in de branche en ngo's. We geven toegang tot de vingerafdruksoftware en een API om matches te vinden in onze database van bekende ongeoorloofde content.
Onlineplatforms kunnen voorkomen dat schendende content wordt weergegeven en gedeeld op hun sites door CSAI Match te gebruiken om hun content te vergelijken met een van de grootste indexen van bekende content met beelden van seksueel misbruik van kinderen. Partners kunnen CSAI Match eenvoudig integreren in hun systeem, waardoor ze uitdagend contentmanagement beter kunnen schalen.
CSAI Match
Gebruikt voor: Bekende ongeoorloofde videosegmenten matchen
Hoe het werkt?
1. Video-fingerprinting
Er wordt een video geüpload naar het partnerplatform. De CSAI Match Fingerprinter maakt op het partnerplatform een vingerafdrukbestand van de video. Dit is een digitale ID die op unieke wijze de content van het videobestand vertegenwoordigt.
Partner
Videobestand
Fingerprinter
Vingerafdrukbestand
2. API-beoordeling
De partner stuurt het vingerafdrukbestand naar de CSAI Match-API, die het bestand vergelijkt met de andere bestanden in de vingerafdrukopslagplaats van YouTube. De opslagplaats bevat vingerafdrukken van bekende ongeoorloofde content die is herkend door YouTube en Google.
YouTube
CSAI Match-API
CSAI Match-technologie
Gedeelde beelden van seksueel misbruik van kinderen
Opslagplaats van vingerafdrukken
3. Handmatige beoordeling
Een positieve of negatieve overeenkomst wordt teruggestuurd naar de partner zodra de aanroep van de API is voltooid. Op basis van de informatie van de overeenkomst beoordeelt de partner de video handmatig om te verifiëren dat het gaat om beelden van seksueel misbruik van kinderen.
Partner
Handmatige beoordeling
4. Actie ondernemen
Nadat de afbeeldingen zijn beoordeeld, kan de partner actie ondernemen tegen de content in overeenstemming met de lokale wet- en regelgeving.
Partner
Passende actie
Interesse in het gebruik van onze toolkit?
Deel een paar details van je organisatie om je interesse te registreren
Het interesseformulier bekijken
Interesse in het gebruik van onze toolkit?
Deel een paar details van je organisatie om je interesse te registreren
Het interesseformulier bekijkenAanbevelingen
“De hashmatching-oplossing van Google heeft een revolutie teweeggebracht in onze workflows en heeft geleid tot betere, snellere resultaten. Dankzij de aanzienlijke bijdrage van Google aan het National Center for Missing & Exploited Children, verminderen de geautomatiseerde processen de behoefte aan handmatige beoordelingen van eerder gemelde materiaal met seksueel misbruik van kinderen, waardoor ons personeel minder wordt blootgesteld. Het is van cruciaal belang dat deze afbeeldingen zo snel mogelijk worden verwijderd, want elke keer dat de foto van een kind opnieuw wordt gedeeld, wordt het opnieuw slachtoffer. Hierdoor kunnen we onze aandacht richten op nieuwe en nog niet bekende minderjarige slachtoffers en overlevenden.” - National Center for Missing & Exploited Children
“Via ons platform wordt visuele content toegankelijk. Wij zijn verantwoordelijk voor het effectieve beheer van alle content die door gebruikers wordt bijgedragen. Met de API voor contentveiligheid van Google en de achterliggende AI kunnen we een vervelend proces op een efficiënte manier stroomlijnen. Zo kunnen we aanstootgevende content snel beoordelen, verwijderen en melden, waardoor we ons steentje bijdragen aan een veiligere wereld.” - Plugon
"De API voor contentveiligheid is makkelijk te integreren, reageert snel, en is stabiel en nauwkeurig. Het heeft de hoeveelheid tijd die contentanalisten besteden aan het beoordelen van afbeeldingen met seksueel misbruik van kinderen aanzienlijk verminderd, het analyseproces geoptimaliseerd en een positieve invloed gehad op hun welzijn." - Safernet Brasil
“De API voor contentveiligheid is een gebruiksvriendelijke en schaalbare oplossing die we een paar maanden geleden hebben geïntegreerd. We zijn er vrij zeker van dat het een belangrijke technologie kan worden om onze gemeenschap te beschermen en het delen van ongepaste content te voorkomen.” - Yubo
“De API voor contentveiligheid helpt analisten bij het identificeren van afbeeldingen met seksueel misbruik van minderjarigen en stelt de juiste prioriteiten. Gezien het steeds groter wordende aantal meldingen dat verwerkt moet worden, is het een echte uitdaging om de beoordeling van die meldingen de juiste prioriteit te geven. Deze technologie toont analisten sneller meldingen over content met seksueel misbruik van minderjarigen. Hierdoor kunnen ze sneller handelen om slachtoffers te beschermen en de content te verwijderen.” - Point de Contact
"CSAI Match was eenvoudig te implementeren en blijft een effectieve tool om ons te helpen de verspreiding van materiaal met daarop seksueel misbruik van kinderen verder op te sporen en te verstoren." - Adobe
“De bestrijding van de opkomst van op video's gebaseerd materiaal met daarop seksueel misbruik van kinderen zorgt voor nieuwe uitdagingen en vereist nieuwe technologie. CSAI Match heeft bewezen onderdeel te zijn van de oplossing, waardoor we video's met materiaal met seksueel misbruik van kinderen beter kunnen herkennen en verwijderen van onze platforms.” - Yahoo!
Veelgestelde vragen
API voor contentveiligheid
Werkt de API voor contentveiligheid voor video's?
De API voor contentveiligheid is ontworpen voor afbeeldingen, maar via de CSAI Match-tool van YouTube hebben organisaties toegang tot vingerafdruksoftware en een API om overeenkomsten te vinden in onze database met bekende ongeoorloofde videocontent. Meer informatie.
Wie kan zich aanmelden voor toegang tot de technologie en de API voor contentveiligheid?
Derden uit de branche en de maatschappij die hun platform willen beschermen tegen misbruik, kunnen zich aanmelden voor toegang tot de API voor contentveiligheid. Aanvragen moeten eerst worden goedgekeurd.
Waarom maken jullie deze tools zo breed beschikbaar?
De beste manier om online kinderuitbuiting tegen te gaan, is volgens ons om samen te werken met andere technologiebedrijven en ngo's. We werken al lange tijd samen binnen de branche en met ngo's om de ontwikkeling van nieuwe data-tools te ondersteunen, de capaciteit een technische boost te geven en de bekendheid te vergroten. We zijn van mening dat het algemeen beschikbaar maken van deze tools, zodat onze partners AI kunnen gebruiken om content op grote schaal beter te beoordelen, een belangrijk onderdeel van deze strijd is.
CSAI Match
Werkt CSAI Match voor afbeeldingen?
CSAI Match is ontworpen voor video's, maar via de API voor contentveiligheid van Google is een set tools beschikbaar die ngo- en branchepartners kunnen gebruiken voor door machine learning aangestuurde classificatie van afbeeldingen. Meer informatie.
Welke informatie wordt meegestuurd met een geïdentificeerde overeenkomst?
De overeenkomst identificeert welk deel van de video overeenkomt met bekende beelden van seksueel misbruik van kinderen en ook een gestandaardiseerde categorisatie van het type content dat werd gevonden.
Waardoor is de CSAI Match-technologie zo efficiënt?
CSAI Match herkent segmenten die vrijwel hetzelfde zijn als bekende beelden van seksueel misbruik van kinderen. Hieronder vallen volledige kopieën die MD5-hashmatching kan herkennen, en ook segmenten die bijna kopieën zijn. Dit zijn bijvoorbeeld hercoderingen, vermommingen, inkortingen of schalingen van video's met beelden van seksueel misbruik van kinderen. Zelfs video's die slechts een klein deel van de beelden van seksueel misbruik van kinderen bevat en die mogelijk vermengd zijn met content zonder beelden van seksueel misbruik van kinderen, kunnen worden herkend. Partners voeren een binair vingerafdrukbestand uit om een vingerafdruk van de video te maken: een bytereeks die lijkt op een MD5-hash. Die wordt dan naar de CSAI Match-service van Google gestuurd, die speciaal is ontworpen om een video efficiënt te kunnen vergelijken met YouTube's corpus van bekende referenties van beelden van seksueel misbruik van kinderen.