Betere prioriteiten
De API's helpen in de bestrijding van online uitbuiting van kinderen door ongeoorloofde content prioriteit te geven voor handmatige beoordeling.
Snellere identificatie
Het sneller identificeren van content vergroot de kans dat slachtoffers kunnen worden geïdentificeerd en beschermd tegen verder misbruik.
Veiligere activiteiten
Door review-wachtrijen efficiënter en effectiever te maken, vermindert ook de werkbelasting voor moderators van menselijke content.
Meer informatie over onze tools
Onze tools hebben aanvullende mogelijkheden. Ze kunnen samen en met andere oplossingen worden gebruikt om aan verschillende behoeften te voldoen.
API voor contentveiligheid
Classificeren van ongeziene afbeeldingen en videos
CSAI Match
Bekende ongeoorloofde videosegmenten matchen
API voor contentveiligheid
Gebruikt voor: Classificeren van eerder ongeziene afbeeldingen en video's
De classificatie van de API voor contentveiligheid gebruikt programmatische toegang en artificial intelligence om onze partners te helpen bij het indelen van en prioriteit geven aan miljarden afbeeldingen en video's voor beoordeling. Hoe hoger de prioriteit die door de classificatie wordt gegeven, hoe groter de kans dat het mediabestand misbruik bevat. De hogere prioriteit kan partners helpen om voorrang te geven aan hun handmatige beoordeling en zelf de content te bepalen. De API voor contentveiligheid evalueert content en stelt een prioriteit. Partners moeten hun eigen beoordeling uitvoeren om te bepalen of ze moeten optreden tegen de content.
Voor hulp bij het indelen, rangschikken en organiseren van de wachtrij raden we organisaties aan om de API voor contentveiligheid te gebruiken vlak voor het handmatige beoordelingsproces. De API voor contentveiligheid kan naast andere oplossingen worden gebruikt, zoals de CSAI Match-videohashtool van YouTube of PhotoDNA van Microsoft, die elk aan verschillende behoeften voldoen.
Hoe het werkt?
1. Ophalen van bestanden
Bestanden worden door de partner via verschillende manieren opgehaald, bijvoorbeeld gerapporteerd door een gebruiker, geïdentificeerd door crawlers of filters die de partner heeft gemaakt om content op hun platform te modereren.
Partner
Door gebruikers gerapporteerde afbeeldingen of video's
Crawlers
Voorfilters
(porno/andere classificaties)
2. API-beoordeling
De mediabestanden worden dan via een eenvoudige API-aanroep naar de API voor contentveiligheid gestuurd. Ze worden door classificaties geleid om de beoordelingsprioriteit te bepalen. Daarna wordt de prioriteitswaarde voor elk van de content teruggestuurd naar de partner.
API voor contentveiligheid
Classificatietechnologie
3. Handmatige beoordeling
Partners gebruiken de prioriteitswaarde om de bestanden te rangschikken die eerst aandacht nodig hebben voor handmatige beoordelingen.
Partner
Handmatige beoordeling
4. Actie ondernemen
Nadat bestanden met afbeeldingen en video's handmatig zijn beoordeeld, kan de partner optreden tegen de content in overeenstemming met de lokale wet- en regelgeving.
Partner
Passende actie
CSAI Match
Gebruikt voor: Overeenkomsten zoeken met bekende videosegmenten met misbruik
CSAI Match is de eigen technologie van YouTube voor het online bestrijden van beelden en video's van seksueel misbruik van kinderen. Dit is de eerste technologie waarbij hashmatching wordt gebruikt om bekende schendende content te identificeren. We zetten deze technologie in om dit type schendende content te herkennen uit een grote hoeveelheid videocontent dat ons beleid niet schendt. Als er een match met schendende content wordt gevonden, wordt dit gemeld bij partners. Zij kunnen dit dan beoordelen, bevestigen en op verantwoorde wijze melden in overeenstemming met de lokale wet- en regelgeving. YouTube stelt CSAI Match beschikbaar voor partners in de branche en ngo's. We geven toegang tot de vingerafdruksoftware en een API om matches te vinden in onze database van bekende ongeoorloofde content.
Onlineplatforms kunnen voorkomen dat schendende content wordt weergegeven en gedeeld op hun sites door CSAI Match te gebruiken om hun content te vergelijken met een van de grootste indexen van bekende content met beelden van seksueel misbruik van kinderen. Partners kunnen CSAI Match eenvoudig integreren in hun systeem, waardoor ze uitdagend contentmanagement beter kunnen schalen.
Hoe het werkt?
1. Video-fingerprinting
Er wordt een video geüpload naar het partnerplatform. De CSAI Match Fingerprinter maakt op het partnerplatform een vingerafdrukbestand van de video. Dit is een digitale ID die op unieke wijze de content van het videobestand vertegenwoordigt.
Partner
Videobestand
Vingerafdruk
Vingerafdrukbestand
2. API-beoordeling
De partner stuurt het vingerafdrukbestand naar de CSAI Match-API, die het bestand vergelijkt met de andere bestanden in de vingerafdrukopslagplaats van YouTube. De opslagplaats bevat vingerafdrukken van bekende ongeoorloofde content die is herkend door YouTube en Google.
YouTube
CSAI Match-API
CSAI Match-technologie
Gedeelde beelden van seksueel misbruik van kinderen
Opslagplaats van vingerafdrukken
3. Handmatige beoordeling
Een positieve of negatieve overeenkomst wordt teruggestuurd naar de partner zodra de aanroep van de API is voltooid. Op basis van de informatie van de overeenkomst beoordeelt de partner de video handmatig om te verifiëren dat het gaat om beelden van seksueel misbruik van kinderen.
Partner
Handmatige beoordeling
4. Actie ondernemen
Nadat de afbeeldingen zijn beoordeeld, kan de partner actie ondernemen tegen de content in overeenstemming met de lokale wet- en regelgeving.
Partner
Passende actie
API voor contentveiligheid
Gebruikt voor: Classificeren van eerder ongeziene afbeeldingen en video's
De classificatie van de API voor contentveiligheid gebruikt programmatische toegang en artificial intelligence om onze partners te helpen bij het indelen van en prioriteit geven aan miljarden afbeeldingen en video's voor beoordeling. Hoe hoger de prioriteit die door de classificatie wordt gegeven, hoe groter de kans dat het mediabestand misbruik bevat. De hogere prioriteit kan partners helpen om voorrang te geven aan hun handmatige beoordeling en zelf de content te bepalen. De API voor contentveiligheid evalueert content en stelt een prioriteit. Partners moeten hun eigen beoordeling uitvoeren om te bepalen of ze moeten optreden tegen de content.
Voor hulp bij het indelen, rangschikken en organiseren van de wachtrij raden we organisaties aan om de API voor contentveiligheid te gebruiken vlak voor het handmatige beoordelingsproces. De API voor contentveiligheid kan naast andere oplossingen worden gebruikt, zoals de CSAI Match-videohashtool van YouTube of PhotoDNA van Microsoft, die elk aan verschillende behoeften voldoen.
API voor contentveiligheid
Gebruikt voor: Classificeren van eerder ongeziene afbeeldingen en video's
Hoe het werkt?
Partner
Door gebruikers gerapporteerde afbeeldingen of video's
Crawlers
Voorfilters
(porno/andere classificaties)
API voor contentveiligheid
Classificatietechnologie
Partner
Handmatige beoordeling
Partner
Passende actie
Interesse in het gebruik van onze toolkit?
Deel een paar details van je organisatie om je interesse te registreren
Het interesseformulier bekijkenCSAI Match
Gebruikt voor: Overeenkomsten zoeken met bekende videosegmenten met misbruik
CSAI Match is de eigen technologie van YouTube voor het online bestrijden van beelden en video's van seksueel misbruik van kinderen. Dit is de eerste technologie waarbij hashmatching wordt gebruikt om bekende schendende content te identificeren. We zetten deze technologie in om dit type schendende content te herkennen uit een grote hoeveelheid videocontent dat ons beleid niet schendt. Als er een match met schendende content wordt gevonden, wordt dit gemeld bij partners. Zij kunnen dit dan beoordelen, bevestigen en op verantwoorde wijze melden in overeenstemming met de lokale wet- en regelgeving. YouTube stelt CSAI Match beschikbaar voor partners in de branche en ngo's. We geven toegang tot de vingerafdruksoftware en een API om matches te vinden in onze database van bekende ongeoorloofde content.
Onlineplatforms kunnen voorkomen dat schendende content wordt weergegeven en gedeeld op hun sites door CSAI Match te gebruiken om hun content te vergelijken met een van de grootste indexen van bekende content met beelden van seksueel misbruik van kinderen. Partners kunnen CSAI Match eenvoudig integreren in hun systeem, waardoor ze uitdagend contentmanagement beter kunnen schalen.
CSAI Match
Gebruikt voor: Overeenkomsten zoeken met bekende videosegmenten met misbruik
Hoe het werkt?
Partner
Videobestand
Vingerafdruk
Vingerafdrukbestand
YouTube
CSAI Match-API
CSAI Match-technologie
Gedeelde beelden van seksueel misbruik van kinderen
Opslagplaats van vingerafdrukken
Partner
Handmatige beoordeling
Partner
Passende actie
Interesse in het gebruik van onze toolkit?
Deel een paar details van je organisatie om je interesse te registreren
Het interesseformulier bekijkenInteresse in het gebruik van onze toolkit?
Deel een paar details van je organisatie om je interesse te registreren
Het interesseformulier bekijkenAanbevelingen.
Veelgestelde vragen
API voor contentveiligheid
Wat is gegevensindeling die naar de API voor contentveiligheid wordt gestuurd?
We hebben opties om zowel onbewerkte inhoudbytes als van mediabestanden afgeleide toevoegingen te ondersteunen. Neem contact op voor meer details.
Wie kan zich aanmelden voor toegang tot de technologie en de API voor contentveiligheid?
Derden uit de branche en de maatschappij die hun platform willen beschermen tegen misbruik, kunnen zich aanmelden voor toegang tot de API voor contentveiligheid. Aanvragen moeten eerst worden goedgekeurd.
Waarom maken jullie deze tools zo breed beschikbaar?
De beste manier om online uitbuiting van kinderen tegen te gaan, is volgens ons om samen te werken met andere technologiebedrijven en ngo's. We werken al lange tijd samen binnen de branche en met ngo's om de ontwikkeling van nieuwe gegevensgestuurde tools te ondersteunen, de capaciteit een technische boost te geven en de bekendheid te vergroten. We zijn van mening dat het algemeen beschikbaar maken van deze tools een belangrijk onderdeel van deze strijd is, zodat onze partners AI kunnen gebruiken om content op grote schaal beter te beoordelen.
CSAI Match
Werkt CSAI Match voor afbeeldingen?
CSAI Match is ontworpen voor video's, maar via de API voor contentveiligheid van Google is een set tools beschikbaar die ngo- en branchepartners kunnen gebruiken voor door machine learning aangestuurde classificatie van afbeeldingen. Meer informatie.
Welke informatie wordt meegestuurd met een geïdentificeerde overeenkomst?
De overeenkomst identificeert welk deel van de video overeenkomt met bekende beelden van seksueel misbruik van kinderen en geeft ook een gestandaardiseerde categorisatie van het type content dat werd gevonden.
Waardoor is de CSAI Match-technologie zo efficiënt?
CSAI Match herkent segmenten die vrijwel hetzelfde zijn als bekende beelden van seksueel misbruik van kinderen. Hieronder vallen volledige kopieën die MD5-hashmatching kan herkennen en segmenten die bijna kopieën zijn. Dit zijn bijvoorbeeld hercoderingen, vermommingen, inkortingen of schalingen van video's met beelden van seksueel misbruik van kinderen. Zelfs als een video maar een klein deel van beelden van seksueel misbruik van kinderen bevat, mogelijk vermengd met content zonder beelden van seksueel misbruik van kinderen, kan deze worden herkend. Partners voeren een binair vingerafdrukbestand uit om een vingerafdruk van de video te maken: een bytereeks die lijkt op een MD5-hash. Die wordt dan naar de CSAI Match-service van Google gestuurd, die speciaal is ontworpen om een video efficiënt te kunnen vergelijken met het corpus van YouTube van bekende referenties van beelden van seksueel misbruik van kinderen.