Betere prioriteiten

Betere prioriteiten


De API's helpen in de bestrijding van online uitbuiting van kinderen door ongeoorloofde content prioriteit te geven voor handmatige beoordeling.

Snelle identificatie

Snellere identificatie


Het sneller identificeren van content vergroot de kans dat slachtoffers kunnen worden geïdentificeerd en beschermd tegen verder misbruik.

Veiligere activiteiten

Veiligere activiteiten


Door review-wachtrijen efficiënter en effectiever te maken, vermindert ook de werkbelasting voor moderators van menselijke content.

Meer informatie over onze tools

Onze tools hebben aanvullende mogelijkheden. Ze kunnen samen en met andere oplossingen worden gebruikt om aan verschillende behoeften te voldoen.

API voor contentveiligheid

API voor contentveiligheid

Classificeren van ongeziene afbeeldingen en videos

CSAI Match

CSAI Match

Bekende ongeoorloofde videosegmenten matchen

API voor contentveiligheid

Gebruikt voor: Classificeren van eerder ongeziene afbeeldingen en video's


De classificatie van de API voor contentveiligheid gebruikt programmatische toegang en artificial intelligence om onze partners te helpen bij het indelen van en prioriteit geven aan miljarden afbeeldingen en video's voor beoordeling. Hoe hoger de prioriteit die door de classificatie wordt gegeven, hoe groter de kans dat het mediabestand misbruik bevat. De hogere prioriteit kan partners helpen om voorrang te geven aan hun handmatige beoordeling en zelf de content te bepalen. De API voor contentveiligheid evalueert content en stelt een prioriteit. Partners moeten hun eigen beoordeling uitvoeren om te bepalen of ze moeten optreden tegen de content.

Voor hulp bij het indelen, rangschikken en organiseren van de wachtrij raden we organisaties aan om de API voor contentveiligheid te gebruiken vlak voor het handmatige beoordelingsproces. De API voor contentveiligheid kan naast andere oplossingen worden gebruikt, zoals de CSAI Match-videohashtool van YouTube of PhotoDNA van Microsoft, die elk aan verschillende behoeften voldoen.

Hoe het werkt?

Ophalen van afbeeldingen

1. Ophalen van bestanden

Bestanden worden door de partner via verschillende manieren opgehaald, bijvoorbeeld gerapporteerd door een gebruiker, geïdentificeerd door crawlers of filters die de partner heeft gemaakt om content op hun platform te modereren.

Partner

Door gebruikers gerapporteerde afbeeldingen of video's

Crawlers

Voorfilters

(porno/andere classificaties)

API-beoordeling

2. API-beoordeling

De mediabestanden worden dan via een eenvoudige API-aanroep naar de API voor contentveiligheid gestuurd. Ze worden door classificaties geleid om de beoordelingsprioriteit te bepalen. Daarna wordt de prioriteitswaarde voor elk van de content teruggestuurd naar de partner.

Google

API voor contentveiligheid

Classificatietechnologie

Handmatige beoordeling

3. Handmatige beoordeling

Partners gebruiken de prioriteitswaarde om de bestanden te rangschikken die eerst aandacht nodig hebben voor handmatige beoordelingen.

Partner

Handmatige beoordeling

Actie ondernemen

4. Actie ondernemen

Nadat bestanden met afbeeldingen en video's handmatig zijn beoordeeld, kan de partner optreden tegen de content in overeenstemming met de lokale wet- en regelgeving.

Partner

Passende actie

CSAI Match

Gebruikt voor: Overeenkomsten zoeken met bekende videosegmenten met misbruik


CSAI Match is de eigen technologie van YouTube voor het online bestrijden van beelden en video's van seksueel misbruik van kinderen. Dit is de eerste technologie waarbij hashmatching wordt gebruikt om bekende schendende content te identificeren. We zetten deze technologie in om dit type schendende content te herkennen uit een grote hoeveelheid videocontent dat ons beleid niet schendt. Als er een match met schendende content wordt gevonden, wordt dit gemeld bij partners. Zij kunnen dit dan beoordelen, bevestigen en op verantwoorde wijze melden in overeenstemming met de lokale wet- en regelgeving. YouTube stelt CSAI Match beschikbaar voor partners in de branche en ngo's. We geven toegang tot de vingerafdruksoftware en een API om matches te vinden in onze database van bekende ongeoorloofde content.

Onlineplatforms kunnen voorkomen dat schendende content wordt weergegeven en gedeeld op hun sites door CSAI Match te gebruiken om hun content te vergelijken met een van de grootste indexen van bekende content met beelden van seksueel misbruik van kinderen. Partners kunnen CSAI Match eenvoudig integreren in hun systeem, waardoor ze uitdagend contentmanagement beter kunnen schalen.

Hoe het werkt?

Video-fingerprinting

1. Video-fingerprinting

Er wordt een video geüpload naar het partnerplatform. De CSAI Match Fingerprinter maakt op het partnerplatform een vingerafdrukbestand van de video. Dit is een digitale ID die op unieke wijze de content van het videobestand vertegenwoordigt.

Partner

Videobestand

Vingerafdruk

Vingerafdrukbestand

API-beoordeling

2. API-beoordeling

De partner stuurt het vingerafdrukbestand naar de CSAI Match-API, die het bestand vergelijkt met de andere bestanden in de vingerafdrukopslagplaats van YouTube. De opslagplaats bevat vingerafdrukken van bekende ongeoorloofde content die is herkend door YouTube en Google.

YouTube

CSAI Match-API

CSAI Match-technologie

Gedeelde beelden van seksueel misbruik van kinderen

Opslagplaats van vingerafdrukken

Handmatige beoordeling

3. Handmatige beoordeling

Een positieve of negatieve overeenkomst wordt teruggestuurd naar de partner zodra de aanroep van de API is voltooid. Op basis van de informatie van de overeenkomst beoordeelt de partner de video handmatig om te verifiëren dat het gaat om beelden van seksueel misbruik van kinderen.

Partner

Handmatige beoordeling

Actie ondernemen

4. Actie ondernemen

Nadat de afbeeldingen zijn beoordeeld, kan de partner actie ondernemen tegen de content in overeenstemming met de lokale wet- en regelgeving.

Partner

Passende actie

API voor contentveiligheid

Gebruikt voor: Classificeren van eerder ongeziene afbeeldingen en video's

De classificatie van de API voor contentveiligheid gebruikt programmatische toegang en artificial intelligence om onze partners te helpen bij het indelen van en prioriteit geven aan miljarden afbeeldingen en video's voor beoordeling. Hoe hoger de prioriteit die door de classificatie wordt gegeven, hoe groter de kans dat het mediabestand misbruik bevat. De hogere prioriteit kan partners helpen om voorrang te geven aan hun handmatige beoordeling en zelf de content te bepalen. De API voor contentveiligheid evalueert content en stelt een prioriteit. Partners moeten hun eigen beoordeling uitvoeren om te bepalen of ze moeten optreden tegen de content.

Voor hulp bij het indelen, rangschikken en organiseren van de wachtrij raden we organisaties aan om de API voor contentveiligheid te gebruiken vlak voor het handmatige beoordelingsproces. De API voor contentveiligheid kan naast andere oplossingen worden gebruikt, zoals de CSAI Match-videohashtool van YouTube of PhotoDNA van Microsoft, die elk aan verschillende behoeften voldoen.

CSAI Match

Gebruikt voor: Overeenkomsten zoeken met bekende videosegmenten met misbruik

CSAI Match is de eigen technologie van YouTube voor het online bestrijden van beelden en video's van seksueel misbruik van kinderen. Dit is de eerste technologie waarbij hashmatching wordt gebruikt om bekende schendende content te identificeren. We zetten deze technologie in om dit type schendende content te herkennen uit een grote hoeveelheid videocontent dat ons beleid niet schendt. Als er een match met schendende content wordt gevonden, wordt dit gemeld bij partners. Zij kunnen dit dan beoordelen, bevestigen en op verantwoorde wijze melden in overeenstemming met de lokale wet- en regelgeving. YouTube stelt CSAI Match beschikbaar voor partners in de branche en ngo's. We geven toegang tot de vingerafdruksoftware en een API om matches te vinden in onze database van bekende ongeoorloofde content.

Onlineplatforms kunnen voorkomen dat schendende content wordt weergegeven en gedeeld op hun sites door CSAI Match te gebruiken om hun content te vergelijken met een van de grootste indexen van bekende content met beelden van seksueel misbruik van kinderen. Partners kunnen CSAI Match eenvoudig integreren in hun systeem, waardoor ze uitdagend contentmanagement beter kunnen schalen.

Interesseformulier voor toolkit voor kindveiligheid

Interesse in het gebruik van onze toolkit?

Deel een paar details van je organisatie om je interesse te registreren

Het interesseformulier bekijken

Aanbevelingen.

Veelgestelde vragen

API voor contentveiligheid

Wat is gegevensindeling die naar de API voor contentveiligheid wordt gestuurd?

We hebben opties om zowel onbewerkte inhoudbytes als van mediabestanden afgeleide toevoegingen te ondersteunen. Neem contact op voor meer details.

Wie kan zich aanmelden voor toegang tot de technologie en de API voor contentveiligheid?

Derden uit de branche en de maatschappij die hun platform willen beschermen tegen misbruik, kunnen zich aanmelden voor toegang tot de API voor contentveiligheid. Aanvragen moeten eerst worden goedgekeurd.

Waarom maken jullie deze tools zo breed beschikbaar?

De beste manier om online uitbuiting van kinderen tegen te gaan, is volgens ons om samen te werken met andere technologiebedrijven en ngo's. We werken al lange tijd samen binnen de branche en met ngo's om de ontwikkeling van nieuwe gegevensgestuurde tools te ondersteunen, de capaciteit een technische boost te geven en de bekendheid te vergroten. We zijn van mening dat het algemeen beschikbaar maken van deze tools een belangrijk onderdeel van deze strijd is, zodat onze partners AI kunnen gebruiken om content op grote schaal beter te beoordelen.

CSAI Match

Werkt CSAI Match voor afbeeldingen?

CSAI Match is ontworpen voor video's, maar via de API voor contentveiligheid van Google is een set tools beschikbaar die ngo- en branchepartners kunnen gebruiken voor door machine learning aangestuurde classificatie van afbeeldingen. Meer informatie.

Welke informatie wordt meegestuurd met een geïdentificeerde overeenkomst?

De overeenkomst identificeert welk deel van de video overeenkomt met bekende beelden van seksueel misbruik van kinderen en geeft ook een gestandaardiseerde categorisatie van het type content dat werd gevonden.

Waardoor is de CSAI Match-technologie zo efficiënt?

CSAI Match herkent segmenten die vrijwel hetzelfde zijn als bekende beelden van seksueel misbruik van kinderen. Hieronder vallen volledige kopieën die MD5-hashmatching kan herkennen en segmenten die bijna kopieën zijn. Dit zijn bijvoorbeeld hercoderingen, vermommingen, inkortingen of schalingen van video's met beelden van seksueel misbruik van kinderen. Zelfs als een video maar een klein deel van beelden van seksueel misbruik van kinderen bevat, mogelijk vermengd met content zonder beelden van seksueel misbruik van kinderen, kan deze worden herkend. Partners voeren een binair vingerafdrukbestand uit om een vingerafdruk van de video te maken: een bytereeks die lijkt op een MD5-hash. Die wordt dan naar de CSAI Match-service van Google gestuurd, die speciaal is ontworpen om een video efficiënt te kunnen vergelijken met het corpus van YouTube van bekende referenties van beelden van seksueel misbruik van kinderen.