Betere prioriteiten

Betere prioriteiten


De API's strijden mee tegen de online uitbuiting van kinderen door ongeoorloofde content prioriteit te geven voor handmatige beoordeling.

Snelle identificatie

Snellere identificatie


Het sneller identificeren van content vergroot de kans dat slachtoffers kunnen worden geïdentificeerd en beschermd tegen verder misbruik.

Veiligere activiteiten

Veiligere activiteiten


Door review-wachtrijen efficiënter en effectiever te maken, vermindert ook de werkbelasting voor de menselijke contentmoderators.

Meer informatie over onze tools

Onze tools hebben aanvullende mogelijkheden. Ze kunnen samen en met andere oplossingen worden gebruikt om aan verschillende behoeften te voldoen.

API voor contentveiligheid

API voor contentveiligheid

Voorheen ongeziene afbeeldingen classificeren

CSAI Match

CSAI Match

Bekende ongeoorloofde videosegmenten matchen

API voor contentveiligheid

Gebruikt voor: Voorheen ongeziene afbeeldingen classificeren


De classificatie van de API voor contentveiligheid gebruikt programmatische toegang en artificial intelligence om onze partners te helpen bij het indelen van en prioriteit geven aan miljarden afbeeldingen voor beoordeling. Hoe hoger de prioriteit die door de classificatie wordt gegeven, hoe groter de kans dat de afbeelding misbruik bevat. De hogere prioriteit kan partners helpen om voorrang te geven aan hun handmatige beoordeling en zelf de content te bepalen. De API voor contentveiligheid evalueert content en stelt een prioriteit. Partners moeten hun eigen beoordeling uitvoeren om te bepalen of ze moeten optreden tegen de content.

Voor hulp bij het indelen, rangschikken en organiseren van de wachtrij raden we organisaties aan om de API voor contentveiligheid te gebruiken vlak voor het handmatige beoordelingsproces. De API voor contentveiligheid kan naast andere oplossingen worden gebruikt, zoals de CSAI Match-videohashtool van YouTube of PhotoDNA van Microsoft, die elk aan verschillende behoeften voldoen.

Hoe het werkt?

Ophalen van afbeeldingen

1. Ophalen van afbeeldingen

Afbeeldingen worden door de partner via verschillende manieren opgehaald, bijvoorbeeld gerapporteerd door een gebruiker, geïdentificeerd door crawlers of filters die de partner heeft gemaakt om afbeeldingen op hun platform te modereren.

Partner

Afbeeldingen gerapporteerd door gebruikers

Crawlers

Voorfilters

(porno/andere classificaties)

API-beoordeling

2. API-beoordeling

De afbeeldingsbestanden worden dan via een eenvoudige API-aanroep naar de API voor contentveiligheid gestuurd. Ze worden door classificaties geleid om de beoordelingsprioriteit te bepalen. Daarna wordt de prioriteitswaarde voor elk van de afbeeldingen teruggestuurd naar de partner.

Google

API voor contentveiligheid

Classificatietechnologie

Handmatige beoordeling

3. Handmatige beoordeling

Partners gebruiken de prioriteitswaarde om de afbeeldingen te rangschikken die eerst aandacht nodig hebben voor handmatige beoordelingen.

Partner

Handmatige beoordeling

Actie ondernemen

4. Actie ondernemen

Nadat afbeeldingen handmatig zijn beoordeeld, kan de partner optreden tegen de content in overeenstemming met de lokale wet- en regelgeving.

Partner

Passende actie

CSAI Match

Gebruikt voor: Bekende ongeoorloofde videosegmenten matchen


CSAI Match is de eigen technologie van YouTube voor het online bestrijden van beelden en video's van seksueel misbruik van kinderen. Dit is de eerste technologie waarbij hashmatching wordt gebruikt om bekende schendende content te identificeren. We zetten deze technologie in om dit type schendende content te herkennen uit een grote hoeveelheid videocontent dat ons beleid niet schendt. Als er een match met schendende content wordt gevonden, wordt dit gemeld bij partners. Zij kunnen dit dan beoordelen, bevestigen en op verantwoorde wijze melden in overeenstemming met de lokale wet- en regelgeving. YouTube stelt CSAI Match beschikbaar voor partners in de branche en ngo's. We geven toegang tot de vingerafdruksoftware en een API om matches te vinden in onze database van bekende ongeoorloofde content.

Onlineplatforms kunnen voorkomen dat schendende content wordt weergegeven en gedeeld op hun sites door CSAI Match te gebruiken om hun content te vergelijken met een van de grootste indexen van bekende content met beelden van seksueel misbruik van kinderen. Partners kunnen CSAI Match eenvoudig integreren in hun systeem, waardoor ze uitdagend contentmanagement beter kunnen schalen.

Hoe het werkt?

Video-fingerprinting

1. Video-fingerprinting

Er wordt een video geüpload naar het partnerplatform. De CSAI Match Fingerprinter maakt op het partnerplatform een vingerafdrukbestand van de video. Dit is een digitale ID die op unieke wijze de content van het videobestand vertegenwoordigt.

Partner

Videobestand

Fingerprinter

Vingerafdrukbestand

API-beoordeling

2. API-beoordeling

De partner stuurt het vingerafdrukbestand naar de CSAI Match-API, die het bestand vergelijkt met de andere bestanden in de vingerafdrukopslagplaats van YouTube. De opslagplaats bevat vingerafdrukken van bekende ongeoorloofde content die is herkend door YouTube en Google.

YouTube

CSAI Match-API

CSAI Match-technologie

Gedeelde beelden van seksueel misbruik van kinderen

Opslagplaats van vingerafdrukken

Handmatige beoordeling

3. Handmatige beoordeling

Een positieve of negatieve overeenkomst wordt teruggestuurd naar de partner zodra de aanroep van de API is voltooid. Op basis van de informatie van de overeenkomst beoordeelt de partner de video handmatig om te verifiëren dat het gaat om beelden van seksueel misbruik van kinderen.

Partner

Handmatige beoordeling

Actie ondernemen

4. Actie ondernemen

Nadat de afbeeldingen zijn beoordeeld, kan de partner actie ondernemen tegen de content in overeenstemming met de lokale wet- en regelgeving.

Partner

Passende actie

API voor contentveiligheid

Gebruikt voor: Voorheen ongeziene afbeeldingen classificeren

De classificatie van de API voor contentveiligheid gebruikt programmatische toegang en artificial intelligence om onze partners te helpen bij het indelen van en prioriteit geven aan miljarden afbeeldingen voor beoordeling. Hoe hoger de prioriteit die door de classificatie wordt gegeven, hoe groter de kans dat de afbeelding misbruik bevat. De hogere prioriteit kan partners helpen om voorrang te geven aan hun handmatige beoordeling en zelf de content te bepalen. De API voor contentveiligheid evalueert content en stelt een prioriteit. Partners moeten hun eigen beoordeling uitvoeren om te bepalen of ze moeten optreden tegen de content.

Voor hulp bij het indelen, rangschikken en organiseren van de wachtrij raden we organisaties aan om de API voor contentveiligheid te gebruiken vlak voor het handmatige beoordelingsproces. De API voor contentveiligheid kan naast andere oplossingen worden gebruikt, zoals de CSAI Match-videohashtool van YouTube of PhotoDNA van Microsoft, die elk aan verschillende behoeften voldoen.

CSAI Match

Gebruikt voor: Bekende ongeoorloofde videosegmenten matchen

CSAI Match is de eigen technologie van YouTube voor het online bestrijden van beelden en video's van seksueel misbruik van kinderen. Dit is de eerste technologie waarbij hashmatching wordt gebruikt om bekende schendende content te identificeren. We zetten deze technologie in om dit type schendende content te herkennen uit een grote hoeveelheid videocontent dat ons beleid niet schendt. Als er een match met schendende content wordt gevonden, wordt dit gemeld bij partners. Zij kunnen dit dan beoordelen, bevestigen en op verantwoorde wijze melden in overeenstemming met de lokale wet- en regelgeving. YouTube stelt CSAI Match beschikbaar voor partners in de branche en ngo's. We geven toegang tot de vingerafdruksoftware en een API om matches te vinden in onze database van bekende ongeoorloofde content.

Onlineplatforms kunnen voorkomen dat schendende content wordt weergegeven en gedeeld op hun sites door CSAI Match te gebruiken om hun content te vergelijken met een van de grootste indexen van bekende content met beelden van seksueel misbruik van kinderen. Partners kunnen CSAI Match eenvoudig integreren in hun systeem, waardoor ze uitdagend contentmanagement beter kunnen schalen.

Interesseformulier voor toolkit voor kindveiligheid

Interesse in het gebruik van onze toolkit?

Deel een paar details van je organisatie om je interesse te registreren

Het interesseformulier bekijken

Aanbevelingen

Veelgestelde vragen

API voor contentveiligheid

Werkt de API voor contentveiligheid voor video's?

De API voor contentveiligheid is ontworpen voor afbeeldingen, maar via de CSAI Match-tool van YouTube hebben organisaties toegang tot vingerafdruksoftware en een API om overeenkomsten te vinden in onze database met bekende ongeoorloofde videocontent. Meer informatie.

Wie kan zich aanmelden voor toegang tot de technologie en de API voor contentveiligheid?

Derden uit de branche en de maatschappij die hun platform willen beschermen tegen misbruik, kunnen zich aanmelden voor toegang tot de API voor contentveiligheid. Aanvragen moeten eerst worden goedgekeurd.

Waarom maken jullie deze tools zo breed beschikbaar?

De beste manier om online kinderuitbuiting tegen te gaan, is volgens ons om samen te werken met andere technologiebedrijven en ngo's. We werken al lange tijd samen binnen de branche en met ngo's om de ontwikkeling van nieuwe data-tools te ondersteunen, de capaciteit een technische boost te geven en de bekendheid te vergroten. We zijn van mening dat het algemeen beschikbaar maken van deze tools, zodat onze partners AI kunnen gebruiken om content op grote schaal beter te beoordelen, een belangrijk onderdeel van deze strijd is.

CSAI Match

Werkt CSAI Match voor afbeeldingen?

CSAI Match is ontworpen voor video's, maar via de API voor contentveiligheid van Google is een set tools beschikbaar die ngo- en branchepartners kunnen gebruiken voor door machine learning aangestuurde classificatie van afbeeldingen. Meer informatie.

Welke informatie wordt meegestuurd met een geïdentificeerde overeenkomst?

De overeenkomst identificeert welk deel van de video overeenkomt met bekende beelden van seksueel misbruik van kinderen en ook een gestandaardiseerde categorisatie van het type content dat werd gevonden.

Waardoor is de CSAI Match-technologie zo efficiënt?

CSAI Match herkent segmenten die vrijwel hetzelfde zijn als bekende beelden van seksueel misbruik van kinderen. Hieronder vallen volledige kopieën die MD5-hashmatching kan herkennen, en ook segmenten die bijna kopieën zijn. Dit zijn bijvoorbeeld hercoderingen, vermommingen, inkortingen of schalingen van video's met beelden van seksueel misbruik van kinderen. Zelfs video's die slechts een klein deel van de beelden van seksueel misbruik van kinderen bevat en die mogelijk vermengd zijn met content zonder beelden van seksueel misbruik van kinderen, kunnen worden herkend. Partners voeren een binair vingerafdrukbestand uit om een vingerafdruk van de video te maken: een bytereeks die lijkt op een MD5-hash. Die wordt dan naar de CSAI Match-service van Google gestuurd, die speciaal is ontworpen om een video efficiënt te kunnen vergelijken met YouTube's corpus van bekende referenties van beelden van seksueel misbruik van kinderen.