Migliore definizione delle priorità
Le API aiutano nella lotta contro lo sfruttamento online dei minori assegnando ai contenuti illeciti la priorità per la revisione da parte di persone fisiche.
Identificazione più rapida
Riconoscere i contenuti più velocemente aumenta la probabilità che le vittime possano essere identificate e protette da ulteriori abusi.
Operazioni più sicure
Fare in modo che le code di revisione siano più efficienti e meno caotiche contribuisce anche a ridurre il carico di lavoro dei moderatori umani dei contenuti.
Scopri i nostri strumenti
I nostri strumenti dispongono di funzionalità complementari e possono essere utilizzati congiuntamente, nonché con altre soluzioni, per soddisfare esigenze diverse.
API Content Safety
Classificazione di immagini e video inediti
CSAI Match
Corrispondenza con segmenti di video illeciti noti
API Content Safety
Usato per: classificazione di immagini e video inediti
Il classificatore dell'API Content Safety utilizza l'accesso programmatico e l'intelligenza artificiale per aiutare i nostri partner a classificare e gestire le priorità per la revisione di miliardi di immagini e video. Maggiore è la priorità assegnata dal classificatore, più sono le probabilità che il file multimediale contenga materiale illecito. Questo può aiutare i partner a gestire l'ordine di priorità per la loro revisione umana e a determinare i contenuti. L'API Content Safety fornisce un consiglio di prioritizzazione sui contenuti inviati. I partner devono effettuare la propria revisione per determinare se devono prendere provvedimenti in merito ai contenuti.
A livello operativo, consigliamo alle organizzazioni di utilizzare l'API Content Safety prima del processo di revisione manuale per classificare, dare la priorità e aiutarle a organizzare la coda di lavoro. L'API Content Safety può essere utilizzata in parallelo con altre soluzioni, come lo strumento CSAI Match di YouTube per l'hashing dei video o PhotoDNA di Microsoft, ognuno dei quali risponde a esigenze diverse.
Come funziona?
1. Recupero dei file
I file vengono recuperati dal partner in molteplici forme, ad esempio vengono segnalati da un utente oppure identificati da crawler o filtri che il partner ha creato per moderare i contenuti sulla sua piattaforma.
Partner
Immagini e video segnalati dall'utente
Crawler
Prefiltri
(pornografia/altri classificatori)
2. Revisione dell'API
I file multimediali vengono quindi inviati all'API Content Safety tramite una semplice chiamata API. Vengono analizzati da classificatori per determinare la priorità di revisione, dopodiché il valore di priorità per ciascun contenuto viene inviato di nuovo al partner.
API Content Safety
Tecnologia basata su classificatori
3. Revisione manuale
I partner utilizzano il valore di priorità per dare la precedenza ai file che necessitano una revisione manuale prima degli altri.
Partner
Revisione manuale
4. Azione
Una volta che i file di video e immagini sono stati esaminati manualmente, il partner può prendere provvedimenti in merito ai contenuti in conformità alle leggi e normative locali.
Partner
Intervento conseguente
CSAI Match
Usato per: corrispondenza con segmenti di video illeciti noti
CSAI Match è la tecnologia proprietaria di YouTube per combattere le immagini pedopornografiche nei video online. Questa tecnologia è stata la prima a utilizzare la corrispondenza di hash per identificare i contenuti violativi noti e ci consente di individuarli in un volume elevato di contenuti video non violativi. Quando viene trovata una corrispondenza di contenuti violativi, questa viene segnalata ai partner che, a loro volta, esaminano, confermano e comunicano quanto riscontrato in modo responsabile e in conformità alle leggi e alle normative locali. YouTube rende CSAI Match disponibile per i partner di settore e per le ONG. Diamo accesso a software fingerprint e a un'API per individuare delle corrispondenze con il nostro database di contenuti illeciti noti.
Le piattaforme online possono impedire che i contenuti violativi vengano visualizzati e condivisi sui propri siti utilizzando CSAI Match per confrontare i loro contenuti con uno degli indici più ampi di immagini pedopornografiche note. I partner possono integrare facilmente CSAI Match nel loro sistema e gestire meglio i contenuti problematici.
Come funziona?
1. Fingerprinting del video
Un video viene caricato nella piattaforma del partner. CSAI Match Fingerprinter, che viene eseguita sulla piattaforma del partner, crea un file fingerprint del video, un documento d'identità digitale che rappresenta in modo univoco il contenuto del file video.
Partner
File video
Fingerprinter
File fingerprint
2. Revisione dell'API
Il partner invia il file fingerprint tramite l'API CSAI Match per confrontarlo con gli altri file nel repository fingerprint di YouTube. Il repository contiene fingerprint di contenuti illeciti noti rilevati da YouTube e Google.
YouTube
API CSAI Match
Tecnologia CSAI Match
Repository CSAI
Fingerprinter condiviso
3. Revisione manuale
Una corrispondenza positiva o negativa viene inviata nuovamente al partner una volta completata la chiamata all'API. Sulla base delle informazioni sulla corrispondenza, il partner esamina manualmente il video per verificare la presenza di immagini pedopornografiche.
Partner
Revisione manuale
4. Azione
Una volta che le immagini sono state esaminate, il partner può intervenire sui contenuti in conformità con leggi e normative locali.
Partner
Intervento conseguente
API Content Safety
Usato per: classificazione di immagini e video inediti
Il classificatore dell'API Content Safety utilizza l'accesso programmatico e l'intelligenza artificiale per aiutare i nostri partner a classificare e gestire le priorità per la revisione di miliardi di immagini e video. Maggiore è la priorità assegnata dal classificatore, più sono le probabilità che il file multimediale contenga materiale illecito. Questo può aiutare i partner a gestire l'ordine di priorità per la loro revisione umana e a determinare i contenuti. L'API Content Safety fornisce un consiglio di prioritizzazione sui contenuti inviati. I partner devono effettuare la propria revisione per determinare se devono prendere provvedimenti in merito ai contenuti.
A livello operativo, consigliamo alle organizzazioni di utilizzare l'API Content Safety prima del processo di revisione manuale per classificare, dare la priorità e aiutarle a organizzare la coda di lavoro. L'API Content Safety può essere utilizzata in parallelo con altre soluzioni, come lo strumento CSAI Match di YouTube per l'hashing dei video o PhotoDNA di Microsoft, ognuno dei quali risponde a esigenze diverse.
API Content Safety
Usato per: classificazione di immagini e video inediti
Come funziona?
Partner
Immagini e video segnalati dall'utente
Crawler
Prefiltri
(pornografia/altri classificatori)
API Content Safety
Tecnologia basata su classificatori
Partner
Revisione manuale
Partner
Intervento conseguente
Vuoi utilizzare il nostro toolkit?
Condividi alcuni dettagli sulla tua organizzazione per segnalare il tuo interesse
Visualizza il modulo di interesseCSAI Match
Usato per: corrispondenza con segmenti di video illeciti noti
CSAI Match è la tecnologia proprietaria di YouTube per combattere le immagini pedopornografiche nei video online. Questa tecnologia è stata la prima a utilizzare la corrispondenza di hash per identificare i contenuti violativi noti e ci consente di individuarli in un volume elevato di contenuti video non violativi. Quando viene trovata una corrispondenza di contenuti violativi, questa viene segnalata ai partner che, a loro volta, esaminano, confermano e comunicano quanto riscontrato in modo responsabile e in conformità alle leggi e alle normative locali. YouTube rende CSAI Match disponibile per i partner di settore e per le ONG. Diamo accesso a software fingerprint e a un'API per individuare delle corrispondenze con il nostro database di contenuti illeciti noti.
Le piattaforme online possono impedire che i contenuti violativi vengano visualizzati e condivisi sui propri siti utilizzando CSAI Match per confrontare i loro contenuti con uno degli indici più ampi di immagini pedopornografiche note. I partner possono integrare facilmente CSAI Match nel loro sistema e gestire meglio i contenuti problematici.
CSAI Match
Usato per: corrispondenza con segmenti di video illeciti noti
Come funziona?
Partner
File video
Fingerprinter
File fingerprint
YouTube
API CSAI Match
Tecnologia CSAI Match
Repository CSAI
Fingerprinter condiviso
Partner
Revisione manuale
Partner
Intervento conseguente
Vuoi utilizzare il nostro toolkit?
Condividi alcuni dettagli sulla tua organizzazione per segnalare il tuo interesse
Visualizza il modulo di interesseVuoi utilizzare il nostro toolkit?
Condividi alcuni dettagli sulla tua organizzazione per segnalare il tuo interesse
Visualizza il modulo di interesseTestimonianze
Domande frequenti
API Content Safety
In quale formato vengono inviati i dati all'API Content Safety?
Abbiamo a disposizione opzioni per supportare sia i byte di contenuti non elaborati che l'incorporamento derivato da file multimediali. Contattaci per ulteriori dettagli.
Chi può registrarsi per ottenere l'accesso alla tecnologia dell'API Content Safety?
Gli operatori del settore e le terze parti della società civile che intendono proteggere la propria piattaforma da abusi possono registrarsi per ottenere l'accesso all'API Content Safety. Le candidature sono soggette ad approvazione.
Perché questi strumenti sono ampiamente disponibili?
Riteniamo che l'approccio migliore per lottare contro lo sfruttamento minorile online sia la collaborazione con altre aziende e ONG. Abbiamo lavorato a lungo nel settore e con le ONG per sostenere lo sviluppo di nuovi strumenti basati sui dati, migliorare le capacità tecniche e diffondere una maggiore sensibilizzazione al riguardo. Crediamo che rendere questi strumenti ampiamente disponibili, affinché i nostri partner possano utilizzare l'AI per esaminare meglio i contenuti su vasta scala, sia una parte importante di questa lotta.
CSAI Match
CSAI Match funziona con le immagini?
CSAI Match è progettato per i video, ma, tramite l'API Content Safety di Google, è disponibile una raccolta di strumenti per i partner del settore e le ONG partner che offre una classificazione delle immagini basata sul machine learning. Scopri di più.
Quali informazioni vengono restituite con una corrispondenza identificata?
La corrispondenza identificherà quale porzione del video coincide con immagini pedopornografiche note e definirà una categorizzazione standardizzata del tipo di contenuti per cui è stata individuata la corrispondenza.
Che cosa rende la tecnologia CSAI Match così efficiente?
CSAI Match rileva segmenti quasi duplicati di immagini pedopornografiche note. Sono inclusi segmenti del tutto duplicati che la corrispondenza hash MD5 rileverebbe, così come segmenti quasi duplicati che potrebbero essere ricodifiche, offuscamenti, troncamenti o ridimensionamenti di video pedopornografici, anche se un video contiene una piccola porzione di immagini pedopornografiche possibilmente miste a contenuti di altro tipo. I partner eseguono un programma binario di fingerprint per produrre una "impronta digitale" del video, una sequenza di byte simile a un hash MD5. Questa impronta viene inviata al servizio CSAI Match di Google, che è progettato specificamente in modo efficiente quando esegui la scansione di un video in relazione al corpus di YouTube di riferimenti a immagini pedopornografiche note.