Migliore definizione delle priorità

Migliore definizione delle priorità


Le API aiutano nella lotta contro lo sfruttamento online dei minori assegnando ai contenuti illeciti la priorità per la revisione da parte di persone fisiche.

Identificazione rapida

Identificazione più rapida


Riconoscere i contenuti più velocemente aumenta la probabilità che le vittime possano essere identificate e protette da ulteriori abusi.

Operazioni più sicure

Operazioni più sicure


Fare in modo che le code di revisione siano più efficienti e meno caotiche contribuisce anche a ridurre il carico di lavoro dei moderatori umani dei contenuti.

Scopri di più sui nostri strumenti

I nostri strumenti dispongono di funzionalità complementari e possono essere utilizzati congiuntamente, nonché con altre soluzioni, per soddisfare esigenze diverse.

API Content Safety

API Content Safety

Classificare immagini non registrate in precedenza

CSAI Match

CSAI Match

Individuare corrispondenze con segmenti di video di abusi noti

API Content Safety

Utilizzata per: classificare immagini non registrate in precedenza


Il classificatore dell'API Content Safety utilizza l'accesso programmatico e l'intelligenza artificiale per aiutare i nostri partner a classificare e gestire le priorità per la revisione di miliardi di immagini. Maggiore è la priorità assegnata dal classificatore, più sono le probabilità che l'immagine contenga materiale illecito. Questo può aiutare i partner a gestire l'ordine di priorità per la loro revisione da parte di persone fisiche e fare la loro valutazione dei contenuti. L'API Content Safety fornisce un consiglio di prioritizzazione sui contenuti inviati. I partner devono effettuare la propria revisione per determinare se devono prendere provvedimenti in merito ai contenuti.

A livello operativo, consigliamo alle organizzazioni di utilizzare l'API Content Safety prima del processo di revisione manuale per classificare, dare la priorità e aiutarle a organizzare la coda di lavoro. L'API Content Safety può essere utilizzata in parallelo con altre soluzioni, come lo strumento CSAI Match di YouTube per l'hashing dei video o PhotoDNA di Microsoft, ognuno dei quali risponde a esigenze diverse.

Come funziona?

Recupero delle immagini

1. Recupero delle immagini

Le immagini vengono recuperate dal partner in molteplici forme, ad esempio vengono segnalate da un utente oppure identificate da crawler o filtri che il partner ha creato per moderare le immagini sulla sua piattaforma.

Partner

Immagini segnalate dagli utenti

Crawler

Prefiltri

(pornografia/altri classificatori)

Revisione dell'API

2. Revisione dell'API

I file immagine vengono quindi inviati all'API Content Safety tramite una semplice chiamata API. Vengono analizzati da classificatori per determinare la priorità di revisione, dopodiché il valore di priorità per ciascuna delle immagini viene inviato di nuovo al partner.

Google

API Content Safety

Tecnologia basata su classificatori

Revisione manuale

3. Revisione manuale

I partner utilizzano il valore di priorità per dare la precedenza alle immagini che necessitano una revisione manuale prima delle altre.

Partner

Revisione manuale

Intervento

4. Intervento

Una volta che le immagini sono state esaminate manualmente, il partner può prendere provvedimenti in merito ai contenuti in conformità con leggi e normative locali.

Partner

Intervento conseguente

CSAI Match

Utilizzata per: individuare corrispondenze con segmenti di video di abusi noti


CSAI Match è la tecnologia proprietaria di YouTube per combattere le immagini pedopornografiche nei video online. Questa tecnologia è stata la prima a utilizzare la corrispondenza di hash per identificare i contenuti in violazione noti e ci consente di individuarli in un volume elevato di contenuti video non in violazione. Quando viene trovata una corrispondenza di contenuti in violazione, questa viene segnalata ai partner che, a loro volta, esaminano, confermano e comunicano quanto riscontrato in modo responsabile e in conformità alle leggi e alle normative locali. YouTube rende CSAI Match disponibile per i partner di settore e per le ONG. Diamo accesso a software fingerprint e a un'API per individuare delle corrispondenze con il nostro database di contenuti illeciti noti.

Le piattaforme online possono impedire che i contenuti in violazione vengano visualizzati e condivisi sui propri siti utilizzando CSAI Match per confrontare i loro contenuti con uno degli indici più ampi di immagini pedopornografiche note. I partner possono integrare facilmente CSAI Match nel loro sistema e gestire meglio i contenuti problematici.

Come funziona?

Fingerprinting del video

1. Fingerprinting del video

Un video viene caricato nella piattaforma del partner. Fingerprinter di CSAI Match, che viene eseguita sulla piattaforma del partner, crea un file fingerprint del video, un ID digitale che rappresenta in modo univoco il contenuto del file video.

Partner

File video

Fingerprinter

File di Fingerprint

Revisione dell'API

2. Revisione dell'API

Il partner invia il file fingerprint tramite l'API CSAI Match per confrontarlo con gli altri file nel repository fingerprint di YouTube. Il repository contiene fingerprint di contenuti illeciti noti rilevati da YouTube e Google.

YouTube

API CSAI Match

Tecnologia CSAI Match

di immagini pedopornografiche

Repository fingerprint condiviso

Revisione manuale

3. Revisione manuale

Una corrispondenza positiva o negativa viene inviata nuovamente al partner una volta completata la chiamata all'API. Sulla base delle informazioni sulla corrispondenza, il partner esamina manualmente il video per verificare la presenza di immagini pedopornografiche.

Partner

Revisione manuale

Intervento

4. Intervento

Una volta che le immagini sono state esaminate, il partner può intervenire sui contenuti in conformità con leggi e normative locali.

Partner

Intervento conseguente

API Content Safety

Utilizzata per: classificare immagini non registrate in precedenza

Il classificatore dell'API Content Safety utilizza l'accesso programmatico e l'intelligenza artificiale per aiutare i nostri partner a classificare e gestire le priorità per la revisione di miliardi di immagini. Maggiore è la priorità assegnata dal classificatore, più sono le probabilità che l'immagine contenga materiale illecito. Questo può aiutare i partner a gestire l'ordine di priorità per la loro revisione da parte di persone fisiche e fare la loro valutazione dei contenuti. L'API Content Safety fornisce un consiglio di prioritizzazione sui contenuti inviati. I partner devono effettuare la propria revisione per determinare se devono prendere provvedimenti in merito ai contenuti.

A livello operativo, consigliamo alle organizzazioni di utilizzare l'API Content Safety prima del processo di revisione manuale per classificare, dare la priorità e aiutarle a organizzare la coda di lavoro. L'API Content Safety può essere utilizzata in parallelo con altre soluzioni, come lo strumento CSAI Match di YouTube per l'hashing dei video o PhotoDNA di Microsoft, ognuno dei quali risponde a esigenze diverse.

CSAI Match

Utilizzata per: individuare corrispondenze con segmenti di video di abusi noti

CSAI Match è la tecnologia proprietaria di YouTube per combattere le immagini pedopornografiche nei video online. Questa tecnologia è stata la prima a utilizzare la corrispondenza di hash per identificare i contenuti in violazione noti e ci consente di individuarli in un volume elevato di contenuti video non in violazione. Quando viene trovata una corrispondenza di contenuti in violazione, questa viene segnalata ai partner che, a loro volta, esaminano, confermano e comunicano quanto riscontrato in modo responsabile e in conformità alle leggi e alle normative locali. YouTube rende CSAI Match disponibile per i partner di settore e per le ONG. Diamo accesso a software fingerprint e a un'API per individuare delle corrispondenze con il nostro database di contenuti illeciti noti.

Le piattaforme online possono impedire che i contenuti in violazione vengano visualizzati e condivisi sui propri siti utilizzando CSAI Match per confrontare i loro contenuti con uno degli indici più ampi di immagini pedopornografiche note. I partner possono integrare facilmente CSAI Match nel loro sistema e gestire meglio i contenuti problematici.

Modulo di interesse relativo al toolkit per la sicurezza dei minori

Vuoi utilizzare il nostro toolkit?

Condividi alcuni dettagli sulla tua organizzazione per segnalare il tuo interesse

Visualizza il modulo di interesse

Testimonianze

Domande frequenti

API Content Safety

L'API Content Safety funziona anche con i video?

L'API Content Safety è progettata per le immagini, ma grazie a CSAI Match di YouTube, le organizzazioni possono accedere a un software fingerprint e a un'API per individuare delle corrispondenze con il nostro database di contenuti video di abusi noti. Scopri di più.

Chi può registrarsi per ottenere l'accesso alla tecnologia dell'API Content Safety?

Gli operatori del settore e le terze parti della società civile che intendono proteggere la propria piattaforma da abusi possono registrarsi per ottenere l'accesso all'API Content Safety. Le candidature sono soggette ad approvazione.

Perché questi strumenti sono ampiamente disponibili?

Riteniamo che l'approccio migliore per lottare contro lo sfruttamento di minori online sia la collaborazione con altre aziende e ONG. Abbiamo lavorato a lungo nel settore e con le ONG per sostenere lo sviluppo di nuovi strumenti basati sui dati, migliorare le capacità tecniche e diffondere una maggiore sensibilizzazione a riguardo. Crediamo che rendere tali strumenti ampiamente disponibili, affinché i nostri partner possano utilizzare l'AI per esaminare meglio i contenuti su vasta scala, sia una parte importante di questa lotta.

CSAI Match

CSAI Match funziona con le immagini?

CSAI Match è progettato per i video ma, tramite l'API Content Safety di Google, è disponibile una raccolta di strumenti per i partner del settore e delle ONG che offre una classificazione delle immagini basata sul machine learning. Scopri di più.

Quali informazioni vengono restituite con una corrispondenza identificata?

La corrispondenza identificherà quale porzione del video coincide con immagini pedopornografiche note e definirà una categorizzazione standardizzata del tipo di contenuti per cui è stata individuata la corrispondenza.

Che cosa rende la tecnologia CSAI Match così efficiente?

CSAI Match rileva segmenti quasi duplicati di immagini pedopornografiche note. Sono inclusi segmenti del tutto duplicati che la corrispondenza hash MD5 rileverebbe, così come segmenti quasi duplicati che potrebbero essere ricodifiche, offuscamenti, troncamenti o ridimensionamenti di video pedopornografici, anche se un video contiene una piccola porzione di immagini pedopornografiche possibilmente miste a contenuti di altro tipo. I partner eseguono un programma binario di fingerprint per produrre una "impronta digitale" del video, una sequenza di byte simile a un hash MD5. Tale impronta viene inviata al servizio CSAI Match di Google, che è progettato specificamente in modo efficiente quando esegui la scansione di un video rispetto al corpus di YouTube di riferimenti a immagini pedopornografiche note.