Migliore definizione delle priorità

Migliore definizione delle priorità


Le API aiutano nella lotta contro lo sfruttamento online dei minori assegnando ai contenuti illeciti la priorità per la revisione da parte di persone fisiche.

Identificazione rapida

Identificazione più rapida


Riconoscere i contenuti più velocemente aumenta la probabilità che le vittime possano essere identificate e protette da ulteriori abusi.

Operazioni più sicure

Operazioni più sicure


Fare in modo che le code di revisione siano più efficienti e meno caotiche contribuisce anche a ridurre il carico di lavoro dei moderatori umani dei contenuti.

Scopri i nostri strumenti

I nostri strumenti dispongono di funzionalità complementari e possono essere utilizzati congiuntamente, nonché con altre soluzioni, per soddisfare esigenze diverse.

API Content Safety

API Content Safety

Classificazione di immagini e video inediti

CSAI Match

CSAI Match

Corrispondenza con segmenti di video illeciti noti

API Content Safety

Usato per: classificazione di immagini e video inediti


Il classificatore dell'API Content Safety utilizza l'accesso programmatico e l'intelligenza artificiale per aiutare i nostri partner a classificare e gestire le priorità per la revisione di miliardi di immagini e video. Maggiore è la priorità assegnata dal classificatore, più sono le probabilità che il file multimediale contenga materiale illecito. Questo può aiutare i partner a gestire l'ordine di priorità per la loro revisione umana e a determinare i contenuti. L'API Content Safety fornisce un consiglio di prioritizzazione sui contenuti inviati. I partner devono effettuare la propria revisione per determinare se devono prendere provvedimenti in merito ai contenuti.

A livello operativo, consigliamo alle organizzazioni di utilizzare l'API Content Safety prima del processo di revisione manuale per classificare, dare la priorità e aiutarle a organizzare la coda di lavoro. L'API Content Safety può essere utilizzata in parallelo con altre soluzioni, come lo strumento CSAI Match di YouTube per l'hashing dei video o PhotoDNA di Microsoft, ognuno dei quali risponde a esigenze diverse.

Come funziona?

Recupero delle immagini

1. Recupero dei file

I file vengono recuperati dal partner in molteplici forme, ad esempio vengono segnalati da un utente oppure identificati da crawler o filtri che il partner ha creato per moderare i contenuti sulla sua piattaforma.

Partner

Immagini e video segnalati dall'utente

Crawler

Prefiltri

(pornografia/altri classificatori)

Revisione dell'API

2. Revisione dell'API

I file multimediali vengono quindi inviati all'API Content Safety tramite una semplice chiamata API. Vengono analizzati da classificatori per determinare la priorità di revisione, dopodiché il valore di priorità per ciascun contenuto viene inviato di nuovo al partner.

Google

API Content Safety

Tecnologia basata su classificatori

Revisione manuale

3. Revisione manuale

I partner utilizzano il valore di priorità per dare la precedenza ai file che necessitano una revisione manuale prima degli altri.

Partner

Revisione manuale

Azione

4. Azione

Una volta che i file di video e immagini sono stati esaminati manualmente, il partner può prendere provvedimenti in merito ai contenuti in conformità alle leggi e normative locali.

Partner

Intervento conseguente

CSAI Match

Usato per: corrispondenza con segmenti di video illeciti noti


CSAI Match è la tecnologia proprietaria di YouTube per combattere le immagini pedopornografiche nei video online. Questa tecnologia è stata la prima a utilizzare la corrispondenza di hash per identificare i contenuti violativi noti e ci consente di individuarli in un volume elevato di contenuti video non violativi. Quando viene trovata una corrispondenza di contenuti violativi, questa viene segnalata ai partner che, a loro volta, esaminano, confermano e comunicano quanto riscontrato in modo responsabile e in conformità alle leggi e alle normative locali. YouTube rende CSAI Match disponibile per i partner di settore e per le ONG. Diamo accesso a software fingerprint e a un'API per individuare delle corrispondenze con il nostro database di contenuti illeciti noti.

Le piattaforme online possono impedire che i contenuti violativi vengano visualizzati e condivisi sui propri siti utilizzando CSAI Match per confrontare i loro contenuti con uno degli indici più ampi di immagini pedopornografiche note. I partner possono integrare facilmente CSAI Match nel loro sistema e gestire meglio i contenuti problematici.

Come funziona?

Fingerprinting del video

1. Fingerprinting del video

Un video viene caricato nella piattaforma del partner. CSAI Match Fingerprinter, che viene eseguita sulla piattaforma del partner, crea un file fingerprint del video, un documento d'identità digitale che rappresenta in modo univoco il contenuto del file video.

Partner

File video

Fingerprinter

File fingerprint

Revisione dell'API

2. Revisione dell'API

Il partner invia il file fingerprint tramite l'API CSAI Match per confrontarlo con gli altri file nel repository fingerprint di YouTube. Il repository contiene fingerprint di contenuti illeciti noti rilevati da YouTube e Google.

YouTube

API CSAI Match

Tecnologia CSAI Match

Repository CSAI

Fingerprinter condiviso

Revisione manuale

3. Revisione manuale

Una corrispondenza positiva o negativa viene inviata nuovamente al partner una volta completata la chiamata all'API. Sulla base delle informazioni sulla corrispondenza, il partner esamina manualmente il video per verificare la presenza di immagini pedopornografiche.

Partner

Revisione manuale

Azione

4. Azione

Una volta che le immagini sono state esaminate, il partner può intervenire sui contenuti in conformità con leggi e normative locali.

Partner

Intervento conseguente

API Content Safety

Usato per: classificazione di immagini e video inediti

Il classificatore dell'API Content Safety utilizza l'accesso programmatico e l'intelligenza artificiale per aiutare i nostri partner a classificare e gestire le priorità per la revisione di miliardi di immagini e video. Maggiore è la priorità assegnata dal classificatore, più sono le probabilità che il file multimediale contenga materiale illecito. Questo può aiutare i partner a gestire l'ordine di priorità per la loro revisione umana e a determinare i contenuti. L'API Content Safety fornisce un consiglio di prioritizzazione sui contenuti inviati. I partner devono effettuare la propria revisione per determinare se devono prendere provvedimenti in merito ai contenuti.

A livello operativo, consigliamo alle organizzazioni di utilizzare l'API Content Safety prima del processo di revisione manuale per classificare, dare la priorità e aiutarle a organizzare la coda di lavoro. L'API Content Safety può essere utilizzata in parallelo con altre soluzioni, come lo strumento CSAI Match di YouTube per l'hashing dei video o PhotoDNA di Microsoft, ognuno dei quali risponde a esigenze diverse.

CSAI Match

Usato per: corrispondenza con segmenti di video illeciti noti

CSAI Match è la tecnologia proprietaria di YouTube per combattere le immagini pedopornografiche nei video online. Questa tecnologia è stata la prima a utilizzare la corrispondenza di hash per identificare i contenuti violativi noti e ci consente di individuarli in un volume elevato di contenuti video non violativi. Quando viene trovata una corrispondenza di contenuti violativi, questa viene segnalata ai partner che, a loro volta, esaminano, confermano e comunicano quanto riscontrato in modo responsabile e in conformità alle leggi e alle normative locali. YouTube rende CSAI Match disponibile per i partner di settore e per le ONG. Diamo accesso a software fingerprint e a un'API per individuare delle corrispondenze con il nostro database di contenuti illeciti noti.

Le piattaforme online possono impedire che i contenuti violativi vengano visualizzati e condivisi sui propri siti utilizzando CSAI Match per confrontare i loro contenuti con uno degli indici più ampi di immagini pedopornografiche note. I partner possono integrare facilmente CSAI Match nel loro sistema e gestire meglio i contenuti problematici.

Modulo di interesse relativo al toolkit per la sicurezza dei minori

Vuoi utilizzare il nostro toolkit?

Condividi alcuni dettagli sulla tua organizzazione per segnalare il tuo interesse

Visualizza il modulo di interesse

Testimonianze

Domande frequenti

API Content Safety

In quale formato vengono inviati i dati all'API Content Safety?

Abbiamo a disposizione opzioni per supportare sia i byte di contenuti non elaborati che l'incorporamento derivato da file multimediali. Contattaci per ulteriori dettagli.

Chi può registrarsi per ottenere l'accesso alla tecnologia dell'API Content Safety?

Gli operatori del settore e le terze parti della società civile che intendono proteggere la propria piattaforma da abusi possono registrarsi per ottenere l'accesso all'API Content Safety. Le candidature sono soggette ad approvazione.

Perché questi strumenti sono ampiamente disponibili?

Riteniamo che l'approccio migliore per lottare contro lo sfruttamento minorile online sia la collaborazione con altre aziende e ONG. Abbiamo lavorato a lungo nel settore e con le ONG per sostenere lo sviluppo di nuovi strumenti basati sui dati, migliorare le capacità tecniche e diffondere una maggiore sensibilizzazione al riguardo. Crediamo che rendere questi strumenti ampiamente disponibili, affinché i nostri partner possano utilizzare l'AI per esaminare meglio i contenuti su vasta scala, sia una parte importante di questa lotta.

CSAI Match

CSAI Match funziona con le immagini?

CSAI Match è progettato per i video, ma, tramite l'API Content Safety di Google, è disponibile una raccolta di strumenti per i partner del settore e le ONG partner che offre una classificazione delle immagini basata sul machine learning. Scopri di più.

Quali informazioni vengono restituite con una corrispondenza identificata?

La corrispondenza identificherà quale porzione del video coincide con immagini pedopornografiche note e definirà una categorizzazione standardizzata del tipo di contenuti per cui è stata individuata la corrispondenza.

Che cosa rende la tecnologia CSAI Match così efficiente?

CSAI Match rileva segmenti quasi duplicati di immagini pedopornografiche note. Sono inclusi segmenti del tutto duplicati che la corrispondenza hash MD5 rileverebbe, così come segmenti quasi duplicati che potrebbero essere ricodifiche, offuscamenti, troncamenti o ridimensionamenti di video pedopornografici, anche se un video contiene una piccola porzione di immagini pedopornografiche possibilmente miste a contenuti di altro tipo. I partner eseguono un programma binario di fingerprint per produrre una "impronta digitale" del video, una sequenza di byte simile a un hash MD5. Questa impronta viene inviata al servizio CSAI Match di Google, che è progettato specificamente in modo efficiente quando esegui la scansione di un video in relazione al corpus di YouTube di riferimenti a immagini pedopornografiche note.