Scopri il nostro toolkit per la sicurezza dei minori
Noi di Google e YouTube aiutiamo le organizzazioni a proteggere i minori. Per farlo, abbiamo sviluppato degli strumenti che permettono di assegnare la priorità alla revisione dei contenuti illeciti.
Il fulcro di questo toolkit è composto da due API, l'API Content Safety e CSAI Match, che offriamo senza costi ai partner idonei. I nostri partner utilizzano queste tecnologie per elaborare miliardi di file e verificare in tal modo l'eventuale presenza di abusi in milioni di immagini e video ogni anno.
Migliore definizione delle priorità
Le API aiutano nella lotta contro lo sfruttamento online dei minori assegnando ai contenuti illeciti la priorità per la revisione da parte di persone fisiche.
Identificazione più rapida
Riconoscere i contenuti più velocemente aumenta la probabilità che le vittime possano essere identificate e protette da ulteriori abusi.
Operazioni più sicure
Fare in modo che le code di revisione siano più efficienti e meno caotiche contribuisce anche a ridurre il carico di lavoro dei moderatori umani dei contenuti.
Scopri i nostri strumenti
I nostri strumenti dispongono di funzionalità complementari e possono essere utilizzati congiuntamente, nonché con altre soluzioni, per soddisfare esigenze diverse.
API CONTENT SAFETY
Classificazione di immagini e video inediti
CSAI MATCH
Corrispondenza con segmenti di video illeciti noti
API CONTENT SAFETY
Classificazione di immagini e video inediti
API Content Safety USATO PER: CLASSIFICAZIONE DI IMMAGINI E VIDEO INEDITI
Il classificatore dell'API Content Safety utilizza l'accesso programmatico e l'intelligenza artificiale per aiutare i nostri partner a classificare e gestire le priorità per la revisione di miliardi di immagini e video. Maggiore è la priorità assegnata dal classificatore, più sono le probabilità che il file multimediale contenga materiale illecito. Questo può aiutare i partner a gestire l'ordine di priorità per la loro revisione umana e a determinare i contenuti. L'API Content Safety fornisce un consiglio di prioritizzazione sui contenuti inviati. I partner devono effettuare la propria revisione per determinare se devono prendere provvedimenti in merito ai contenuti.
A livello operativo, consigliamo alle organizzazioni di utilizzare l'API Content Safety prima del processo di revisione manuale per classificare, dare la priorità e aiutarle a organizzare la coda di lavoro. L'API Content Safety può essere utilizzata in parallelo con altre soluzioni, come lo strumento CSAI Match di YouTube per l'hashing dei video o PhotoDNA di Microsoft, ognuno dei quali risponde a esigenze diverse.
Come funziona?
1. Recupero dei file
I file vengono recuperati dal partner in molteplici forme, ad esempio vengono segnalati da un utente oppure identificati da crawler o filtri che il partner ha creato per moderare i contenuti sulla sua piattaforma.
2. Revisione dell'API
I file multimediali vengono quindi inviati all'API Content Safety tramite una semplice chiamata API. Vengono analizzati da classificatori per determinare la priorità di revisione, dopodiché il valore di priorità per ciascun contenuto viene inviato di nuovo al partner.
3. Revisione manuale
I partner utilizzano il valore di priorità per dare la precedenza ai file che necessitano una revisione manuale prima degli altri.
4. Azione
Una volta che i file di video e immagini sono stati esaminati manualmente, il partner può prendere provvedimenti in merito ai contenuti in conformità alle leggi e normative locali.
PARTNER
GOOGLE
PARTNER
PARTNER
Immagini e video segnalati dall'utente
Crawler
Prefiltri (pornografia/altri classificatori)
I
API Content Safety
I
Tecnologia basata su classificatori
I
Revisione manuale
I
Intervento conseguente
CSAI MATCH
Corrispondenza con segmenti di video illeciti noti
CSAI Match USATO PER: CORRISPONDENZA CON SEGMENTI DI VIDEO ILLECITI NOTI
CSAI Match è la tecnologia proprietaria di YouTube per combattere le immagini pedopornografiche nei video online. Questa tecnologia è stata la prima a utilizzare la corrispondenza di hash per identificare i contenuti violativi noti e ci consente di individuarli in un volume elevato di contenuti video non violativi. Quando viene trovata una corrispondenza di contenuti violativi, questa viene segnalata ai partner che, a loro volta, esaminano, confermano e comunicano quanto riscontrato in modo responsabile e in conformità alle leggi e alle normative locali. YouTube rende CSAI Match disponibile per i partner di settore e per le ONG. Diamo accesso a software fingerprint e a un'API per individuare delle corrispondenze con il nostro database di contenuti illeciti noti.
Le piattaforme online possono impedire che i contenuti violativi vengano visualizzati e condivisi sui propri siti utilizzando CSAI Match per confrontare i loro contenuti con uno degli indici più ampi di immagini pedopornografiche note. I partner possono integrare facilmente CSAI Match nel loro sistema e gestire meglio i contenuti problematici.
Come funziona?
1. Fingerprinting del video
Un video viene caricato nella piattaforma del partner. CSAI Match Fingerprinter, che viene eseguita sulla piattaforma del partner, crea un file fingerprint del video, un documento d'identità digitale che rappresenta in modo univoco il contenuto del file video.
2. Revisione dell'API
Il partner invia il file fingerprint tramite l'API CSAI Match per confrontarlo con gli altri file nel repository fingerprint di YouTube. Il repository contiene fingerprint di contenuti illeciti noti rilevati da YouTube e Google.
3. Revisione manuale
Una corrispondenza positiva o negativa viene inviata nuovamente al partner una volta completata la chiamata all'API. Sulla base delle informazioni sulla corrispondenza, il partner esamina manualmente il video per verificare la presenza di immagini pedopornografiche.
4. Azione
Una volta che le immagini sono state esaminate, il partner può intervenire sui contenuti in conformità con leggi e normative locali.
"La soluzione di corrispondenza di hash di Google ha rivoluzionato i nostri flussi di lavoro e ci ha consentito di ottenere risultati migliori in meno tempo. Grazie all'importante contributo di Google al National Center for Missing & Exploited Children, i processi automatici riducono la necessità di una revisione umana del materiale pedopornografico già segnalato in precedenza, riducendo così l'esposizione del nostro personale a questi contenuti. È fondamentale che queste immagini vengano rimosse il più rapidamente possibile: ogni volta che la foto di un minore viene ricondivisa, l'abuso si ripete ancora e ancora. Inoltre, in questo modo abbiamo la possibilità di concentrare il nostro impegno nell'aiutare sia le nuove vittime minorenni non note che le vittime sopravvissute a precedenti abusi." - National Center for Missing & Exploited Children
"L'implementazione dell'API Content Safety di Google è stata un grande passo avanti per la nostra piattaforma, che ospita centinaia di milioni di documenti caricati dagli utenti. L'API analizza in modo efficiente grandi volumi di immagini alla ricerca di materiale potenzialmente offensivo, contribuendo a garantire un ambiente digitale sicuro per i nostri utenti. Il suo throughput elevato e la sua precisione ci hanno permesso di focalizzarci sulla revisione, sull'intervento e sull'assistenza." - Scribd, Inc.
"Con gli strumenti di Google per la sicurezza di bambini e ragazzi abbiamo potuto verificare l'adeguato funzionamento delle misure di sicurezza che abbiamo in atto e continuiamo a riscontrare incidenze record a una sola cifra di materiale pedopornografico su Nextdoor." - Nextdoor
"Man mano che Substack continua a espandere le sue funzionalità video, garantire la sicurezza della nostra comunità, in particolare la protezione dei minorenni, rimane una priorità assoluta in termini di fiducia e sicurezza. L'utilizzo di tecnologie avanzate di rilevamento di immagini pedopornografiche è stato fondamentale per affrontare queste sfide critiche per la sicurezza. Gli strumenti di Google ci consentono di identificare e rimuovere rapidamente e con precisione i contenuti dannosi, mantenendo la nostra piattaforma uno spazio sicuro per i creator e il pubblico." - Substack
"CSAI Match rimane un pilastro importante del programma per la sicurezza di bambini e ragazzi di Adobe. Sfruttare questa tecnologia si è rivelato un mezzo efficace per contribuire a rilevare i video di abusi sessuali su minori in modo più efficiente e su larga scala." - Adobe
"La lotta contro l'aumento di materiale pedopornografico basato su video presenta sfide nuove e richiede tecnologie innovative. CSAI Match ha dimostrato di essere parte della soluzione, consentendoci di rilevare e rimuovere meglio video pedopornografici dalle nostre piattaforme." - Yahoo!
"L'API Content Safety aiuta gli analisti che lavorano all'identificazione delle immagini che raffigurano abusi sessuali sui minorenni a gestire meglio le priorità. Dato il volume in continuo aumento di segnalazioni da elaborare ed esaminare, la corretta assegnazione delle priorità è una vera sfida. Questa tecnologia consente agli analisti di individuare più velocemente le segnalazioni che includono contenuti che mostrano abusi sessuali su minorenni e, pertanto, permette loro di agire con più rapidità in modo da proteggere le vittime e rimuovere i contenuti." - Point de Contact
"Facile da integrare, rapida, stabile e precisa, l'API Content Safety ha significativamente ridotto la quantità di tempo che gli addetti all'analisi dei contenuti impiegavano per esaminare le immagini pedopornografiche, ha ottimizzato il processo di analisi e ha inciso positivamente sul benessere mentale dei nostri dipendenti." - SaferNet Brasil
1
/
Domande frequenti
API Content Safety
In quale formato vengono inviati i dati all'API Content Safety?
Abbiamo a disposizione opzioni per supportare sia i byte di contenuti non elaborati che l'incorporamento derivato da file multimediali. Contattaci per ulteriori dettagli.
Chi può registrarsi per ottenere l'accesso alla tecnologia dell'API Content Safety?
Gli operatori del settore e le terze parti della società civile che intendono proteggere la propria piattaforma da abusi possono registrarsi per ottenere l'accesso all'API Content Safety. Le candidature sono soggette ad approvazione.
Perché questi strumenti sono ampiamente disponibili?
Riteniamo che l'approccio migliore per lottare contro lo sfruttamento minorile online sia la collaborazione con altre aziende e ONG. Abbiamo lavorato a lungo nel settore e con le ONG per sostenere lo sviluppo di nuovi strumenti basati sui dati, migliorare le capacità tecniche e diffondere una maggiore sensibilizzazione al riguardo. Crediamo che rendere questi strumenti ampiamente disponibili, affinché i nostri partner possano utilizzare l'AI per esaminare meglio i contenuti su vasta scala, sia una parte importante di questa lotta.
CSAI Match
CSAI Match funziona con le immagini?
CSAI Match è progettato per i video, ma, tramite l'API Content Safety di Google, è disponibile una raccolta di strumenti per i partner del settore e le ONG partner che offre una classificazione delle immagini basata sul machine learning. Scopri di più.
Quali informazioni vengono restituite con una corrispondenza identificata?
La corrispondenza identificherà quale porzione del video coincide con immagini pedopornografiche note e definirà una categorizzazione standardizzata del tipo di contenuti per cui è stata individuata la corrispondenza.
Che cosa rende la tecnologia CSAI Match così efficiente?
CSAI Match rileva segmenti quasi duplicati di immagini pedopornografiche note. Sono inclusi segmenti del tutto duplicati che la corrispondenza hash MD5 rileverebbe, così come segmenti quasi duplicati che potrebbero essere ricodifiche, offuscamenti, troncamenti o ridimensionamenti di video pedopornografici, anche se un video contiene una piccola porzione di immagini pedopornografiche possibilmente miste a contenuti di altro tipo. I partner eseguono un programma binario di fingerprint per produrre una "impronta digitale" del video, una sequenza di byte simile a un hash MD5. Questa impronta viene inviata al servizio CSAI Match di Google, che è progettato specificamente in modo efficiente quando esegui la scansione di un video in relazione al corpus di YouTube di riferimenti a immagini pedopornografiche note.
