Lotta contro gli abusi sessuali su minori online
Investiamo molto nella lotta contro lo sfruttamento minorile e gli abusi sessuali su minori online e usiamo la tecnologia di nostra proprietà per scoraggiare, rilevare e segnalare le trasgressioni sulle nostre piattaforme.
Collaboriamo con ONG e operatori del settore a diversi programmi in modo da condividere le nostre competenze tecniche. Inoltre, sviluppiamo e condividiamo strumenti per aiutare le organizzazioni a contrastare la diffusione del materiale pedopornografico.
Scopri di più sul nostro toolkit per la sicurezza dei minori qui.
Lotta agli abusi sui nostri servizi e piattaforme
Noi di Google ci siamo impegnati a combattere gli abusi sessuali e lo sfruttamento dei minori sui nostri servizi sin dal principio. Dedichiamo numerose risorse (tecnologia, persone e tempo) a scoraggiare, rilevare, rimuovere e segnalare contenuti e comportamenti legati allo sfruttamento sessuale di minori.
Quali sono le nostre iniziative?
Prevenzione degli abusi
Miriamo a prevenire gli abusi garantendo che i nostri prodotti siano sicuri per l'utilizzo da parte di minori. Usiamo anche tutti i dati e le ricerche disponibili per comprendere l'evolversi delle minacce e le nuove violazioni. Adottiamo misure non solo contro il materiale pedopornografico illegale, ma anche nel caso di tutti i tipi di contenuti che promuovono abusi sessuali su minori e che possono metterli in situazioni di pericolo.
Rilevamento e segnalazione
Identifichiamo e segnaliamo il materiale pedopornografico con l'aiuto di team di esperti qualificati e tecnologie all'avanguardia, compresi classificatori basati sul machine learning e una tecnologia che crea un "hash", ovvero un'impronta digitale univoca, per ciascuna immagine o video, cosicchè possa essere confrontato con altri hash relativi a materiali pedopornografici noti. Quando troviamo materiali pedopornografici, li segnaliamo al National Center for Missing and Exploited Children (NCMEC), che collabora con le autorità di polizia di tutto il mondo.
Collaborazione a livello mondiale
Collaboriamo con il NCMEC e altre organizzazioni a livello mondiale nell'ambito del nostro impegno per combattere gli abusi sessuali su minori online. Come parte di queste iniziative, instauriamo partnership solide con ONG e coalizioni del settore per aiutarle a crescere e ad aumentare la comprensione del fenomeno, sempre in evoluzione, degli abusi sessuali e dello sfruttamento dei minori online e dello sfruttamento dei minori.
Come le stiamo mettendo in atto?
La lotta contro gli abusi sessuali su minori nella Ricerca
La Ricerca Google rende le informazioni facili da trovare, ma in nessun caso vogliamo che tale strumento mostri contenuti illegali o implichi lo sfruttamento sessuale di minori. È nostra prassi bloccare i risultati di Ricerca che reindirizzano a immagini pedopornografiche o a materiali che sembrano mostrare abusi sessuali, mettere in pericolo o sfruttare in qualche modo i minori. Aggiorniamo sempre i nostri algoritmi per contrastare queste minacce in continua evoluzione.
Applichiamo protezioni aggiuntive alle ricerche mirate a trovare contenuti pedopornografici. Filtriamo i risultati sessuali espliciti se la query di Ricerca sembra essere rivolta all'individuazione di materiale pedopornografico. Inoltre, per le query relative a contenuti espliciti per adulti, la Ricerca non restituisce immagini che includono minorenni, in modo da impedire l'associazione tra minori e contenuti di natura sessuale. In molti paesi come l'Italia, agli utenti che inseriscono query chiaramente correlate a materiale pedopornografico viene mostrato un avviso in evidenza che indica che le immagini pedopornografiche sono illegali, con informazioni su come segnalare tali contenuti a organizzazioni attendibili come l'Internet Watch Foundation nel Regno Unito, il Canadian Centre for Child Protection e Te Protejo in Colombia. Quando vengono mostrati tali avvisi, gli utenti sono meno propensi a continuare la ricerca di questo materiale.
La lotta contro lo sfruttamento dei minori nei video e nei materiali di YouTube
Le nostre norme hanno sempre condannato fermamente video, playlist, miniature e commenti su YouTube che sfruttano i minori o attribuiscono loro connotazioni sessuali. Utilizziamo sistemi basati sul machine learning per individuare in modo proattivo le violazioni di queste norme e i nostri revisori umani in tutto il mondo rimuovono velocemente i contenuti in violazione identificati dai nostri sistemi o segnalati dagli utenti o dai nostri segnalatori attendibili.
Ci rendiamo conto che, anche se non violano le nostre norme, alcuni contenuti raffiguranti minori potrebbero metterli a rischio ed esporli a sfruttamento online o offline. Per questo motivo, abbiamo deciso di adottare un approccio particolarmente attento per quanto riguarda l'applicazione di tali norme. I nostri sistemi basati sul machine learning ci aiutano a identificare in modo proattivo i video che possono mettere a rischio i minorenni e ad applicare le nostre protezioni su larga scala, ad esempio limitando le funzionalità dal vivo e i consigli per i video o disattivando i commenti.
Il nostro Rapporto sulla trasparenza relativo al materiale pedopornografico
Nel 2021, abbiamo lanciato un Rapporto sulla trasparenza che descrive le iniziative di Google nella lotta contro il materiale pedopornografico online e include il numero di segnalazioni che abbiamo effettuato al NCMEC. Il rapporto fornisce inoltre dati in merito alle misure che adottiamo su YouTube, a come rileviamo e rimuoviamo dalla Ricerca i risultati relativi a materiale pedopornografico e a quanti account vengono disattivati per violazioni correlate a materiale pedopornografico sui nostri servizi.
Il Rapporto sulla trasparenza include anche informazioni sul numero di hash di materiale pedopornografico che condividiamo con il NCMEC. Tali hash aiutano altre piattaforme a identificare il materiale pedopornografico su vasta scala. Contribuire a migliorare il database di hash del NCMEC è uno dei modi importanti con cui Google e altre aziende del settore possono impegnarsi sul fronte della lotta contro il materiale pedopornografico, in quanto ciò aiuta a ridurre la circolazione di questo materiale e il conseguente ripetersi di abusi nei confronti di minori già vittime di tali comportamenti.
Segnalazione di comportamenti inappropriati sui nostri prodotti
Vogliamo proteggere i bambini e i ragazzi che utilizzano i nostri prodotti da adescamento, sextortion, traffico di minori e altre forme di sfruttamento sessuale di minorenni. Nell'ambito del lavoro per rendere i nostri prodotti sicuri per bambini e ragazzi, forniamo informazioni utili per aiutare gli utenti a segnalare il materiale pedopornografico alle autorità competenti.
Se gli utenti sospettano che un minore sia stato messo in pericolo su prodotti Google come Gmail o Hangouts, possono segnalarlo utilizzando questo modulo. Gli utenti possono anche segnalare i contenuti inappropriati su YouTube e gli abusi su Google Meet tramite il Centro assistenza e direttamente all'interno dei prodotti. Forniamo anche informazioni su come gestire i problemi relativi a bullismo e molestie, comprese le istruzioni su come impedire agli utenti di contattare un minore. Per ulteriori informazioni relative alle norme sulla sicurezza dei minorenni, consulta le Norme della community di YouTube e il Centro per la sicurezza online di Google.
Sviluppo e condivisione di strumenti per combattere gli abusi sessuali su minori
Utilizziamo le nostre competenze tecniche e l'innovazione per proteggere i minori e aiutare gli altri a fare altrettanto. Offriamo senza costo i nostri strumenti tecnologici all'avanguardia alle organizzazioni idonee per rendere le loro operazioni più efficienti, veloci e sicure, nonché incoraggiare gli organismi interessati a presentare domanda per l'utilizzo dei nostri strumenti per la sicurezza dei minori.
API Content Safety
Utilizzata per immagini statiche e contenuti mai visti in precedenza
Google lavora da molti anni a dei classificatori basati sul machine learning che ci consentono di identificare proattivamente immagini pedopornografiche mai viste prima, affinché vengano esaminate; se viene confermato che si tratta di materiale pedopornografico, tali classificatori permettono di rimuoverlo e segnalarlo il prima possibile. Questa tecnologia si basa sull'API Content Safety, che aiuta le organizzazioni a classificare i contenuti illeciti e definirne le priorità per la revisione. Nella prima metà del 2021, i partner hanno utilizzato l'API Content Safety per classificare oltre 6 miliardi di immagini, identificando i contenuti problematici più rapidamente e con maggiore precisione, così da poterli segnalare alle autorità.
CSAI Match
Utilizzata per la corrispondenza di hash per i video
Nel 2014, gli ingegneri di YouTube hanno sviluppato e adottato una tecnologia per taggare e rimuovere dai nostri servizi i video pedopornografici noti. Condividiamo tale tecnologia con altri tramite CSAI Match, un'API che aiuta a identificare i ricaricamenti di materiale pedopornografico già identificato in precedenza nei video. CSAI Match viene utilizzata da ONG e aziende per identificare le corrispondenze con il nostro database di contenuti illeciti noti e poter agire in modo responsabile e in conformità con leggi e normative locali.
Alleanze e programmi
Siamo membri attivi di diverse coalizioni, ad esempio la Technology Coalition, la ICT Coalition, la WeProtect Global Alliance, INHOPE e la Fair Play Alliance, che consentono alle aziende e alle ONG di sviluppare soluzioni che mettano fine allo scambio di materiale pedopornografico online e ostacolino lo sfruttamento sessuale di minori.
Insieme finanziamo la ricerca sulla sicurezza dei minori e condividiamo strumenti e conoscenze, ad esempio i nostri dati del Rapporto sulla trasparenza, il rilevamento all'interno dei prodotti e i processi operativi.
In collaborazione con
Ad Grants tramite Google.org
Google.org offre sovvenzioni alle organizzazioni impegnate in prima linea nella lotta contro lo sfruttamento minorile e gli abusi sessuali su minori, come INHOPE ed ECPAT International. Inoltre, dal 2003 Google.org ha donato circa 90 milioni di dollari da spendere in budget pubblicitario gratuito a ONG ed enti di beneficenza che gestiscono le linee di assistenza telefonica per la segnalazione di abusi sessuali su minori, aiutandole a raggiungere le persone che ne hanno più bisogno.
Programma Google Fellow
Finanziamo programmi tecnologici presso organizzazioni dedicate alla lotta contro gli abusi sessuali su minori, come NCMEC e Thorn. Inoltre, Google offre formazione agli ufficiali delle forze dell'ordine che svolgono indagini sui reati online nei confronti di minori, attraverso forum come la Crimes Against Children Conference e il National Law Enforcement Training on Child Exploitation.