Lotta contro gli abusi sessuali su minori online
Investiamo molto nella lotta contro lo sfruttamento minorile e gli abusi sessuali su minori online e usiamo la tecnologia di nostra proprietà per scoraggiare, rilevare e segnalare le trasgressioni sulle nostre piattaforme.
Collaboriamo con ONG e operatori del settore a diversi programmi in modo da condividere le nostre competenze tecniche. Inoltre, sviluppiamo e condividiamo strumenti per aiutare le organizzazioni a contrastare la diffusione del materiale pedopornografico.
Scopri di più sul nostro toolkit per la sicurezza dei minori qui.
Lotta agli abusi sui nostri servizi e piattaforme
Noi di Google ci siamo impegnati a combattere gli abusi sessuali e lo sfruttamento dei minori sui nostri servizi sin dal principio. Dedichiamo numerose risorse (tecnologia, persone e tempo) a scoraggiare, rilevare, rimuovere e segnalare contenuti e comportamenti legati allo sfruttamento sessuale di minori.
Quali sono le nostre iniziative?
Prevenzione degli abusi
Miriamo a prevenire gli abusi garantendo che i nostri prodotti siano sicuri per l'utilizzo da parte di minori. Usiamo anche tutti i dati e le ricerche disponibili per comprendere l'evolversi delle minacce e le nuove violazioni, come nel caso di materiale pedopornografico creato con l'AI. Adottiamo misure non solo riguardo al materiale pedopornografico illegale, ma anche nel caso di contenuti che, in senso più ampio, promuovono abusi sessuali su minori e possono metterli in situazioni di pericolo.
Rilevamento e segnalazione
Identifichiamo e segnaliamo il materiale pedopornografico con l'aiuto di team di esperti qualificati e tecnologie all'avanguardia, compresi classificatori basati sul machine learning e una tecnologia di corrispondenza di hash che crea un "hash", ovvero un'impronta digitale univoca, per un'immagine o un video che possa essere confrontato con hash di materiale pedopornografico noto. Quando troviamo materiali pedopornografici, li segnaliamo al National Center for Missing and Exploited Children (NCMEC), che collabora con le forze dell'ordine di tutto il mondo.
Collaborazione a livello mondiale
Collaboriamo con il NCMEC e altre organizzazioni a livello mondiale nell'ambito del nostro impegno per combattere gli abusi sessuali su minori online. Come parte di queste iniziative, instauriamo partnership solide con ONG e coalizioni del settore per aiutarle a svilupparsi e contribuire alla comprensione congiunta della natura in evoluzione di abuso e sfruttamento sessuale di minori.
Come le stiamo mettendo in atto?
Agiamo su contenuti come materiale pedopornografico, adescamento, estorsione sessuale e altro ancora, utilizzando un'ampia gamma di risorse umane e tecnologiche. Puoi leggere una descrizione di alto livello del nostro approccio o approfondire come alcuni dei nostri prodotti affrontano questo tipo di abuso.
La lotta contro gli abusi sessuali su minori nella Ricerca
La Ricerca Google rende le informazioni facili da trovare, ma in nessun caso vogliamo che questo strumento mostri contenuti illegali o che sfruttano sessualmente di minori. È nostra prassi bloccare i risultati di ricerca che reindirizzano a immagini pedopornografiche o a materiali che sembrano mostrare abusi sessuali, mettere in pericolo o sfruttare in qualche modo i minori. Aggiorniamo di continuo i nostri algoritmi per lottare contro queste minacce in continua evoluzione.
Applichiamo protezioni aggiuntive alle ricerche mirate a trovare materiale pedopornografico. Filtriamo i risultati sessuali espliciti se la query di ricerca sembra essere rivolta all'individuazione di materiale pedopornografico. Inoltre, per le query relative a contenuti espliciti per adulti, la Ricerca non restituisce immagini che includono minorenni, in modo da impedire l'associazione tra minori e contenuti di natura sessuale. In molti paesi, agli utenti che inseriscono query chiaramente correlate a materiale pedopornografico viene mostrato un avviso in evidenza che indica che le immagini pedopornografiche sono illegali, con informazioni su come segnalare questi contenuti a organizzazioni attendibili come l'Internet Watch Foundation nel Regno Unito, il Canadian Centre for Child Protection e Te Protejo in Colombia. Quando vengono mostrati questi avvisi, gli utenti sono meno propensi a continuare la ricerca di questo materiale.
La lotta contro lo sfruttamento dei minori nei video e nei materiali di YouTube
Le nostre norme hanno sempre condannato fermamente video, playlist, miniature e commenti su YouTube che sfruttano i minori o attribuiscono loro connotazioni sessuali. Utilizziamo sistemi basati sul machine learning per individuare in modo proattivo le violazioni di queste norme e i nostri revisori umani in tutto il mondo rimuovono velocemente i contenuti in violazione identificati dai nostri sistemi o segnalati dagli utenti o dai nostri segnalatori attendibili.
Ci rendiamo conto che, anche se non violano le nostre norme, alcuni contenuti raffiguranti minori potrebbero metterli a rischio ed esporli a sfruttamento online o offline. Per questo motivo, abbiamo deciso di adottare un approccio particolarmente attento per quanto riguarda l'applicazione di queste norme. I nostri sistemi basati sul machine learning ci aiutano a identificare in modo proattivo i video che possono mettere a rischio i minorenni e ad applicare le nostre protezioni su larga scala, ad esempio limitando le funzionalità dal vivo e i video consigliati o disattivando i commenti.
Il nostro rapporto sulla trasparenza relativo al materiale pedopornografico
Nel 2021, abbiamo lanciato un rapporto sulla trasparenza che descrive le iniziative di Google nella lotta contro il materiale pedopornografico online e include il numero di segnalazioni che abbiamo effettuato al NCMEC. Il rapporto fornisce inoltre dati in merito alle misure che adottiamo su YouTube, a come rileviamo e rimuoviamo dalla Ricerca i risultati relativi a materiale pedopornografico e a quanti account vengono disattivati per violazioni correlate a materiale pedopornografico sui nostri servizi.
Il rapporto sulla trasparenza include anche informazioni sul numero di hash di materiale pedopornografico che condividiamo con il NCMEC. Questi hash aiutano altre piattaforme a identificare il materiale pedopornografico su vasta scala. Contribuire a migliorare il database di hash del NCMEC è uno dei modi importanti con cui Google e altre aziende del settore possono impegnarsi sul fronte della lotta contro il materiale pedopornografico, in quanto ciò aiuta a ridurre la circolazione di questo materiale e il conseguente ripetersi di abusi nei confronti di minori già vittime di questi comportamenti.
Segnalazione di comportamenti inappropriati sui nostri prodotti
Vogliamo proteggere bambini e ragazzi che utilizzano i nostri prodotti da adescamento, estorsione sessuale, traffico di minori e altre forme di sfruttamento sessuale di minorenni. Nell'ambito del lavoro per rendere i nostri prodotti sicuri per bambini e ragazzi, forniamo informazioni utili per aiutare gli utenti a segnalare il materiale pedopornografico alle autorità competenti.
Se gli utenti sospettano che un minore sia stato messo in pericolo su prodotti Google come Gmail o Hangouts, possono segnalarlo utilizzando questo modulo. Gli utenti possono anche segnalare i contenuti inappropriati su YouTube e gli abusi su Google Meet tramite il Centro assistenza e direttamente all'interno dei prodotti. Forniamo anche informazioni su come gestire i problemi relativi a bullismo e molestie, comprese le istruzioni su come impedire agli utenti di contattare un minore. Per ulteriori informazioni relative alle norme per la sicurezza dei minori, consulta le Norme della community di YouTube e il Centro per la sicurezza online di Google.
Sviluppo e condivisione di strumenti per combattere gli abusi sessuali su minori
Utilizziamo le nostre competenze tecniche e l'innovazione per proteggere i minori e aiutare altri soggetti a fare altrettanto. Offriamo i nostri strumenti tecnologici all'avanguardia e senza costi alle organizzazioni idonee per rendere le loro operazioni più efficienti, veloci e sicure; inoltre, incoraggiamo le organizzazioni interessate a richiedere l'utilizzo dei nostri strumenti per la sicurezza di bambini e ragazzi.
API Content Safety
Usata per contenuti di video e immagini non rilevati in precedenza
Google lavora da molti anni a dei classificatori basati sul machine learning che ci consentono di identificare proattivamente immagini pedopornografiche mai rilevate prima, affinché vengano esaminate; se viene confermato che si tratta di materiale pedopornografico, questi classificatori permettono di rimuoverlo e segnalarlo il prima possibile. Questa tecnologia si basa sull'API Content Safety, che aiuta le organizzazioni a classificare i contenuti illeciti e definirne le priorità per la revisione. Ogni mese, i nostri partner utilizzano l'API Content Safety per classificare miliardi di file, identificando i contenuti problematici più rapidamente e con maggiore precisione, così da poterli segnalare alle autorità.
CSAI Match
Usata per la corrispondenza di hash nei video
Nel 2014, gli ingegneri di YouTube hanno sviluppato e adottato una tecnologia per taggare e rimuovere dai nostri servizi i video pedopornografici noti. Condividiamo questa tecnologia con altri soggetti tramite CSAI Match, un'API che aiuta a identificare i ricaricamenti di materiale pedopornografico già identificato in precedenza nei video. CSAI Match viene utilizzata da ONG e aziende come ausilio per identificare le corrispondenze con il nostro database di contenuti illeciti noti e poter agire in modo responsabile e in conformità a leggi e normative locali.
Alleanze e programmi
Siamo membri attivi di diverse coalizioni, ad esempio la Technology Coalition, la ICT Coalition, la WeProtect Global Alliance, INHOPE e la Fair Play Alliance, che consentono alle aziende e alle ONG di sviluppare soluzioni che mettano fine allo scambio di materiale pedopornografico online e ostacolino lo sfruttamento sessuale di minori.
Insieme finanziamo la ricerca sulla sicurezza dei minori e condividiamo strumenti e conoscenze, ad esempio i nostri dati del Rapporto sulla trasparenza, il rilevamento all'interno dei prodotti e i processi operativi.
In collaborazione con
Ad Grants tramite Google.org
Google.org offre sovvenzioni alle organizzazioni impegnate in prima linea nella lotta contro lo sfruttamento minorile e gli abusi sessuali su minori, come INHOPE ed ECPAT International. Inoltre, dal 2003 Google.org ha donato circa 90 milioni di dollari da spendere in budget pubblicitario gratuito a ONG ed enti di beneficenza che gestiscono le linee di assistenza telefonica per la segnalazione di abusi sessuali su minori, aiutandole a raggiungere le persone che ne hanno più bisogno.
Programma Google Fellow
Finanziamo programmi tecnologici presso organizzazioni dedicate alla lotta contro gli abusi sessuali su minori, come NCMEC e Thorn. Inoltre, Google offre formazione agli ufficiali delle forze dell'ordine che svolgono indagini sui reati online nei confronti di minori, attraverso forum come la Crimes Against Children Conference e il National Law Enforcement Training on Child Exploitation.