Lucha contra el abuso sexual infantil online
Invertimos muchos recursos en luchar contra el abuso sexual infantil online y su explotación, y usamos nuestra propia tecnología para evitar, detectar, retirar y denunciar contenido ofensivo en nuestras plataformas.
Colaboramos con ONGs, empresas del sector y otras entidades en programas para compartir nuestros conocimientos técnicos y desarrollar y compartir herramientas que ayuden a las organizaciones a luchar contra el material de abuso sexual infantil.
Más información sobre nuestro kit de herramientas de seguridad infantil
Combatimos el abuso infantil en nuestras plataformas y servicios
En Google siempre hemos estado comprometidos con la lucha contra el abuso sexual infantil y su explotación en nuestros servicios. Dedicamos una gran cantidad de recursos (tecnología, profesionales y tiempo) a evitar, detectar, retirar y denunciar conductas y contenidos relacionados con la explotación sexual infantil.
¿Qué estamos haciendo?
Evitar el abuso
Para prevenir que se produzcan abusos, nos aseguramos de que los niños puedan usar nuestros productos de forma segura. También usamos todas las estadísticas y estudios disponibles para analizar las cambiantes amenazas y las nuevas formas de ofender. No solo actuamos sobre el material de abuso sexual infantil, sino también con contenido más amplio que promueve este tipo de abuso y puede poner en peligro a los menores.
Detectar y denunciar
Identificamos y denunciamos material de abuso sexual infantil mediante equipos de especialistas y tecnología de vanguardia, que incluye clasificadores de aprendizaje automático y tecnología de coincidencia de hash para crear un “hash” o huella digital única de una imagen o vídeo, y que se pueda comparar con hashes de material conocido de este tipo. Cuando encontramos material de ese tipo, lo denunciamos al centro nacional para menores desaparecidos y explotados de Estados Unidos (NCMEC), que colabora con organismos públicos encargados de velar por el cumplimiento de las leyes de todo el mundo.
Colaborar a escala mundial
Colaboramos con el NCMEC y con otras organizaciones a nivel mundial para luchar contra el abuso sexual infantil en Internet. Como parte de ese esfuerzo, forjamos colaboraciones sólidas con ONGs y coaliciones del sector para aumentar y contribuir a nuestro conocimiento de la naturaleza cambiante de la explotación y el abuso sexual infantil.
¿Cómo lo hacemos?
Lucha contra el abuso sexual infantil en el buscador de Google
El buscador de Google facilita encontrar información, pero no queremos que presente contenido ilegal o que muestre abusos sexuales de menores. De acuerdo con nuestra política, bloqueamos los resultados de búsqueda que contienen imágenes de abuso sexual infantil o material en el que se acosa de forma sexual, que pone en peligro o que explota a menores de cualquier otra forma. Actualizamos constantemente nuestros algoritmos para luchar contra estas cambiantes amenazas.
Aplicamos medidas de protección adicionales cuando creemos que las búsquedas pueden ser de contenido de abuso sexual infantil. Filtramos los resultados de contenido sexual explícito si parece que se busca material de abuso sexual infantil. Para búsquedas de contenido explícito de adultos, el buscador de Google no muestra imágenes con niños para que no se les asocie con contenido sexual. En muchos países, a los usuarios que hacen búsquedas claramente relacionadas con material de abuso sexual infantil se les muestra una advertencia destacada que indica que las imágenes de abuso sexual infantil son ilegales e incluye información sobre cómo denunciar este tipo de contenido a organizaciones de confianza, como Internet Watch Foundation en el Reino Unido, Canadian Centre for Child Protection en Canadá y Te Protejo en Colombia. Cuando se muestran estas advertencias, la probabilidad de que el usuario siga buscando este tipo de material es menor.
La lucha de YouTube contra los vídeos y los contenidos abusivos
En YouTube, siempre hemos tenido políticas claras contra los vídeos, las listas de reproducción, las miniaturas y los comentarios que sexualizan o explotan a menores. Para solventar estos problemas de forma proactiva, contamos con sistemas de aprendizaje automático que detectan las infracciones, así como con un equipo internacional de revisores humanos que retiran de inmediato el contenido marcado como inapropiado por los propios usuarios y por nuestros informadores de confianza.
El hecho de que un vídeo en el que aparecen menores no infrinja nuestras políticas, no significa que los menores que aparecen en ellos no corran el riesgo de ser explotados en el mundo virtual o real. Por eso, no escatimamos en recursos para garantizar su seguridad. Nuestros sistemas de aprendizaje automático nos ayudan a identificar de manera proactiva los vídeos que pueden poner en peligro a los menores, así como a aplicar nuestras medidas de protección a gran escala. Por ejemplo, restringir funciones de las emisiones en directo, desactivar comentarios y restringir las recomendaciones de vídeos.
Nuestro Informe de Transparencia sobre el material de abuso sexual infantil
En el 2021, publicamos un informe de transparencia sobre los esfuerzos de Google para luchar contra el material de abuso sexual infantil, en el que se detalla cuántas denuncias presentamos ante el NCMEC, el centro nacional para menores desaparecidos y explotados de Estados Unidos. El informe incluye también información sobre nuestros esfuerzos en YouTube, cómo detectamos y eliminamos resultados de el buscador de Google que incluyan material de abuso sexual infantil, y cuántas cuentas se han inhabilitado por infringir la política sobre material de abuso sexual infantil en nuestros servicios.
El informe de transparencia también incluye información sobre el número de hashes de material de abuso sexual infantil que compartimos con el NCMEC. Estos hashes ayudan a otras plataformas a identificar material de abuso sexual infantil a gran escala. Nuestra contribución y la de otras organizaciones del sector a la base de datos de hash del NCMEC es importante para la lucha contra el material de abuso sexual infantil, porque ayuda a reducir la circulación de este tipo de material y a evitar que los menores abusados vuelvan a convertirse en víctimas.
Denunciar comportamientos inadecuados en nuestros productos
Queremos proteger a los menores que utilizan nuestros productos para evitar que sufran acoso, extorsión o tráfico sexual y otras formas de explotación sexual infantil. Como parte de nuestros esfuerzos para que los menores puedan usar con seguridad nuestros productos, ofrecemos información útil para ayudar a los usuarios a denunciar el material de abuso sexual infantil a las autoridades pertinentes.
Si los usuarios sospechan que se ha puesto en peligro a algún menor en productos de Google como Gmail o Hangouts, pueden utilizar este formulario para denunciarlo. Los usuarios también pueden denunciar contenido inadecuado en YouTube y abusos en Google Meet a través del Centro de Ayuda y directamente en el producto. También proporcionamos información sobre cómo evitar el hostigamiento y acoso, y cómo impedir que otros usuarios contacten con un menor. Consulta más información sobre nuestras políticas de protección infantil en las Normas de la Comunidad de YouTube y en el Centro de Seguridad de Google.
Desarrollar y compartir herramientas para combatir el abuso sexual infantil
Usamos nuestra experiencia técnica y la innovación para proteger a los niños y ayudar a que otros también lo hagan. Ofrecemos nuestra tecnología vanguardista sin ningún coste económico a las organizaciones cualificadas, para hacer que sus operaciones sean mejores, más rápidas y más seguras, y animar a las organizaciones interesadas a solicitar el uso de nuestras herramientas de seguridad infantil.
API Content Safety
Se usa en imágenes estáticas y contenido que no se ha visto previamente
En Google llevamos trabajando muchos años en clasificadores de aprendizaje automático que permiten identificar de forma proactiva imágenes con material de abuso sexual infantil que no se han visto nunca antes, para que se puedan revisar y, si se confirma su naturaleza, eliminarlas y denunciarlas lo antes posible. Esta tecnología se utiliza en la API Content Safety, que ayuda a las organizaciones a clasificar y priorizar posible contenido inadecuado para revisarlo. En la primera mitad del 2021, los partners usaron la API Content Safety para clasificar más de 6000 millones de imágenes, lo que les permitió identificar el contenido problemático con más rapidez y precisión para denunciarlo a las autoridades.
CSAI Match
Se usa para coincidencias de hash de vídeos
En el 2014, los ingenieros de YouTube desarrollaron y adoptaron una tecnología para etiquetar y eliminar de nuestros servicios vídeos con material conocido de abuso sexual infantil. Compartimos esta tecnología con otros por medio de CSAI Match, una API que ayuda a identificar vídeos que se han vuelto a subir previamente identificados con material de abuso sexual infantil. ONGs y empresas usan CSAI Match para identificar coincidencias en nuestra base de datos de contenido inadecuado conocido, y poder actuar de forma responsable según la legislación local.
Alianzas y programas
Somos miembros activos de varias coaliciones, como Technology Coalition, ICT Coalition, WeProtect Global Alliance, INHOPE y Fair Play Alliance, que reúnen a empresas y ONGs para desarrollar soluciones que impidan el intercambio de contenido de abuso infantil online y eviten la explotación sexual de menores.
Juntos financiamos la investigación de la seguridad infantil y compartimos herramientas y conocimientos, como las estadísticas de nuestro informe de transparencia, la detección en el propio producto y los procesos operativos.
En colaboración con
Ad Grants a través de Google.org
Google.org ofrece ayudas a organizaciones que lideran la lucha contra el abuso sexual infantil y su explotación, como INHOPE y ECPAT International. Además, desde el 2003, Google.org ha dado aproximadamente 90 millones de dólares en publicidad gratuita a ONGs y organizaciones benéficas que ofrecen líneas telefónicas directas para denunciar casos de abuso sexual infantil y ayudarles a llegar a los que más lo necesitan.
Programa Google Fellow
Financiamos becas técnicas en organizaciones que se dedican a combatir el abuso sexual infantil, como el NCMEC y Thorn. Además, proporcionamos formación a los agentes de las fuerzas de seguridad que investigan delitos informáticos contra la infancia a través de foros como la Crimes Against Children Conference, una conferencia nacional celebrada anualmente en Dallas, y el National Law Enforcement Training on Child Exploitation, un evento de formación para velar por el cumplimiento de las leyes en materia de explotación infantil.