Lucha contra el abuso sexual infantil en línea
Invertimos una gran cantidad de recursos para combatir la explotación y el abuso sexual infantil en línea, y usamos tecnología propia que permite desalentar, detectar, quitar y denunciar infracciones en nuestras plataformas.
Nos asociamos con ONG y empresas de la industria mediante programas específicos a fin de compartir nuestra experiencia técnica, y desarrollamos y ponemos a disposición herramientas para ayudar a las organizaciones a combatir el CSAM.
Obtén más información sobre nuestro kit de herramientas de seguridad infantil aquí.
Lucha contra el abuso en nuestros servicios y plataformas
Desde nuestros comienzos, en Google nos comprometimos a combatir la explotación y el abuso sexual infantil en los servicios que ofrecemos. Invertimos una gran cantidad de recursos (tecnología, personas y tiempo) para detectar, desalentar, quitar y denunciar el contenido y las conductas de explotación sexual de menores.
¿Qué estamos haciendo?
Prevención del abuso
Nuestro objetivo es prevenir el abuso, y lo hacemos garantizando que los productos de Google sean seguros para que los menores puedan usarlos. También utilizamos todas las investigaciones y estadísticas disponibles a los efectos de comprender las amenazas en constante cambio y las nuevas formas de cometer delitos. Tomamos medidas no solo contra el CSAM ilegal, sino también contra el contenido que fomenta el abuso sexual de menores y que puede ponerlos en peligro.
Detección y denuncia
Identificamos y denunciamos el CSAM mediante el trabajo de equipos de especialistas entrenados y tecnología de vanguardia, lo que incluye clasificadores de aprendizaje automático y tecnología de coincidencia de hashes, que generan un "hash", o huella digital única, para una imagen o un video, de modo que pueda compararse con hashes de CSAM conocido. En caso de detectar contenido de este tipo, presentamos una denuncia ante el National Center for Missing and Exploited Children (NCMEC), que trabaja con agencias de orden público de todo el mundo.
Colaboración mundial
Colaboramos con el NCMEC y otras organizaciones internacionales en nuestros esfuerzos por combatir el abuso sexual infantil en línea. Como parte de esa iniciativa, creamos fuertes vínculos con ONG y establecemos coaliciones en la industria a fin de contribuir y ayudar al crecimiento de la comprensión colectiva de la naturaleza en constante cambio de la explotación y el abuso sexual infantil.
¿Cómo lo estamos haciendo?
La lucha contra el abuso sexual infantil en la Búsqueda
La Búsqueda de Google permite que la información sea fácil de encontrar, pero no queremos que muestre contenido ilegal ni de explotación sexual infantil. Nuestra política consiste en bloquear los resultados de la búsqueda que muestran imágenes de abuso sexual infantil o material donde parece que se acosa sexualmente a menores, se los pone en peligro o se los explota. Trabajamos de forma continua en la actualización de nuestros algoritmos para combatir estas amenazas en constante cambio.
Aplicamos medidas de protección adicionales en búsquedas que a nuestro entender procuran obtener CSAM. Filtramos los resultados con contenido sexual explícito si parece que se busca CSAM. Para las búsquedas de contenido adulto explícito, la Búsqueda no muestra imágenes que incluyan menores, de modo que no haya asociación entre estos y el contenido sexual. En muchos países, cuando los usuarios ingresan una búsqueda claramente relacionada con CSAM, se muestra una advertencia destacada que indica que las imágenes de abuso sexual infantil son ilegales, junto con información para denunciar ese contenido ante organizaciones de confianza como la Internet Watch Foundation del Reino Unido, el Canadian Centre for Child Protection y Te Protejo, de Colombia. Cuando se muestran esas advertencias, la mayoría de los usuarios deja de buscar ese tipo de material.
La labor de YouTube para restringir el contenido y los videos abusivos
Siempre hemos tenido políticas claras en contra de los videos, las listas de reproducción, las miniaturas y los comentarios de YouTube en los que se sexualiza o explota a menores. Usamos sistemas de aprendizaje automático para detectar de forma proactiva las infracciones a estas políticas y contamos con revisores manuales en todo el mundo que quitan rápidamente las infracciones que detectan nuestros sistemas o que marcan los usuarios y nuestros marcadores de confianza.
Reconocemos que puede existir contenido de menores que, a pesar de no infringir nuestras políticas, podría exponerlos a un riesgo de explotación en línea o en la vida real. Por ese motivo, tomamos precauciones adicionales a la hora de aplicar estas políticas. Nuestros sistemas de aprendizaje automático ayudan a identificar de forma proactiva los videos que puedan poner en riesgo a menores y aplican nuestras medidas de protección a gran escala, como restringir las funciones en vivo, inhabilitar los comentarios y limitar las recomendaciones de video.
Nuestro informe de transparencia sobre CSAM
En 2021, lanzamos un informe de transparencia acerca de los esfuerzos de Google por combatir el material de abuso sexual infantil en línea, que detalla la cantidad de denuncias que realizamos ante el NCMEC. El informe también brinda datos sobre nuestros esfuerzos en YouTube, la forma en la que detectamos y quitamos resultados con CSAM de la Búsqueda, y la cantidad de cuentas que inhabilitamos debido a infracciones relacionadas con CSAM en nuestros servicios.
El informe de transparencia también incluye información acerca de la cantidad de hashes de CSAM que compartimos con el NCMEC. Esos hashes ayudan a otras plataformas a identificar CSAM a gran escala. Contribuir a la base de datos de hashes del NCMEC es una de las acciones más útiles que Google y otros actores de la industria pueden realizar para combatir el CSAM, ya que ayuda a disminuir la recirculación de ese material y la revictimización de los menores abusados.
Denuncias de comportamiento inapropiado en nuestros productos
Queremos proteger a los menores que usan nuestros productos y evitar que sean víctimas de ciberacoso infantil, extorsión sexual, trata de personas y cualquier otra forma de explotación sexual. Como parte de nuestra labor en pos de hacer que nuestros productos sean seguros para los menores que los utilizan, brindamos información útil que permite a los usuarios denunciar material de abuso sexual infantil ante las autoridades correspondientes.
Si los usuarios sospechan que se puso en peligro a un menor en productos de Google como Gmail o Hangouts, pueden hacer una denuncia mediante este formulario. Los usuarios también pueden marcar contenido inapropiado en YouTube y denunciar abusos en Google Meet a través del Centro de ayuda o directamente en el producto. También proporcionamos información sobre qué hacer ante problemas relacionados con el bullying y el acoso, lo que incluye información para bloquear usuarios y evitar que se pongan en contacto con un menor. Si deseas obtener más información sobre nuestras políticas de seguridad infantil, consulta los Lineamientos de la Comunidad de YouTube y el Centro de seguridad de Google.
Desarrollo y uso compartido de herramientas para luchar contra el abuso sexual infantil
Usamos nuestra innovación y experiencia técnica con el objetivo de proteger a los menores y motivar a otros para que hagan lo mismo. Ofrecemos nuestra tecnología de vanguardia sin costo a organizaciones calificadas para que puedan trabajar mejor, más rápido y con mayor seguridad. Asimismo, alentamos a las organizaciones interesadas a que envíen una solicitud para usar nuestras herramientas de seguridad infantil.
API de seguridad de contenido
Se utiliza para imágenes estáticas y contenido nunca antes visto
Durante muchos años, Google ha estado trabajando en clasificadores de aprendizaje automático que nos permitan identificar de forma proactiva imágenes con CSAM nunca antes vistas, de modo que se puedan revisar y, en caso de validar su contenido, quitarlas y denunciarlas tan pronto como sea posible. La API de seguridad de contenido usa esta tecnología, lo que ayuda a organizaciones a clasificar y priorizar contenido potencialmente abusivo para su revisión. En la primera mitad de 2021, los socios usaron la API de seguridad de contenido para clasificar más de 6 mil millones de imágenes, lo que permitió identificar contenido abusivo con mayor rapidez y precisión a fin de denunciarlo ante las autoridades.
CSAI Match
Se utiliza para la detección mediante coincidencia de hash de videos
En 2014, los ingenieros de YouTube desarrollaron y adoptaron tecnología a los efectos de etiquetar videos con CSAM conocido y quitarlos de nuestros servicios. Compartimos esta tecnología con otros a través de CSAI Match, una API que ayuda a identificar copias de los videos en los que se había detectado material de abuso sexual infantil. Diversas ONG y empresas usan CSAI Match para identificar coincidencias en nuestra base de datos de contenido abusivo conocido, de modo que puedan actuar de manera responsable en virtud de las leyes y reglamentaciones locales correspondientes.
Alianzas y programas
Formamos parte de varias coaliciones, como Technology Coalition, ICT Coalition, WeProtect Global Alliance, INHOPE y Fair Play Alliance, que reúnen a empresas y ONG a los efectos de desarrollar soluciones que obstaculicen el intercambio de CSAM en línea y prevengan la explotación sexual de menores.
Juntos, financiamos investigaciones sobre seguridad infantil y compartimos herramientas y conocimiento, como estadísticas de informes de transparencia, la detección dentro de productos y procesos operativos.
En asociación con
Ad Grants a través de Google.org
Google.org ofrece subsidios a organizaciones que lideran la lucha contra la explotación y el abuso sexual infantil, como INHOPE y ECPAT International. Además, desde 2003, Google.org ha otorgado cerca de USD 90 millones en presupuesto publicitario sin costo a ONG y entidades benéficas que operan líneas directas de denuncia de abuso sexual infantil, lo que las ayuda a llegar a aquellos que más asistencia necesitan.
Programa de Google Fellow
Financiamos becas técnicas en organizaciones dedicadas a la lucha contra el abuso sexual infantil, como NCMEC y Thorn. Además, en Google capacitamos a funcionarios de las fuerzas del orden público que investigan delitos en línea contra menores a través de foros como Crimes Against Children Conference y National Law Enforcement Training on Child Exploitation.