Lucha contra el abuso sexual infantil en línea
Invertimos una gran cantidad de recursos para combatir la explotación y el abuso sexual infantil en línea, y usamos tecnología propia que permite desalentar, detectar, quitar y denunciar infracciones en nuestras plataformas.
Nos asociamos con ONG y empresas de la industria mediante programas específicos a fin de compartir nuestra experiencia técnica, y desarrollamos y ponemos a disposición herramientas para ayudar a las organizaciones a combatir el CSAM.
Obtén más información sobre nuestro kit de herramientas de seguridad infantil aquí.
Lucha contra el abuso en nuestros servicios y plataformas
¿Qué estamos haciendo?
-
Prevención del abuso
Nuestro objetivo es prevenir el abuso, y lo hacemos garantizando que los productos de Google sean seguros para que los menores puedan usarlos. También utilizamos todas las investigaciones y estadísticas disponibles a los efectos de comprender las amenazas en constante cambio y las nuevas formas de cometer delitos, como el CSAM generado por IA. Tomamos medidas no solo contra el CSAM ilegal, sino también contra el contenido que fomenta el abuso sexual de menores y que puede ponerlos en peligro. -
Detección y denuncia
Identificamos y denunciamos el CSAM gracias al trabajo de equipos con especialistas entrenados y tecnología de vanguardia, lo que incluye clasificadores de aprendizaje automático y tecnología de coincidencia de hashes, que generan un “hash”, o huella digital única, para una imagen o un video, de modo que pueda compararse con hashes de CSAM conocido. En caso de detectar contenido de este tipo, presentamos una denuncia ante el National Center for Missing and Exploited Children (NCMEC), que trabaja con organismos de orden público de todo el mundo. -
Colaboración mundial
Colaboramos con el NCMEC y otras organizaciones internacionales en nuestros esfuerzos por combatir el abuso sexual infantil en línea. Como parte de esa iniciativa, creamos fuertes vínculos con ONGs y establecemos coaliciones en la industria con el objetivo de contribuir y ayudar al crecimiento de la comprensión colectiva de la naturaleza en constante cambio de la explotación y el abuso sexual infantil.
¿Cómo lo estamos haciendo?
Tomamos medidas contra contenido que podría incluir material de abuso sexual infantil, ciberacoso infantil, sextorsión y más, con una gran variedad de recursos humanos y tecnológicos. Puedes leer una descripción general de nuestro enfoque o profundizar en qué medidas se toman ante este tipo de abuso en algunos de nuestros productos.
-
La lucha contra el abuso sexual infantil en la Búsqueda
La Búsqueda de Google permite que la información sea fácil de encontrar, pero no queremos que muestre contenido ilegal ni de explotación sexual infantil. Nuestra política consiste en bloquear los resultados de la búsqueda que muestran imágenes de abuso sexual infantil o material donde parece que se acosa sexualmente a menores, se los pone en peligro o se los explota. Trabajamos de forma continua en la actualización de nuestros algoritmos para combatir estas amenazas en constante cambio.
Aplicamos medidas de protección adicionales en búsquedas que a nuestro entender procuran obtener CSAM. Filtramos los resultados con contenido sexual explícito si parece que se busca CSAM. Para las búsquedas de contenido adulto explícito, la Búsqueda no muestra imágenes que incluyan menores, de modo que no haya asociación entre estos y el contenido sexual. En muchos países, cuando los usuarios ingresan una búsqueda claramente relacionada con CSAM, se muestra una advertencia destacada que indica que las imágenes de abuso sexual infantil son ilegales, junto con información para denunciar ese contenido ante organizaciones de confianza como la Internet Watch Foundation del Reino Unido, el Canadian Centre for Child Protection y Te Protejo, de Colombia. Cuando se muestran esas advertencias, la mayoría de los usuarios deja de buscar ese tipo de material.
Vínculos relevantes -
La labor de YouTube para combatir el contenido y los videos abusivos
Siempre hemos tenido políticas claras en contra de los videos, las playlists, las miniaturas y los comentarios de YouTube en los que se sexualiza o explota a menores. Usamos sistemas de aprendizaje automático para detectar de forma proactiva las infracciones a estas políticas y contamos con revisores manuales en todo el mundo que eliminan rápidamente el contenido donde nuestros sistemas detectan infracciones o el contenido que marcan los usuarios y nuestros alertadores fiables.
Reconocemos que puede existir contenido en el que aparezcan menores que, a pesar de no infringir nuestras políticas, podría exponerlos a un riesgo de explotación infantil en línea o en la vida real. Por ese motivo, tomamos precauciones adicionales a la hora de aplicar estas políticas. Nuestros sistemas de aprendizaje automático ayudan a identificar de forma proactiva los videos que puedan poner en riesgo a menores y aplican nuestras medidas de protección a gran escala, como restringir las funciones de transmisión en vivo, inhabilitar los comentarios y limitar las recomendaciones de videos.
Vínculos relevantes -
Nuestro informe de transparencia sobre el CSAM
En 2021, lanzamos un informe de transparencia acerca de los esfuerzos de Google por combatir el material de abuso sexual infantil en línea, que detalla la cantidad de denuncias que realizamos ante el NCMEC. El informe también brinda datos sobre nuestros esfuerzos en YouTube, la forma en la que detectamos y quitamos resultados con CSAM de la Búsqueda, y la cantidad de cuentas que inhabilitamos debido a infracciones relacionadas con CSAM en nuestros servicios.
El informe de transparencia también incluye información acerca de la cantidad de hashes de CSAM que compartimos con el NCMEC. Esos hashes ayudan a otras plataformas a identificar CSAM a gran escala. Contribuir a la base de datos de hashes del NCMEC es una de las acciones más útiles que Google y otros actores de la industria pueden realizar para combatir el CSAM, ya que ayuda a disminuir la recirculación de ese material y la revictimización de los menores abusados.
Vínculos relevantes -
Denuncias de comportamiento inapropiado en nuestros productos
Queremos proteger a los menores que usan nuestros productos y evitar que sean víctimas de ciberacoso infantil, sextorsión, trata de personas y cualquier otra forma de explotación sexual infantil. Como parte de nuestra labor en pos de hacer que nuestros productos sean seguros para los menores que los utilizan, brindamos información útil que permite a los usuarios denunciar material de abuso sexual infantil ante las autoridades correspondientes.
Si los usuarios sospechan que se puso en peligro a un menor en productos de Google como Gmail o Hangouts, pueden hacer una denuncia mediante este formulario. Los usuarios también pueden marcar contenido inapropiado en YouTube y denunciar abusos en Google Meet a través del Centro de ayuda o directamente en el producto. También proporcionamos información sobre qué hacer ante problemas relacionados con el bullying y el hostigamiento, lo que incluye información sobre cómo bloquear usuarios y evitar que se pongan en contacto con un menor. Si deseas obtener más información sobre nuestras políticas de seguridad infantil, consulta los Lineamientos de la Comunidad de YouTube y el Centro de seguridad de Google.
Vínculos relevantes
Desarrollamos y compartimos herramientas para luchar contra el abuso sexual infantil
-
API de Content Safety
SE USA PARA
CONTENIDO DE IMÁGENES Y VIDEOS QUE NO SE VIERON ANTERIORMENTE
Durante muchos años, Google ha estado trabajando en clasificadores de aprendizaje automático que nos permitan identificar de forma proactiva imágenes con CSAM nunca antes vistas, de modo que se puedan revisar y, en caso de confirmar la presencia de CSAM, quitarlas y denunciarlas tan pronto como sea posible. La API de Content Safety usa esta tecnología con el objetivo de ayudar a organizaciones a clasificar y priorizar contenido potencialmente abusivo para su revisión. Cada mes, los socios usan la API de Content Safety para clasificar miles de millones de imágenes, lo que permite identificar contenido abusivo con mayor rapidez y precisión para denunciarlo ante las autoridades.
USADO POR -
CSAI Match
SE USA PARA DETECTAR COINCIDENCIAS DE HASH DE VIDEOS
En 2014, los ingenieros de YouTube desarrollaron y adoptaron tecnología que permite etiquetar videos con CSAM conocidos y quitarlos de nuestros servicios. Compartimos esta tecnología con otros a través de CSAI Match, una API que ayuda a identificar copias de los videos en los que anteriormente se haya detectado material de abuso sexual infantil. Diversas ONGs y empresas usan CSAI Match para identificar coincidencias en nuestra base de datos de contenido abusivo conocido, de modo que puedan actuar de manera responsable de conformidad con las leyes y reglamentaciones locales correspondientes.
USADO POR
Alianzas y programas
Juntos, financiamos investigaciones sobre seguridad infantil y compartimos herramientas y conocimiento, como estadísticas de informes de transparencia, la detección dentro de productos y procesos operativos.
En asociación con
-
Ad Grants a través de Google.org
Google.org ofrece subsidios a organizaciones que lideran la lucha contra la explotación y el abuso sexual infantil, como INHOPE y ECPAT International. Además, desde 2003, Google.org ha otorgado cerca de USD 90 millones en presupuesto publicitario sin costo a ONG y entidades benéficas que operan líneas directas de denuncia de abuso sexual infantil, lo que las ayuda a llegar a aquellos que más asistencia necesitan.
Vínculos relevantes -
Programa de Google Fellow
Financiamos becas técnicas en organizaciones dedicadas a la lucha contra el abuso sexual infantil, como NCMEC y Thorn. Además, en Google capacitamos a funcionarios de las fuerzas del orden público que investigan delitos en línea contra menores a través de foros como Crimes Against Children Conference y National Law Enforcement Training on Child Exploitation.
Vínculos relevantes
