Descubre nuestro kit de herramientas de seguridad infantil
En Google y YouTube, desarrollamos herramientas que permiten a las organizaciones proteger a los menores priorizando mejor el contenido abusivo para su revisión.
En este kit de herramientas, se incluyen dos API: la API de seguridad de contenido y CSAI Match, que ofrecemos sin costo a los socios calificados. Nuestros socios utilizan estas tecnologías para procesar miles de millones de archivos, lo que les permite evaluar millones de imágenes y videos por año, y determinar si incluyen comportamientos abusivos.
Mejor priorización
Las API ayudan en la lucha contra la explotación infantil en línea priorizando el contenido abusivo para revisión manual.
Identificación más rápida
Detectar el contenido con mayor rapidez aumenta la probabilidad de que se pueda identificar a las víctimas y protegerlas de nuevos abusos.
Operaciones más seguras
Hacer que las colas de revisión sean más eficientes y estén menos congestionadas también reduce la carga sobre los moderadores de contenido humanos.
Obtén información sobre nuestras herramientas
Nuestras herramientas tienen capacidades complementarias. Pueden usarse de forma conjunta y con otras soluciones para satisfacer diversas necesidades.
API DE CONTENT SAFETY
Clasificación de imágenes y videos nunca antes vistos
CSAI MATCH
Concordancia de segmentos de video abusivos y conocidos
API DE CONTENT SAFETY
Clasificación de imágenes y videos nunca antes vistos
API de Content Safety SE USA PARA LO SIGUIENTE: CLASIFICAR IMÁGENES Y VIDEOS NUNCA ANTES VISTOS
El clasificador de la API de Content Safety usa Inteligencia Artificial y acceso programático para ayudar a nuestros socios a clasificar y priorizar miles de millones de imágenes y videos candidatos a revisión. Cuanto más alta es la prioridad que asigna el clasificador, más probable es que el contenido contenga material abusivo, lo que ayuda a los socios a priorizar la revisión humana y tomar una decisión al respecto. La API de Content Safety emite una recomendación de priorización del material que recibe. Los socios deben realizar su propia revisión para determinar si les corresponde tomar medidas respecto del contenido en cuestión.
Desde el punto de vista operacional, les recomendamos a las organizaciones que utilicen la API de Content Safety justo antes del proceso de revisión manual para clasificar, priorizar y organizar su fila de trabajo. La API se puede usar en paralelo con otras soluciones, como CSAI Match, la herramienta generadora de hashes de video de YouTube, o PhotoDNA de Microsoft, cada una de las cuales aborda diferentes necesidades.
¿Cómo funciona?
1. Recuperación de archivos
El socio recupera los archivos de diversas maneras; por ejemplo, si fueron denunciadas por un usuario o identificadas por rastreadores o filtros que creó el socio a los efectos de moderar el contenido en su plataforma.
2. Revisión de la API
Los archivos multimedia se envían a la API de Content Safety mediante una simple llamada. Los clasificadores los analizarán para determinar la prioridad de revisión y, luego, se enviará al socio el valor de prioridad de cada pieza de contenido.
3. Revisión manual
Los socios utilizan el valor de prioridad para establecer el orden en el que se deberá realizar la revisión manual de los archivos.
4. Toma de medidas
Una vez que se hayan revisado manualmente los archivos de imagen y video, el socio podrá tomar medidas respecto del contenido en virtud de las leyes y reglamentaciones locales correspondientes.
SOCIO
GOOGLE
SOCIO
SOCIO
Imágenes o videos denunciados por usuarios
Rastreadores
Filtros previos (clasificadores de pornografía/otro contenido)
I
API de Content Safety
I
Tecnología de clasificadores
I
Revisión manual
I
Toma de medidas correspondientes
CSAI MATCH
Concordancia de segmentos de video abusivos y conocidos
CSAI Match SE USA PARA LO SIGUIENTE: CONCORDANCIA DE SEGMENTOS DE VIDEO ABUSIVOS Y CONOCIDOS
CSAI Match es una herramienta de YouTube para detectar videos en línea que contengan CSAI (imágenes de abuso sexual infantil). Fue la primera en usar el establecimiento de coincidencias mediante hashes para identificar contenido infractor conocido, y nos permite detectar ese tipo de contenido en un gran volumen de videos que no presentan infracciones. Cuando se encuentra una coincidencia de contenido infractor, se avisa a los socios para que lo revisen, confirmen y denuncien responsablemente de acuerdo con las leyes y reglamentaciones locales. YouTube pone CSAI Match a disposición de ONGs y socios de la industria. Otorgamos acceso a software de creación de huellas digitales y una API para identificar coincidencias en nuestra base de datos de contenido abusivo conocido.
Las plataformas en línea pueden evitar que se muestre y se comparta contenido infractor en sus sitios mediante el uso de CSAI Match, que compara el contenido con uno de los índices más grandes de contenido conocido de CSAI. CSAI Match es fácil de integrar en sistemas de socios, y les permite a estos escalar mejor la desafiante tarea de administrar contenido.
¿Cómo funciona?
1. Creación de huellas digitales de video
Se sube un video a la plataforma del socio. El generador de archivos de huella digital CSAI Match, que se ejecuta en la plataforma mencionada, crea un archivo de huella digital del video (un ID digital que representa de forma única el contenido del archivo de video).
2. Revisión de la API
El socio envía el archivo de huella digital mediante la API de CSAI Match para que se lo compare con otros archivos del repositorio de huellas digitales de YouTube. Este repositorio contiene las huellas digitales de contenido abusivo conocido que detectan YouTube y Google.
3. Revisión manual
Una vez que se completa la llamada a la API, se envía una concordancia positiva o negativa al socio. Según esa información, el socio revisa el video de forma manual para verificar que contenga CSAI.
4. Toma de medidas
Una vez que se revisan las imágenes, el socio puede tomar las medidas correspondientes en virtud de las leyes y reglamentaciones locales.
"La solución de coincidencias de hashes que creó Google revolucionó nuestros flujos de trabajo, y nos permitió obtener mejores resultados con mayor rapidez. Gracias a la importante contribución de Google al National Center for Missing & Exploited Children, los procesos automáticos reducen la necesidad de revisión manual de CSAM ya denunciado, lo que disminuye la exposición de nuestro personal. Es fundamental que se quite este material tan pronto como sea posible, dado que cada vez que se vuelve a compartir la imagen de un menor, ese niño se convierte en víctima una vez más. Esto también nos permite concentrarnos en nuestro trabajo por ayudar no solo a las víctimas infantiles nuevas y desconocidas, sino también a los sobrevivientes”. - National Center for Missing & Exploited Children
“Implementar la API de Content Safety de Google fue un gran triunfo para nuestra plataforma, que aloja cientos de millones de documentos subidos por los usuarios. La API escanea eficientemente grandes volúmenes de imágenes para detectar material potencialmente ofensivo, lo que ayuda a garantizar un entorno digital seguro para nuestros usuarios. Su alta capacidad de procesamiento y precisión no ayudó a enfocarnos en la revisión, la intervención y la asistencia”. - Scribd, Inc.
“Las herramientas para la seguridad infantil de Google nos permitieron validar que nuestras propias medidas funcionaran, y seguimos viendo un récord mínimo de un dígito en incidencias de material de abuso sexual infantil en Nextdoor”. - Nextdoor
“A medida que Substack sigue ampliando sus capacidades de video, garantizar la seguridad de nuestra comunidad (especialmente proteger a los menores) sigue siendo una prioridad de confianza y seguridad. Implementar tecnologías de detección avanzada de imágenes de abuso sexual infantil (CSAI) fue instrumental para abordar estos desafíos de seguridad críticos. Las herramientas de Google nos permiten identificar y eliminar contenido dañino de manera inmediata y precisa, lo que garantiza que nuestra plataforma siga siendo un espacio seguro tanto para los creadores como para el público”. - Substack
“CSAI Match sigue siendo un pilar importante del programa de protección infantil de Adobe. Esta tecnología demostró ser un medio de ayuda más efectivo para detectar videos de abuso sexual infantil a escala”. - Adobe
“Combatir el aumento de los videos que incluyen material de abuso sexual infantil presenta nuevos desafíos y requiere nuevas tecnologías. CSAI Match demostró ser parte de la solución, y nos permitió mejorar la detección y eliminación de CSAM en video de nuestras plataformas”. - Yahoo!
“Mediante la priorización, la API de Content Safety ayuda a los analistas que trabajan en la identificación de imágenes que muestran abuso sexual de menores. Dado el volumen en constante aumento de las denuncias que se deben procesar, es un gran desafío priorizarlas de forma adecuada para su revisión. Esta tecnología permite que los analistas vean más rápido las denuncias que incluyen contenido sexual de menores y, por lo tanto, les permite actuar con mayor celeridad a los efectos de proteger a las víctimas y quitar el contenido”. - Point de Contact
“La API de Content Safety responde rápidamente y es estable, precisa y fácil de integrar. Además, redujo de forma significativa la cantidad de tiempo que los analistas de contenido le dedican a la revisión de imágenes con CSAM, optimizó el proceso de análisis y tuvo un efecto positivo en su bienestar”. - Safernet Brasil
1
/
Preguntas frecuentes
API de Content Safety
¿Cuál es el formato de los datos que se envían a la API de Content Safety?
Contamos con opciones de compatibilidad con bytes de contenido sin procesar y de embeddings derivados de archivos multimedia. Comunícate con nosotrospara obtener más detalles.
¿Quiénes pueden registrarse para acceder a la tecnología y la API de Content Safety?
Los terceros que formen parte de la industria o de una sociedad civil, y que quieran proteger su plataforma contra el abuso, pueden registrarse para acceder a la API de Content Safety. Las solicitudes están sujetas a un proceso de aprobación.
¿Por qué ofrecen estas herramientas de manera tan amplia?
Creemos que la mejor manera de combatir la explotación infantil en línea es a través de la colaboración con otras empresas y ONGs. Hace tiempo que trabajamos con ellas para fomentar el desarrollo de nuevas herramientas basadas en datos, aumentar la capacidad técnica y crear conciencia. También creemos que una parte importante de esta lucha es hacer que estas herramientas estén disponibles para todas las personas, de modo que nuestros socios puedan usar la IA para revisar mejor el contenido a gran escala.
CSAI Match
¿CSAI Match funciona con imágenes?
CSAI Match se diseñó para videos. Sin embargo, a través de la API de Content Safety de Google, los socios de la industria y las ONGs pueden acceder a un conjunto de herramientas que ofrecen clasificación de imágenes con aprendizaje automático. Obtén más información.
¿Qué información se muestra como resultado de una coincidencia identificada?
La coincidencia identificará qué parte del video concuerda con CSAI conocidas, así como una categorización estandarizada del tipo de contenido que coincidió.
¿Qué hace que la tecnología de CSAI Match sea tan eficiente?
CSAI Match detecta segmentos casi duplicados de contenido conocido con CSAI. Esto incluye los duplicados exactos que se podrían reconocer por la coincidencia de hashes MD5, así como contenido similar que podría ser una versión recodificada, ofuscada, truncada, agrandada o achicada de un video con CSAI, incluso si el elemento en cuestión tiene una pequeña parte de CSAI posiblemente mezclada con material que no es de ese tipo. Los socios ejecutan un objeto binario de huellas digitales con el propósito de obtener una "huella digital" del video, una secuencia de bytes similar a un hash MD5. Esto se envía al servicio CSAI Match de Google, diseñado de manera específica para analizar eficientemente un video y compararlo con el corpus de YouTube de referencias conocidas de CSAI.
