Descubre nuestro kit de herramientas de seguridad infantil
Mejor priorización
Las API ayudan en la lucha contra la explotación infantil en línea priorizando el contenido abusivo para revisión manual.
Identificación más rápida
Detectar el contenido con mayor rapidez aumenta la probabilidad de que se pueda identificar a las víctimas y protegerlas de nuevos abusos.
Operaciones más seguras
Hacer que las colas de revisión sean más eficientes y estén menos congestionadas también reduce la carga sobre los moderadores de contenido humanos.
Descubre nuestras herramientas
Nuestras herramientas tienen capacidades complementarias. Pueden usarse de forma conjunta y con otras soluciones para satisfacer diversas necesidades.
API de seguridad de contenido
Clasificación de imágenes nunca antes vistas
CSAI Match
Concordancia de segmentos de video abusivos y conocidos
API de seguridad de contenido
Usada para: clasificación de imágenes nunca antes vistas
El clasificador de la API de seguridad de contenido usa inteligencia artificial y acceso programático para ayudar a nuestros socios a clasificar y priorizar miles de millones de imágenes candidatas a revisión. Cuanto más alta es la prioridad que asigna el clasificador, más probable es que la imagen contenga material abusivo, lo que ayuda a los socios a priorizar la revisión manual y tomar una decisión acerca del material. La API de seguridad de contenido emite una recomendación de priorización del material que recibe. Los socios deben realizar su propia revisión para determinar si les corresponde tomar medidas respecto del contenido en cuestión.
Desde el punto de vista operacional, les recomendamos a las organizaciones que utilicen la API de seguridad de contenido justo antes del proceso de revisión manual para clasificar, priorizar y organizar su cola de trabajo. La API se puede usar en paralelo con otras soluciones, como CSAI Match, la herramienta generadora de hashes de video de YouTube, o PhotoDNA de Microsoft, cada una de las cuales aborda diferentes necesidades.
¿Cómo funciona?
1. Recuperación de imágenes
El socio recupera las imágenes de diversas maneras; por ejemplo, si fueron denunciadas por un usuario o identificadas por rastreadores o filtros que creó el socio a los efectos de moderar el contenido en su plataforma.
Socio
Imágenes denunciadas por los usuarios
Rastreadores
Filtros previos
(clasificadores de pornografía/otro contenido)
2. Revisión de la API
Los archivos de imagen se envían a la API de seguridad de contenido mediante una simple llamada. Los clasificadores los analizarán para determinar la prioridad de revisión y, luego, se enviará al socio el valor de prioridad de cada imagen.
API de seguridad de contenido
Tecnología de clasificadores
3. Revisión manual
Los socios utilizan el valor de prioridad a fin de establecer el orden en el que se deberá realizar la revisión manual de las imágenes.
Socio
Revisión manual
4. Toma de medidas
Una vez que se hayan revisado manualmente las imágenes, el socio podrá tomar medidas respecto del contenido en virtud de las leyes y reglamentaciones locales correspondientes.
Socio
Toma de medidas correspondientes
CSAI Match
Usada para: concordancia de segmentos de video abusivos y conocidos
CSAI Match es una herramienta de YouTube para detectar videos en línea que contengan CSAI (imágenes de abuso sexual infantil). Fue la primera en usar el establecimiento de coincidencias mediante hashes para identificar contenido infractor conocido, y nos permite detectar ese tipo de contenido en un gran volumen de videos que no presentan infracciones. Cuando se encuentra una coincidencia de contenido infractor, se avisa a los socios para que lo revisen, confirmen y denuncien responsablemente de acuerdo con las leyes y reglamentaciones locales. YouTube pone CSAI Match a disposición de ONG y socios de la industria. Otorgamos acceso a software de creación de huellas digitales y una API a los efectos de identificar coincidencias en nuestra base de datos de contenido abusivo conocido.
Las plataformas en línea pueden evitar que se muestre y se comparta contenido infractor en sus sitios mediante el uso de CSAI Match, que compara el contenido con uno de los índices más grandes de contenido conocido de CSAI. CSAI Match es fácil de integrar en sistemas de socios, y les permite a estos escalar mejor la desafiante tarea de administrar contenido.
¿Cómo funciona?
1. Creación de huellas digitales de video
Se sube un video a la plataforma del socio. El generador de archivos de huella digital CSAI Match, que se ejecuta en la plataforma mencionada, crea un archivo de huella digital del video (un ID digital que representa de forma única el contenido del archivo de video).
Socio
Archivo de video
Generador de archivos de huella digital
Archivo de huella digital
2. Revisión de la API
El socio envía el archivo de huella digital mediante la API de CSAI Match para que se lo compare con otros archivos del repositorio de huellas digitales de YouTube. Este repositorio contiene las huellas digitales de contenido abusivo conocido que detectan YouTube y Google.
YouTube
API de CSAI Match
Tecnología de CSAI Match
CSAI compartidas
Repositorio de huellas digitales
3. Revisión manual
Una vez que se completa la llamada a la API, se envía una concordancia positiva o negativa al socio. Según esa información, el socio revisa el video de forma manual para verificar que contenga CSAI.
Socio
Revisión manual
4. Toma de medidas
Una vez que se revisan las imágenes, el socio puede tomar las medidas correspondientes en virtud de las leyes y reglamentaciones locales.
Socio
Toma de medidas correspondientes
API de seguridad de contenido
Usada para: clasificación de imágenes nunca antes vistas
El clasificador de la API de seguridad de contenido usa inteligencia artificial y acceso programático para ayudar a nuestros socios a clasificar y priorizar miles de millones de imágenes candidatas a revisión. Cuanto más alta es la prioridad que asigna el clasificador, más probable es que la imagen contenga material abusivo, lo que ayuda a los socios a priorizar la revisión manual y tomar una decisión acerca del material. La API de seguridad de contenido emite una recomendación de priorización del material que recibe. Los socios deben realizar su propia revisión para determinar si les corresponde tomar medidas respecto del contenido en cuestión.
Desde el punto de vista operacional, les recomendamos a las organizaciones que utilicen la API de seguridad de contenido justo antes del proceso de revisión manual para clasificar, priorizar y organizar su cola de trabajo. La API se puede usar en paralelo con otras soluciones, como CSAI Match, la herramienta generadora de hashes de video de YouTube, o PhotoDNA de Microsoft, cada una de las cuales aborda diferentes necesidades.
API de seguridad de contenido
Usada para: clasificación de imágenes nunca antes vistas
¿Cómo funciona?
1. Recuperación de imágenes
El socio recupera las imágenes de diversas maneras; por ejemplo, si fueron denunciadas por un usuario o identificadas por rastreadores o filtros que creó el socio a los efectos de moderar el contenido en su plataforma.
Socio
Imágenes denunciadas por los usuarios
Rastreadores
Filtros previos
(clasificadores de pornografía/otro contenido)
2. Revisión de la API
Los archivos de imagen se envían a la API de seguridad de contenido mediante una simple llamada. Los clasificadores los analizarán para determinar la prioridad de revisión y, luego, se enviará al socio el valor de prioridad de cada imagen.
API de seguridad de contenido
Tecnología de clasificadores
3. Revisión manual
Los socios utilizan el valor de prioridad a fin de establecer el orden en el que se deberá realizar la revisión manual de las imágenes.
Socio
Revisión manual
4. Toma de medidas
Una vez que se hayan revisado manualmente las imágenes, el socio podrá tomar medidas respecto del contenido en virtud de las leyes y reglamentaciones locales correspondientes.
Socio
Toma de medidas correspondientes
¿Te interesa usar nuestro kit de herramientas?
Demuestra interés compartiendo algunos detalles sobre tu organización
Ver el formulario de interés
CSAI Match
Usada para: concordancia de segmentos de video abusivos y conocidos
CSAI Match es una herramienta de YouTube para detectar videos en línea que contengan CSAI (imágenes de abuso sexual infantil). Fue la primera en usar el establecimiento de coincidencias mediante hashes para identificar contenido infractor conocido, y nos permite detectar ese tipo de contenido en un gran volumen de videos que no presentan infracciones. Cuando se encuentra una coincidencia de contenido infractor, se avisa a los socios para que lo revisen, confirmen y denuncien responsablemente de acuerdo con las leyes y reglamentaciones locales. YouTube pone CSAI Match a disposición de ONG y socios de la industria. Otorgamos acceso a software de creación de huellas digitales y una API a los efectos de identificar coincidencias en nuestra base de datos de contenido abusivo conocido.
Las plataformas en línea pueden evitar que se muestre y se comparta contenido infractor en sus sitios mediante el uso de CSAI Match, que compara el contenido con uno de los índices más grandes de contenido conocido de CSAI. CSAI Match es fácil de integrar en sistemas de socios, y les permite a estos escalar mejor la desafiante tarea de administrar contenido.
CSAI Match
Usada para: concordancia de segmentos de video abusivos y conocidos
¿Cómo funciona?
1. Creación de huellas digitales de video
Se sube un video a la plataforma del socio. El generador de archivos de huella digital CSAI Match, que se ejecuta en la plataforma mencionada, crea un archivo de huella digital del video (un ID digital que representa de forma única el contenido del archivo de video).
Socio
Archivo de video
Generador de archivos de huella digital
Archivo de huella digital
2. Revisión de la API
El socio envía el archivo de huella digital mediante la API de CSAI Match para que se lo compare con otros archivos del repositorio de huellas digitales de YouTube. Este repositorio contiene las huellas digitales de contenido abusivo conocido que detectan YouTube y Google.
YouTube
API de CSAI Match
Tecnología de CSAI Match
CSAI compartidas
Repositorio de huellas digitales
3. Revisión manual
Una vez que se completa la llamada a la API, se envía una concordancia positiva o negativa al socio. Según esa información, el socio revisa el video de forma manual para verificar que contenga CSAI.
Socio
Revisión manual
4. Toma de medidas
Una vez que se revisan las imágenes, el socio puede tomar las medidas correspondientes en virtud de las leyes y reglamentaciones locales.
Socio
Toma de medidas correspondientes
¿Te interesa usar nuestro kit de herramientas?
Demuestra interés compartiendo algunos detalles sobre tu organización
Ver el formulario de interés
¿Te interesa usar nuestro kit de herramientas?
Demuestra interés compartiendo algunos detalles sobre tu organización
Ver el formulario de interésTestimonios
"La solución de coincidencias de hashes que creó Google revolucionó nuestros flujos de trabajo, y nos permitió obtener mejores resultados con mayor rapidez. Gracias a la importante contribución de Google al National Center for Missing & Exploited Children, los procesos automáticos reducen la necesidad de revisión manual de CSAM ya denunciado, lo que disminuye la exposición de nuestro personal. Es fundamental que se quite este material tan pronto como sea posible, dado que cada vez que se vuelve a compartir la imagen de un menor, ese niño se convierte en víctima una vez más. Esto también nos permite concentrarnos en nuestro trabajo por ayudar no solo a las víctimas infantiles nuevas y desconocidas, sino también a los sobrevivientes". - National Center for Missing & Exploited Children
"Nuestra plataforma permite el acceso a contenido visual, y es nuestra responsabilidad asegurarnos de que el material que los usuarios aportan se modere de manera efectiva. Gracias a la API de seguridad de contenido de Google (y la IA detrás de ella), podemos optimizar un proceso tedioso mediante una forma eficiente de revisar, quitar y denunciar rápidamente el contenido ofensivo, lo que nos permite colaborar para hacer del mundo un lugar más seguro". - Plugon
"La API de seguridad de contenido responde rápidamente y es estable, precisa y fácil de integrar. Además, redujo de forma significativa la cantidad de tiempo que los analistas de contenido le dedican a la revisión de imágenes con CSAM, optimizó el proceso de análisis y tuvo un efecto positivo en su bienestar". - Safernet Brasil
"La API de seguridad de contenido es una solución escalable y fácil de usar que integramos hace algunos meses. Estamos seguros de que puede convertirse en una tecnología importante a la hora de proteger nuestra comunidad y prevenir que se comparta contenido inapropiado". - Yubo
"Mediante la priorización, la API de seguridad de contenido ayuda a los analistas que trabajan en la identificación de imágenes que muestran abuso sexual de menores. Dado el volumen en constante aumento de las denuncias que se deben procesar, es un gran desafío priorizarlas de forma adecuada para su revisión. Esta tecnología permite que los analistas vean más rápido las denuncias que incluyen contenido sexual de menores y, por lo tanto, les permite actuar con mayor celeridad a los efectos de proteger a las víctimas y quitar el contenido". - Point de Contact
"Pudimos implementar CSAI Match sin problemas, y sigue siendo una herramienta efectiva que nos ayuda a detectar e interrumpir la distribución del material de abuso sexual infantil". - Adobe
"Combatir el aumento de los videos que incluyen abuso sexual infantil presenta nuevos desafíos y requiere nuevas tecnologías. CSAI Match demostró ser parte de la solución, y nos permitió mejorar la detección y eliminación de CSAM en video de nuestras plataformas". - Yahoo!
Preguntas frecuentes
API de seguridad de contenido
¿La API de seguridad del contenido funciona con videos?
La API de seguridad de contenido está diseñada para imágenes. Sin embargo, a través de CSAI Match de YouTube, las organizaciones pueden acceder a software de reconocimiento de huella digital y a una API para identificar coincidencias en nuestra base de datos de contenido abusivo y conocido en video. Obtén más información.
¿Quiénes pueden registrarse para acceder a la tecnología y la API de seguridad del contenido?
Los terceros que formen parte de la industria o de una organización social, y que quieran proteger su plataforma contra el abuso, pueden registrarse para acceder a la API de seguridad de contenido. Las solicitudes están sujetas a un proceso de aprobación.
¿Por qué ofrecen estas herramientas de manera tan amplia?
Creemos que la mejor manera de combatir la explotación infantil en línea es colaborar con otras empresas y ONG. Hace tiempo que trabajamos con ellas a fin de fomentar el desarrollo de nuevas herramientas basadas en datos, aumentar la capacidad técnica y crear conciencia. Creemos que una parte importante de esta lucha es hacer que estas herramientas estén disponibles para todos, de modo que nuestros socios puedan usar IA para revisar mejor el contenido a gran escala.
CSAI Match
¿CSAI Match funciona con imágenes?
CSAI Match se diseñó para videos. Sin embargo, a través de la API de seguridad del contenido de Google, los socios de la industria y las ONG pueden acceder a un conjunto de herramientas que ofrecen clasificación de imágenes con aprendizaje automático. Obtén más información.
¿Qué información se muestra como resultado de una coincidencia identificada?
La coincidencia identificará qué parte del video concuerda con CSAI conocidas, así como una categorización estandarizada del tipo de contenido que coincidió.
¿Qué hace que la tecnología de CSAI Match sea tan eficiente?
CSAI Match detecta segmentos casi duplicados de contenido conocido con CSAI. Esto incluye los duplicados exactos que se podrían reconocer por la coincidencia de hashes MD5, así como contenido similar que podría ser una versión recodificada, ofuscada, truncada, agrandada o achicada de un video con CSAI, incluso si el elemento en cuestión tiene una pequeña parte de CSAI posiblemente mezclada con material que no es de ese tipo. Los socios ejecutan un objeto binario de huellas digitales con el propósito de obtener una "huella digital" del video, una secuencia de bytes similar a un hash MD5. Esto se envía al servicio CSAI Match de Google, diseñado de manera específica para analizar eficientemente un video y compararlo con el corpus de YouTube de referencias conocidas de CSAI.