Descubre nuestro kit de herramientas de seguridad infantil
En Google y YouTube ayudamos a las organizaciones a proteger a los niños. Para ello, desarrollamos herramientas que permiten priorizar la revisión del contenido inadecuado.
Este kit de herramientas se centra en dos APIs, la API Content Safety y la API CSAI Match, que ofrecemos sin ningún coste económico a los partners cualificados. Nuestros partners usan estas tecnologías para procesar miles de millones de archivos, lo que les permite evaluar cada año millones de imágenes y vídeos para detectar comportamientos inadecuados.
Mejor priorización
Las APIs ayudan a luchar contra la explotación infantil online al priorizar la revisión humana de contenido inadecuado.
Identificación más rápida
Al ser más rápidos al identificar contenido, aumenta la posibilidad de poder identificar a las víctimas y protegerlas de más abusos.
Operaciones más seguras
Al optimizar y agilizar las colas de revisión, se reduce también la carga de trabajo de los moderadores humanos de contenido.
Información sobre nuestras herramientas
Nuestras herramientas tienen capacidades complementarias. Se pueden utilizar conjuntamente y con otras soluciones para satisfacer distintas necesidades.
API Content Safety
Clasificar imágenes y vídeos nunca antes vistos
CSAI MATCH
Identificar coincidencias de segmentos de vídeo inadecuados conocidos
API Content Safety
Clasificar imágenes y vídeos nunca antes vistos
API Content Safety USADA PARA:CLASIFICAR IMÁGENES Y VÍDEOS NUNCA ANTES VISTOS
El clasificador de la API Content Safety utiliza el acceso programático y la inteligencia artificial para ayudar a nuestros partners a clasificar y priorizar la revisión de miles de millones de imágenes y vídeos. Cuanto más alta sea la prioridad otorgada por el clasificador, más probable es que el archivo multimedia contenga material inadecuado, lo que puede ayudar a los partners a priorizar su revisión humana y a realizar su propia determinación del contenido. La API Content Safety publica una recomendación de priorización del contenido que se le envía. Los partners deben realizar su propia revisión para determinar si se debe actuar sobre el contenido.
Desde el punto de vista operativo, recomendamos a las organizaciones que utilicen la API Content Safety justo antes del proceso de revisión manual, para clasificar, priorizar y ayudar a organizar su lista. La API Content Safety se puede utilizar en paralelo con otras soluciones, como las herramientas de coincidencia de hash de vídeos CSAI Match de YouTube o PhotoDNA de Microsoft, que cubren distintas necesidades.
¿Cómo funciona?
1. Obtención de archivos
El partner obtiene los archivos de varias maneras, como por haber sido denunciados por un usuario, o identificados por rastreadores o filtros que el partner haya creado para moderar los archivos en su plataforma.
2. Revisión mediante la API
Los archivos multimedia se envían después a la API Content Safety mediante una simple llamada a la API. Se procesan en clasificadores para determinar la prioridad de revisión y, a continuación, se devuelve al partner el valor de la prioridad de cada uno de los contenidos.
3. Revisión manual
Los partners usan el valor de la prioridad para empezar a revisar manualmente los archivos que requieren más atención.
4. Pasar a la acción
Cuando los archivos de imágenes y vídeos se hayan revisado manualmente, el partner podrá actuar sobre el contenido según la legislación local.
PARTNER
GOOGLE
PARTNER
PARTNER
Imágenes o vídeos denunciados por usuarios
Rastreadores
Filtros previos (porno/otros clasificadores)
I
API Content Safety
I
Tecnología de clasificador
I
Revisión manual
I
Actuar en consecuencia
CSAI MATCH
Identificar coincidencias de segmentos de vídeo inadecuados conocidos
CSAI Match USADA PARA: IDENTIFICAR COINCIDENCIAS DE SEGMENTOS DE VÍDEO INFRACTORES CONOCIDOS
CSAI Match es una tecnología propia de YouTube para combatir las imágenes de abuso sexual infantil en vídeos online. Fue la primera tecnología en usar la coincidencia de hash para identificar contenido infractor entre gran cantidad de contenido no infractor. Cuando se detecta una coincidencia de contenido infractor, se marca para que los partners lo revisen, confirmen y denuncien de forma responsable según la legislación local. YouTube ofrece CSAI Match a los partners del sector y ONGs. Les permitimos acceder a software que recoge huellas digitales y una API para identificar coincidencias en nuestra base de datos de contenido inadecuado.
Las plataformas online pueden impedir que se muestre y se comparta contenido infractor en sus sitios utilizando CSAI Match para comparar su contenido con uno de los mayores índices de contenido de imágenes de abuso sexual infantil conocido. Los partners pueden integrar fácilmente CSAI Match en sus sistemas para afrontar mejor el reto de la gestión de contenido.
¿Cómo funciona?
1. Recogida de huella digital de vídeo
Cuando se sube un vídeo a la plataforma del partner, el creador de huella digital de CSAI Match, que se ejecuta en esta plataforma, crea un archivo de huella digital del vídeo, un ID digital único que representa el contenido del archivo de vídeo.
2. Revisión mediante la API
El partner envía el archivo de huella digital mediante la API CSAI Match para compararlo con los demás archivos del repositorio de huellas digitales de YouTube. El repositorio contiene huellas digitales de contenido infractor conocido detectado por YouTube y Google.
3. Revisión manual
El partner recibe una coincidencia positiva o negativa cuando se completa la llamada a la API. Según la coincidencia, el partner revisa manualmente el vídeo para verificar que contiene imágenes de abuso sexual infantil.
4. Pasar a la acción
Una vez revisadas las imágenes, el partner puede actuar sobre el contenido según la legislación local.
PARTNER
YOUTUBE
PARTNER
PARTNER
Archivo de vídeo
I
Creador de huellas digitales
I
Archivo de huella digital
I
API CSAI Match
I
Tecnología CSAI Match
I
Imágenes de abuso sexual infantil compartidas Repositorio de huellas digitales
“La solución de coincidencia de hash de Google ha revolucionado nuestros flujos de trabajo y nos ha permitido conseguir mejores resultados más rápido. Gracias a la importante contribución de Google a nuestra organización, los procesos automatizados reducen la necesidad de revisión humana de contenido de abuso sexual infantil denunciado anteriormente, lo que minimiza la exposición de nuestro personal. Es fundamental retirar estas imágenes lo antes posible, porque cada vez que se vuelve a compartir la foto de un menor, este vuelve a convertirse en una víctima. Esto también nos permite centrar nuestro trabajo en nuevas víctimas y supervivientes infantiles”. - National Center for Missing & Exploited Children
"Implementar la API Content Safety de Google ha sido una gran ventaja para nuestra plataforma, que aloja cientos de millones de documentos subidos por usuarios. La API analiza eficientemente grandes volúmenes de imágenes en busca de material potencialmente delictivo, lo cual nos ayuda a garantizar que nuestros usuarios disfruten de un entorno digital seguro. Su gran rendimiento y precisión nos han permitido centrarnos en revisar, intervenir y ofrecer asistencia" - Scribd, Inc.
"Las herramientas de seguridad infantil de Google nos han permitido validar que nuestras medidas de seguridad actuales funcionan. En Nextdoor, seguimos manteniendo un número mínimo récord de incidencias relacionadas con material de abuso sexual infantil que no llegan a los dos dígitos". - Nextdoor
"Dado que Substack sigue ampliando sus funciones de vídeo, una de nuestra principales prioridades en cuanto a confianza y seguridad es asegurar la protección de nuestra comunidad, sobre todo la de los menores. El uso de tecnologías avanzadas de detección de imágenes de abuso sexual infantil (CSAI) ha sido clave a la hora de superar estos importantes retos de seguridad. Las herramientas de Google nos permiten identificar y eliminar el contenido dañino de forma rápida y precisa, de forma que podamos garantizar que nuestra plataforma sigue siendo un espacio seguro para creadores y audiencias". - Substack
"CSAI Match sigue siendo un pilar importante en el programa de seguridad infantil de Adobe. Utilizar esta tecnología ha demostrado ser un método efectivo para ayudarnos a detectar vídeos de abuso sexual infantil de forma más eficiente y a mayor escala". - Adobe
"La lucha contra la proliferación de vídeos con material de abuso sexual infantil plantea nuevos desafíos y requiere una nueva tecnología. CSAI Match ha demostrado ser parte de la solución, al permitirnos detectar y eliminar mejor de nuestras plataformas el material de vídeo de abuso sexual infantil". - Yahoo!
"La API Content Safety ayuda a los analistas encargados de la identificación de imágenes de abuso sexual de menores al priorizarlas. Dado el volumen cada vez mayor de denuncias que se deben procesar, priorizar la revisión de este tipo de denuncias es todo un reto. Esta tecnología permite a los analistas ver más rápido las denuncias que incluyen contenido con abuso sexual de menores, y actuar más rápido para proteger a las víctimas y eliminar el contenido". - Point de Contact
"La API Content Safety es fácil de integrar, responde rápidamente, y resulta estable y precisa, y ha reducido significativamente el tiempo que dedican los analistas de contenido a revisar imágenes de material de abuso sexual infantil, optimizado el proceso de análisis y afectado positivamente a su bienestar". - Safernet Brasil
1
/
Preguntas frecuentes
API Content Safety
¿Cuál es el formato de los datos enviados a la API Content Safety?
Tenemos opciones para admitir tanto bytes de contenido sin procesar como elementos insertados procedentes de archivos multimedia. Ponte en contacto para obtener más información.
¿Quién puede registrarse para usar la API Content Safety y nuestra tecnología?
Las empresas del sector y la sociedad civil que quieren proteger sus plataformas de abusos pueden registrarse para acceder a la API Content Safety. Nos reservamos el derecho a revisar y aprobar las solicitudes.
¿Por qué ponéis estas herramientas a disposición de todo el mundo?
Creemos que la mejor forma de hacer frente a la explotación infantil online es colaborar con otras empresas y ONGs. Llevamos mucho tiempo trabajando con las empresas del sector y diferentes ONGs para contribuir al desarrollo de nuevas herramientas basadas en datos, incrementar la capacidad técnica y concienciar sobre este problema. Creemos que una parte importante de esta lucha es ofrecer estas herramientas de forma generalizada, de manera que nuestros partners puedan usar IA para mejorar la revisión de contenido a gran escala.
CSAI Match
¿CSAI Match funciona con imágenes?
La herramienta CSAI Match está diseñada para vídeos, pero a través de la API Content Safety de Google, ofrecemos a los partners del sector y las ONGs varias herramientas que permiten clasificar las imágenes mediante aprendizaje automático. Más información
¿Qué información se devuelve cuando se identifica una coincidencia?
La herramienta identificará la parte del vídeo que coincide con imágenes de abuso sexual infantil conocidas, y realizará una categorización estandarizada del tipo de contenido con el que ha coincidido.
¿Qué hace que la tecnología CSAI Match sea tan eficiente?
CSAI Match detecta segmentos casi idénticos de contenido de imágenes de abuso sexual infantil conocidas. Incluye los duplicados completos que obtendría la coincidencia de hash MD5, así como contenido casi duplicado de vídeos con imágenes de abuso sexual infantil que podrían haber sido recodificados, ofuscados, truncados o escalados, incluso si el vídeo solo contiene una pequeña parte de este tipo de contenido mezclado con otro tipo de contenido. Los partners ejecutan un binario para producir una huella digital del vídeo, que es una secuencia de bytes similar a un hash MD5. A continuación, se envía esta huella al servicio CSAI Match de Google, que está diseñado específicamente para que sea eficiente al analizar vídeos y compararlos con el corpus de referencias conocidas de imágenes de abuso sexual infantil de YouTube.
