Lutter contre les abus sexuels sur mineurs en ligne
Nous nous impliquons de manière significative dans la lutte contre l'exploitation des enfants et les abus sexuels sur mineurs en ligne, et nous utilisons nos technologies pour prévenir, détecter, éliminer et signaler les infractions sur nos plates-formes.
Nous collaborons avec des ONG et des entreprises du secteur dans le cadre de programmes pour partager notre expertise technique, et nous développons et mettons à disposition des outils pour aider d'autres organisations à lutter contre les contenus d'abus sexuels sur des enfants.
En savoir plus sur notre kit pour la sécurité des enfants
Lutter contre les abus sur nos plates-formes et services
Depuis toujours, Google s'engage à combattre les abus sexuels sur mineurs et l'exploitation des enfants sur ses services. Nous consacrons des ressources importantes (en technologie, en personnel et en temps) à la prévention, à la détection, à la suppression et au signalement des contenus et comportements ayant trait à l'exploitation sexuelle des enfants.
Nos engagements
Prévention des abus
Notre objectif est de prévenir les abus en veillant à ce que les enfants puissent utiliser nos produits de manière sécurisée. Nous nous appuyons également sur toutes les études et informations disponibles pour comprendre l'évolution des menaces et les nouvelles formes d'infraction, telles que les contenus d'abus sexuels sur mineurs générés par IA. Nous prenons des mesures visant les contenus d'abus sexuels sur mineurs, et plus généralement les contenus qui font la promotion de ces abus et présentent un risque pour les enfants.
Détection et signalement
Nos spécialistes qualifiés identifient et signalent les contenus d'abus sexuels sur mineurs en utilisant des technologies de pointe, y compris des classificateurs utilisant le machine learning (apprentissage automatique) et des correspondances de hachage. Cette technologie crée un "hachage", une empreinte numérique unique, qui permet de comparer une image ou une vidéo aux hachages de contenus d'abus sexuels sur mineurs déjà identifiés. Si nous détectons ce type de contenu, nous le signalons au NCMEC (National Center for Missing and Exploited Children), le Centre national pour les enfants portés disparus ou les enfants exploités. Le NCMEC collabore avec les organismes chargés de l'application des lois à travers le monde.
Collaboration à l'échelle mondiale
Désireux de faire progresser la lutte contre les abus sexuels sur mineurs en ligne, nous collaborons avec le NCMEC et d'autres organismes dans le monde. Dans ce cadre, nous établissons des partenariats solides avec des ONG et des coalitions d'entreprises afin de mieux cerner ensemble la nature en constante évolution de l'exploitation des enfants et des abus sexuels sur mineurs.
Les mesures que nous mettons en place
Nous luttons contre les contenus d'abus sexuels sur mineurs, de sollicitation d'enfants à des fins sexuelles et d'extorsion sexuelle, entre autres, en utilisant diverses ressources technologiques et humaines. Consultez la description globale de notre approche, ou découvrez plus en détail ci-dessous la façon dont certains de nos produits traitent ce type d'abus.
Lutte contre les abus sexuels sur mineurs dans les résultats de recherche Google
La recherche Google facilite l'accès à l'information. Pour autant, la dernière chose que nous voulons, c'est que du contenu illégal ou qui exploite sexuellement des enfants apparaisse dans nos résultats de recherche. Conformément à notre règlement, nous bloquons les résultats de recherche qui mènent à des images d'abus sexuels sur mineurs, ou à du contenu représentant des cas de persécution sexuelle, de mise en danger ou toute autre forme d'exploitation d'enfants. Nous mettons constamment à jour nos algorithmes afin de lutter contre ces menaces qui évoluent en permanence.
Nous utilisons des protections supplémentaires pour les recherches qui semblent porter sur des contenus d'abus sexuels sur mineurs. Dans ce cas, nous excluons les résultats à caractère sexuel explicite. Pour les requêtes portant sur des contenus explicites réservés aux adultes, la recherche Google ne renvoie pas d'images qui mettent en scène des enfants, ceci afin de dissocier les enfants du contenu à caractère sexuel. Dans de nombreux pays, un avertissement bien visible s'affiche dès lors que l'utilisateur saisit une requête portant clairement sur des contenus d'abus sexuels sur mineurs. Ce message l'informe du caractère illégal des images d'abus sexuels sur mineurs et lui explique comment signaler ce type de contenu à des organisations de confiance, par exemple l'Internet Watch Foundation au Royaume-Uni, le Centre canadien de protection de l'enfance et Te Protejo en Colombie. Lorsque de tels avertissements s'affichent, les utilisateurs sont moins susceptibles de poursuivre leurs recherches sur ces contenus.
Lutte contre l'exploitation des enfants dans les vidéos et les contenus YouTube
Nous avons toujours appliqué des règles claires pour lutter contre les vidéos, les playlists, les miniatures et les commentaires sur YouTube qui sexualisent ou exploitent des enfants. Nous utilisons des systèmes de machine learning pour détecter de manière proactive les cas de non-respect de ces règles et nous faisons appel à des examinateurs manuels partout dans le monde pour supprimer rapidement les contenus non conformes repérés par nos systèmes ou signalés par les utilisateurs et nos signaleurs de confiance.
Bien qu'un certain nombre de contenus mettant en scène des mineurs n'enfreignent pas nos règles, nous savons que l'exploitation des mineurs en ligne et hors ligne est un sujet de préoccupation. C'est pourquoi nous sommes particulièrement vigilants quant à l'application de nos règles. Nos systèmes de machine learning permettent d'identifier de manière proactive les vidéos susceptibles de présenter un risque pour les mineurs. Elles permettent également d'appliquer des mesures de protection à grande échelle, par exemple avec la restriction des fonctionnalités en direct, la désactivation des commentaires et la limitation des recommandations de vidéos.
Rapport "Transparence des informations" sur les contenus d'abus sexuels sur mineurs
En 2021, nous avons lancé le rapport "Transparence des informations". Celui-ci présente les mesures prises par Google pour lutter contre les contenus d'abus sexuels sur mineurs en ligne et détaille le nombre de signalements que nous avons effectués au NCMEC. Il contient également des données sur les efforts que nous déployons sur YouTube, sur la façon dont nous détectons et supprimons les contenus d'abus sexuels sur mineurs dans les résultats de recherche, ainsi sur le nombre de comptes Google désactivés en raison de la présence de contenus d'abus sexuels sur mineurs dans tous nos services.
Le rapport "Transparence des informations" indique aussi le nombre de hachages de contenus d'abus sexuels sur mineurs transmis au NCMEC. Ces hachages aident les autres plates-formes à identifier ce type de contenu à grande échelle. Alimenter la base de données de hachage du NCMEC est l'un des principaux moyens pour Google et les autres acteurs du secteur de lutter contre les contenus d'abus sexuels sur mineurs. Cette démarche permet en effet d'éviter que ces mêmes contenus circulent à nouveau et que des enfants abusés soient une nouvelle fois victimes de la diffusion de ces contenus.
Signalement des comportements inappropriés dans nos produits
Nous voulons protéger les enfants qui utilisent nos produits contre la sollicitation à des fins sexuelles, l'extorsion sexuelle, le trafic et toute autre forme d'exploitation sexuelle. Dans le cadre de nos efforts pour que les enfants puissent utiliser nos produits en sécurité, nous fournissons des informations utiles pour aider les utilisateurs à signaler les contenus d'abus sexuels sur mineurs aux autorités compétentes.
Si un utilisateur craint qu'un enfant ait été mis en danger sur l'un de nos produits, par exemple sur Gmail ou Hangouts, il peut le signaler à l'aide d'un formulaire. Les utilisateurs peuvent aussi signaler les contenus inappropriés sur YouTube et les abus dans Google Meet via le centre d'aide et directement dans le produit. Nous fournissons également des informations pour faire face aux préoccupations liées à l'intimidation et au harcèlement, y compris pour empêcher des utilisateurs de contacter un enfant. Pour en savoir plus sur notre règlement concernant la sécurité des enfants, consultez le règlement de la communauté YouTube et le Centre de sécurité Google.
Développer et partager des outils de lutte contre les abus sexuels sur mineurs
Nous utilisons notre expertise technique et nos innovations pour protéger les enfants et aider d'autres acteurs à faire de même. Nous proposons sans frais nos technologies de pointe aux organisations éligibles pour optimiser, accélérer et sécuriser leurs opérations, et nous encourageons les organisations intéressées à s'inscrire afin de bénéficier de nos outils pour la sécurité des enfants.
API Content Safety
Utilisation : images et contenus vidéo non répertoriés
Google travaille depuis de nombreuses années sur les classificateurs utilisant le machine learning pour permettre l'identification proactive des images d'abus sexuels sur mineurs non répertoriées et accélérer leur examen. Toute image non conforme peut alors être signalée et supprimée dans les plus brefs délais. Cette technologie est intégrée à l'API Content Safety, qui permet aux organisations de classer et hiérarchiser les contenus potentiellement abusifs nécessitant un examen. Chaque mois, nos partenaires classent des milliards d'images. Grâce à l'API, ils peuvent identifier les contenus problématiques et les signaler aux autorités avec plus de rapidité et de précision.
CSAI Match
Utilisation : correspondances de hachage de vidéo
En 2014, des ingénieurs de YouTube ont développé et adopté une technologie pour ajouter des tags aux vidéos incluant des contenus d'abus sexuels sur mineurs déjà répertoriés et pour les supprimer de nos services. Nous avons décidé de partager cette technologie via l'API CSAI Match, qui permet d'identifier toute nouvelle importation de ces contenus dans des vidéos. CSAI Match aide les ONG et les entreprises à identifier les correspondances dans notre base de données de contenus abusifs connus avant de prendre les mesures nécessaires conformément aux lois et réglementations locales.
Alliances et programmes
Nous sommes un membre actif de plusieurs coalitions (Technology Coalition, ICT Coalition, WeProtect Global Alliance, INHOPE, Fair Play Alliance), qui regroupent des entreprises et des ONG qui développent ensemble des solutions afin d'empêcher l'échange de contenus d'abus sexuels sur des enfants en ligne, ainsi que l'exploitation sexuelle des enfants.
Ensemble, nous finançons des études sur la sécurité des enfants, et partageons des outils et connaissances, y compris nos insights issus du rapport Transparence des informations, la détection de contenus dans les produits et les processus opérationnels.
En partenariat avec
Ad Grants par le biais de Google.org
Google.org accorde des subventions aux organisations qui luttent contre l'exploitation des enfants et les abus sexuels sur mineurs, comme INHOPE et ECPAT International. Par ailleurs, depuis 2003, Google.org a offert environ 90 millions de dollars de publicités gratuites aux ONG et aux associations caritatives qui gèrent des lignes téléphoniques de signalement des abus sexuels sur mineurs pour leur permettre de venir en aide à ceux qui en ont le plus besoin.
Programme Google Fellow
Nous finançons des programmes techniques dans des organisations dédiées à la lutte contre les abus sexuels sur mineurs, par exemple le NCMEC et Thorn. Nous proposons également des formations aux représentants des forces de l'ordre chargés d'enquêter sur les crimes en ligne contre des enfants, via des forums tels que la Crimes Against Children Conference et l'événement National Law Enforcement Training on Child Exploitation.