Combate ao abuso sexual infantil on-line
Investimos muito no combate à exploração e ao abuso sexual infantil on-line e usamos tecnologia própria para impedir, detectar, remover e denunciar conteúdo ofensivo nas nossas plataformas.
Firmamos parcerias com ONGs e empresas do setor em programas para compartilhar nossa experiência técnica. Também desenvolvemos e compartilhamos ferramentas para ajudar organizações a combater o material de abuso sexual infantil.
Saiba mais sobre nosso kit de ferramentas de segurança infantil.
Combate ao abuso nos nossos serviços e plataformas
O que fazemos?
-
Prevenção de abusos
Nosso objetivo é evitar que abusos aconteçam. Para isso, buscamos garantir que nossos produtos sejam seguros nas mãos das crianças. Além disso, usamos todos os dados e pesquisas disponíveis para compreender as ameaças em constante evolução e novas formas de violação, como material de abuso sexual infantil gerado por IA. Tomamos providências quanto a esse tipo de material e ao conteúdo que promove o abuso sexual infantil e pode colocar as crianças em risco. -
Detecção e denúncia
Identificamos e denunciamos material de abuso sexual infantil com equipes especialmente treinadas e tecnologia de última geração. Isso inclui classificadores de aprendizado de máquina e correspondência de hash, uma impressão digital única de uma imagem ou vídeo que é comparada a hashes desse tipo de material já verificado. Todo material de abuso sexual infantil encontrado é denunciado ao Centro Nacional para Crianças Desaparecidas e Exploradas (NCMEC), que trabalha com órgãos de segurança pública no mundo todo. -
Colaboração global
Trabalhamos com o NCMEC e outras organizações do mundo inteiro para combater o abuso sexual infantil na Internet. Estabelecemos fortes parcerias com ONGs e coalizões do setor para cada vez mais contribuir com o entendimento conjunto que temos sobre a natureza em constante evolução desse conteúdo.
Como fazemos isso?
Usamos diversos recursos humanos e tecnológicos para combater conteúdos como material de abuso sexual infantil, aliciamento, sextorção (chantagem sexual) e outros. Leia uma descrição geral da nossa abordagem ou confira abaixo em mais detalhes como alguns dos nossos produtos lidam com esse tipo de abuso.
-
Combate ao abuso sexual infantil na Pesquisa
A Pesquisa Google facilita a busca de informações, mas não queremos que ela mostre conteúdo ilegal ou de abuso infantil. Nossa política inclui o bloqueio de resultados da pesquisa que levem a imagens de abuso sexual infantil ou conteúdo que contenha vitimização sexual, ameaça ou qualquer outro tipo de exploração infantil. Atualizamos nossos algoritmos constantemente para combater ameaças em constante evolução.
Quando identificamos que as pesquisas buscam conteúdo de material de abuso sexual infantil, incorporamos proteções adicionais. Filtramos resultados sexualmente explícitos se a consulta de pesquisa parecer buscar material de abuso sexual infantil. A Pesquisa também não mostra imagens de menores de idade quando em buscas de conteúdo explícito, evitando qualquer associação entre crianças e conteúdo sexual. Em muitos países, os usuários que fazem esse tipo de busca recebem um alerta importante, informando que imagens de abuso sexual infantil são ilegais. Esse aviso também inclui informações sobre como denunciar tais conteúdos a organizações confiáveis, como a Internet Watch Foundation no Reino Unido, o Canadian Centre for Child Protection no Canadá e o Te Protejo na Colômbia. Esses alertas diminuem a probabilidade de que os usuários continuem a buscar esse material.
Links relevantes -
O trabalho do YouTube para combater vídeos e materiais abusivos
Sempre tivemos políticas claras contra vídeos, playlists, miniaturas e comentários no YouTube que sexualizam ou exploram crianças. Usamos sistemas de aprendizado de máquina para detectar violações dessas políticas. Com isso, nossos revisores no mundo inteiro removem prontamente as violações detectadas pelos sistemas ou sinalizadas pelos usuários e auditores de confiança.
Embora alguns conteúdos com menores de idade não violem nossas políticas, sabemos que eles podem estar em risco de exploração on-line ou off-line. É por isso que adotamos uma postura ainda mais cautelosa ao aplicar essas políticas. Nossos sistemas de aprendizado de máquina ajudam a identificar proativamente vídeos que possam colocar menores em risco e a aplicar nossas proteções em escala, como restringir recursos ao vivo, desativar comentários e limitar recomendações.
Links relevantes -
Nosso relatório de transparência sobre material de abuso sexual infantil
Em 2021, lançamos um relatório de transparência sobre os esforços do Google para combater material de abuso sexual infantil na Internet, em que detalhamos quantas denúncias fizemos à NCMEC. O relatório inclui dados sobre o trabalho do YouTube, como detectamos e removemos resultados de material de abuso sexual infantil da Pesquisa e quantas contas desativamos por violações de material desse tipo em todos os nossos serviços.
O relatório de transparência também inclui informações sobre o número de hashes de material de abuso sexual infantil que compartilhamos com o NCMEC. Essas hashes ajudam outras plataformas a identificar esse tipo de material em escala. Contribuir para a base de dados de hashes do NCMEC é uma das principais formas que nós e outras pessoas do setor usamos para combater materiais de abuso sexual infantil, reduzindo assim a recirculação desse conteúdo e a revitimização das crianças que foram abusadas.
Links relevantes -
Denúncia de comportamento inadequado nos nossos produtos
Queremos proteger as crianças que usam nossos produtos contra o aliciamento, sextorção (chantagem sexual), tráfico e outras formas de exploração sexual infantil. Disponibilizamos informações úteis que ajudam os usuários a denunciar material de abuso sexual infantil às autoridades relevantes para deixar esses produtos mais seguros nas mãos das crianças.
Em caso de suspeita de que uma criança foi ameaçada nos produtos do Google, como o Gmail ou o Chat, é possível fazer uma denúncia usando este formulário. Os usuários também podem sinalizar conteúdo inadequado no YouTube e denunciar abusos no Google Meet pela Central de Ajuda e diretamente no próprio produto. Também oferecemos informações sobre como lidar com bullying e assédio, inclusive instruções de como bloquear usuários para que não entrem em contato com uma criança. Para saber mais sobre nossas políticas de segurança infantil, consulte as diretrizes da comunidade do YouTube e a Central de Segurança do Google.
Links relevantes
Desenvolvimento e compartilhamento de ferramentas para combater o abuso sexual infantil
-
API Content Safety
USADA PARA CONTEÚDO DE IMAGENS E VÍDEOS AINDA NÃO VISTO
Há anos, o Google desenvolve classificadores com aprendizado de máquina. Com isso, conseguimos identificar imagens de material de abuso sexual infantil nunca vistas. Elas então são analisadas e, se necessário, removidas e denunciadas quanto antes. Essa é a tecnologia por trás da API Content Safety, que ajuda organizações a classificar e priorizar conteúdo potencialmente abusivo para análise. Todo mês, nossos parceiros usam a API Content Safety para classificar bilhões de arquivos. Assim, eles identificam conteúdo problemático com mais rapidez e precisão para fazer denúncias às autoridades.
USADO POR -
CSAI Match
USADA PARA FAZER CORRESPONDÊNCIA DE HASH EM VÍDEOS
Em 2014, a equipe de engenharia do YouTube desenvolveu e adotou uma tecnologia que marca e remove vídeos conhecidos de material de abuso sexual infantil dos nossos serviços. Compartilhamos essa tecnologia com outras plataformas pela CSAI Match, uma API que ajuda a identificar novos uploads de vídeos com conteúdo de material de abuso sexual infantil que já foram identificados antes. A CSAI Match é usada por ONGs e empresas para identificar correspondências com nossa base de dados de conteúdo abusivo já verificado. Com isso, elas podem tomar as ações cabíveis conforme as leis e regulamentações locais.
USADO POR
Alianças e programas
Juntos, financiamos pesquisas sobre segurança infantil e compartilhamos ferramentas e conhecimento, como nossas informações sobre relatórios de transparência, detecção em produtos e processos operacionais.
Em parceria com
-
Ad Grants do Google.org
O Google.org concede benefícios a organizações líderes no combate à exploração e ao abuso sexual infantil, como a INHOPE e a ECPAT International. Além disso, desde 2003, o Google.org ofereceu o equivalente a cerca de US$ 90 milhões em orçamento de publicidade sem custo a ONGs e organizações de caridade que fornecem linhas diretas para denúncia de abuso sexual infantil, ajudando-as a alcançar as vítimas que mais precisam.
Links relevantes -
Programa Google Fellow
Financiamos bolsas técnicas em organizações dedicadas a combater o abuso sexual infantil, como a NCMEC e a Thorn. O Google também oferece treinamento a policiais que investigam crimes on-line contra crianças em fóruns como a Crimes Against Children National Conference ("Conferência nacional sobre crimes contra crianças") e o National Law Enforcement Training on Child Exploitation ("Treinamento nacional de policiais sobre exploração infantil", em inglês).
Links relevantes
