온라인 아동 성적 학대를 근절하기 위한 Google의 노력
Google은 온라인상의 아동 성적 학대와 착취를근절하기 위해 아낌 없이 투자하며,Google 플랫폼 상에서 불법 콘텐츠를방지, 감지, 삭제 및 신고하기 위해자체 개발 기술을 활용하고 있습니다.
Google은 NGO 및 업계와의 협력 프로그램을 통해 전문 기술 지식을 공유하고,여러 단체들이 아동 성적 학대 콘텐츠를 근절하는 데 필요한 도구를개발 및 공유하고 있습니다.
아동 안전 툴킷에 관해 자세히 알아보세요.
Google 플랫폼과 서비스에서학대를 근절하기 위한 노력
Google은 창립 초기부터 서비스 내의 아동 성적 학대와 착취를 근절하기 위해 힘써 왔습니다.이에 따라 아동 성적 학대 콘텐츠 및 행위를 감지, 방지, 삭제 및 신고하기 위하여상당한 기술, 인력, 시간 리소스를 할애하고 있습니다.
Google의 역할
학대 예방
Google의 목표는 아동도 안전하게 이용할 수 있는 제품을 만들어 학대를 막는 것입니다. 또한 Google은 계속해서 진화하는 위협과 새로운 범죄 수법을 이해하기 위해 가능한 모든 통계와 조사를 동원하고 있습니다. Google에서는 불법적인 아동 성적 학대 콘텐츠뿐만 아니라 아동의 성적 학대를 조장하고 아동을 위협할 수 있는 콘텐츠에도 조치를 취합니다.
감지 및 신고
Google은 아동 성적 학대 콘텐츠 파악 및 신고를 위해 훈련된 전문가팀과 머신러닝 분류기, 해시 매칭 기술 등의 최첨단 기술을 활용합니다. 해시 매칭 기술은 이미지나 동영상별로 고유한 디지털 지문인 '해시'를 만들어 알려진 아동 성적 학대 콘텐츠의 해시와 비교할 수 있도록 합니다. 아동 성적 학대 콘텐츠가 발견되면 전 세계의 법 집행 기관과 연계된 실종아동 및 아동학대방지 국립센터(NCMEC)에 신고합니다.
전 세계적인 협력
Google은 NCMEC를 비롯한 전 세계 단체와 협력하여 온라인 아동 성적 학대에 맞서고 있습니다. 이러한 노력의 일환으로 NGO 및 업계 협회와 긴밀한 파트너십을 구축하여 계속해서 진화하는 아동 성적 학대 및 착취를 더욱 명확히 이해하는 데 기여하고 있습니다.
Google의 다양한 노력
Google 검색에서 아동 성적 학대를 근절하려는 노력
Google 검색에서는 어떤 정보든 쉽게 찾을 수 있지만, 불법적이거나 아동을 성적으로 착취하는 콘텐츠가 노출되어서는 안 됩니다. 아동 성적 학대 이미지로 연결되는 검색결과나 아동을 성적으로 학대, 위협 또는 다른 방식으로 착취하는 것처럼 보이는 자료를 차단하는 것이 Google의 정책입니다. Google에서는 알고리즘을 꾸준히 업데이트하여 계속해서 진화하는 위협에 맞서고 있습니다.
아동 성적 학대 콘텐츠를 찾는 것으로 보이는 검색에는 추가적인 보호 조치가 적용됩니다. 검색어가 아동 성적 학대 콘텐츠를 찾기 위한 것이라고 판단되면 선정적인 검색결과가 필터링됩니다. 또한 성인용 콘텐츠를 찾는 검색어를 사용할 경우 아동이 포함된 이미지가 표시되지 않습니다. 이는 아동과 성적인 콘텐츠 사이의 연결고리를 끊기 위함입니다. 여러 나라에서, 사용자가 아동 성적 학대 콘텐츠와 명백히 연관된 검색어를 입력하면, 아동 성적 학대 이미지는 불법이라는 눈에 띄는 경고와 이러한 콘텐츠를 신뢰할 수 있는 기관(영국 인터넷 감시 재단, 캐나다 아동 보호 센터, 콜롬비아의 Te Protejo 등)에 신고하는 방법에 대한 정보가 표시됩니다. 이러한 경고가 표시되면 사용자가 아동 성적 학대 콘텐츠를 계속해서 찾아볼 확률이 줄어듭니다.
아동 성적 학대 동영상과 자료에 맞서기 위한 YouTube의 노력
YouTube는 언제나 아동을 성적 대상화하거나 착취하는 동영상, 재생목록, 썸네일, 댓글을 금지하는 명확한 정책을 적용해 왔습니다. YouTube는 머신러닝 시스템을 사용하여 이러한 정책 위반을 사전에 감지하는 한편, 시스템에서 감지되거나 사용자 및 신뢰 기반 신고자가 발견한 위반 콘텐츠를 전 세계의 검토자들이 신속하게 삭제하도록 하고 있습니다.
콘텐츠에 미성년자가 출연한다고 해서 YouTube 정책을 위반하는 것은 아니지만, YouTube에서는 이러한 미성년자도 온라인 또는 오프라인 착취의 위험에 처할 수 있다는 가능성을 배제하지 않습니다. 그래서 관련 정책을 시행함에 있어 더욱 주의를 기울이고 있습니다. YouTube의 머신러닝 시스템은 미성년자를 위험에 빠트릴 수 있는 동영상을 사전에 찾아내 실시간 기능 제한, 댓글 사용 중지, 동영상 추천 제한 등의 보호 조치를 대규모로 적용할 수 있도록 합니다.
아동 성적 학대 콘텐츠에 관한 Google 투명성 보고서
2021년, 온라인 아동 성적 학대 콘텐츠에 맞서기 위한 Google의 노력과 NCMEC에 제출한 신고 수를 자세히 설명한 투명성 보고서가 공개되었습니다. 이 보고서에서는 아동 보호를 위한 YouTube의 노력, Google 검색에서 아동 성적 학대 콘텐츠 검색결과를 감지하고 삭제하는 방법, Google 서비스 전체에서 아동 성적 학대 콘텐츠 관련 정책을 위반하여 정지된 계정의 수도 알아볼 수 있습니다.
투명성 보고서에는 Google이 NCMEC와 공유한 아동 성적 학대 콘텐츠 해시의 개수에 관한 정보도 포함되어 있습니다. 이러한 해시는 다른 플랫폼들이 대규모로 아동 성적 학대 콘텐츠를 파악하는 데 도움을 줍니다. NCMEC 해시 데이터베이스에 기여하는 것은 Google과 기타 업계 관계자가 아동 성적 학대 콘텐츠 근절에 도움을 줄 수 있는 아주 중요한 방법 중 하나입니다. 이를 통해 학대를 당한 아동이 학대성 콘텐츠의 재배포로 인해 또다시 피해를 입지 않도록 보호할 수 있기 때문입니다.
Google 제품에서 발생한 부적절한 행위 신고
Google에서는 자사 제품을 이용하는 아동을 성 범죄를 위한 그루밍, 성 착취, 인신매매 등의 아동 성적 착취로부터 보호하고자 합니다. 따라서 아동도 안전하게 이용할 수 있는 Google 제품을 만들기 위한 노력의 일환으로 사용자가 관련 당국에 아동 성적 학대 콘텐츠를 신고하는 데 도움이 되는 정보를 제공하고 있습니다.
Gmail, 행아웃 등의 Google 제품에서 아동이 위협을 받고 있다고 의심되는 경우 이 양식을 통해 신고할 수 있습니다. 사용자는 또한 고객센터 또는 제품 내에서 YouTube의 부적절한 콘텐츠와 Google Meet에서 발생한 학대를 신고할 수 있습니다. 특정 사용자가 아동에게 연락하지 못하게 하는 방법을 비롯하여 폭력과 괴롭힘에 관한 우려에 대응하는 방법도 제공하고 있습니다. Google의 아동 안전 정책에 관해 자세히 알아보려면 YouTube 커뮤니티 가이드와 Google 안전 센터를 참고하세요.
아동 성적 학대를 근절하기 위한도구 개발 및 공유
Google에서는 기술 전문성과 혁신을 활용하여 아동을 보호하고 다른 조직에서도 이러한 일을 할 수 있도록 지원하고 있습니다. 조건을 충족하는 조직에 최첨단 기술을 무료로 제공하여 더욱 효과적이고 빠르고 안전하게 운영하도록 지원하고, 관심 있는 조직이 Google의 아동 안전 도구 사용을 신청하도록 독려합니다.
콘텐츠 안전 API
용도: 정지된 이미지 및 새로운 콘텐츠
Google에서는 머신러닝 분류기를 통해 새로운 아동 성적 학대 이미지를 사전에 식별할 수 있도록 여러 해 동안 노력해 왔습니다. 이렇게 하면 검토를 거쳐 확인된 아동 성적 학대 이미지가 가능한 한 빠르게 삭제되고 신고될 수 있습니다. 이러한 머신러닝 기술은 콘텐츠 안전 API에 사용되어 조직에서 잠재적인 학대성 콘텐츠를 분류하고 검토 우선순위를 정하는 데 도움이 됩니다. 2021년 상반기에 Google 파트너는 콘텐츠 안전 API를 활용하여 60억 개 이상의 이미지를 분류했습니다. 덕분에 문제성 콘텐츠를 더욱 빠르고 정확하게 분류하여 관련 당국에 신고할 수 있었습니다.
CSAI 매치
용도: 동영상 해시 매칭
2014년, YouTube 엔지니어들은 알려진 아동 성적 학대 동영상을 서비스에서 태깅 및 삭제하기 위한 기술을 개발하고 도입했습니다. Google에서는 CSAI 매치를 통해 이 기술을 다른 기관과 공유합니다. CSAI 매치는 이전에 동영상에서 확인된 아동 성적 학대 콘텐츠가 다시 업로드되었는지 파악하는 API입니다. NGO와 기업은 CSAI 매치를 사용해 Google의 알려진 학대성 콘텐츠 데이터베이스와 일치하는 콘텐츠를 찾아 해당 국가의 법률 및 규정에 따라 책임감 있게 조치를 취할 수 있습니다.
협회 및 프로그램
Google은 기술 연합(Technology Coalition), ICT 연합(ICT Coalition), WeProtect 국제 연합(WeProtect Global Alliance), INHOPE, 페어 플레이 연합(Fair Play Alliance)과 같이 기업과 NGO가 협력하여 온라인상의 아동 성적 학대 콘텐츠 교환과 아동 성적 착취를 막기 위한 솔루션을 개발하는 여러 연합의 회원으로 활발하게 활동하고 있습니다.
이러한 연합과 협력하여 아동 안전에 관한 연구 자금을 지원하고 투명성 보고, 제품 내 감지, 운영 절차와 같은 Google의 도구와 지식을 공유하고 있습니다.
Google의 파트너
Google.org를 통한 Ad Grants 지원금
Google.org는 INHOPE와 ECPAT International과 같이 아동 성적 학대 및 착취를 근절하는 데 앞장서는 조직에 지원금을 제공합니다. 또한 2003년부터 아동 성적 학대 신고 핫라인을 운영하는 NGO와 자선단체가 가장 도움이 절실한 사람들을 지원할 수 있도록 약 9천만 달러의 무료 광고 예산을 제공했습니다.
Google 펠로우 프로그램
Google에서는 NCMEC 및 Thorn과 같이 아동 성적 학대를 근절하기 위해 노력하는 조직에 기술 연구 자금을 지원하고 있습니다. 또한 아동 대상 범죄 전국 컨퍼런스(Crimes Against Children Conference)와 아동 착취에 대한 전국 법 집행 교육(National Law Enforcement Training on Child Exploitation)과 같은 포럼을 통해 온라인상의 아동 대상 범죄를 수사하는 법 집행 기관 관계자에게 교육을 제공합니다.