Jump to Content

온라인 아동 성적 학대를근절하기 위한 Google의 노력

Google은 온라인에서 이루어지는 아동 성적 학대 및 착취를 근절하고,아동 성적 학대 콘텐츠(CSAM)의 확산에 Google 서비스가 남용되는 것을 막기 위해최선을 다하고 있습니다.

Google은 온라인상의 아동 성적 학대와 착취를근절하기 위해 아낌 없이 투자하며,Google 플랫폼 상에서 불법 콘텐츠를방지, 감지, 삭제 및 신고하기 위해자체 개발 기술을 활용하고 있습니다.

Google은 NGO 및 업계와의 협력 프로그램을 통해 전문 기술 지식을 공유하고,여러 단체들이 아동 성적 학대 콘텐츠를 근절하는 데 필요한 도구를개발 및 공유하고 있습니다.

아동 안전 툴킷에 관해 자세히 알아보세요.

Google 플랫폼과 서비스에서학대를 근절하기 위한 노력

Google은 창립 초기부터 서비스 내의 아동 성적 학대와 착취를 근절하기 위해 힘써 왔습니다.이에 따라 아동 성적 학대 콘텐츠 및 행위를 감지, 방지, 삭제 및 신고하기 위하여상당한 기술, 인력, 시간 리소스를 할애하고 있습니다.

Google의 역할

Google의 대처 방법

Google은 광범위한 기술적 및 인적 리소스를 활용하여 아동 성적 학대 콘텐츠, 그루밍, 성 착취 등과 같은 콘텐츠에 대응합니다. Google의 접근 방식에 대한 개략적인 설명을 읽어 보거나, 아래에서 Google 제품에서 이러한 유형의 악용 사례를 처리하는 방식을 자세히 알아보세요.

  • 착취적 동영상과 자료에 맞서기 위한 YouTube의 노력

    YouTube에서는 원래부터 아동을 성적 대상화하거나 착취하는 동영상, 재생목록, 썸네일, 댓글을 금지하는 명확한 정책을 적용해 왔습니다. YouTube는 머신러닝 시스템을 사용하여 이러한 정책 위반을 사전에 감지하는 한편, 전 세계 검토자들이 시스템에서 감지되거나 사용자와 신뢰 기반 신고자가 발견한 위반 콘텐츠를 신속하게 삭제하도록 하고 있습니다.

    미성년자가 출연하지만 YouTube 정책을 위반하지 않는 콘텐츠도 있겠지만, YouTube에서는 이러한 미성년자도 온라인 또는 오프라인 착취의 위험에 처할 수 있다는 가능성을 배제하지 않습니다. 그래서 이러한 정책을 시행함에 있어 더욱 주의를 기울이고 있습니다. YouTube의 머신러닝 시스템은 미성년자를 위험에 빠트릴 수 있는 동영상을 사전에 찾아내 실시간 기능 제한, 댓글 사용 중지, 맞춤 동영상 제한 등 규모에 맞는 보호 조치를 적용합니다.

    관련 링크

  • 아동 성적 학대 콘텐츠에 관한 Google 투명성 보고서

    2021년, 온라인 아동 성적 학대 콘텐츠에 맞서기 위한 Google의 노력과 NCMEC에 제출한 신고 수를 자세히 설명한 투명성 보고서가 공개되었습니다. 이 보고서에서는 아동 보호를 위한 YouTube의 노력, Google 검색에서 아동 성적 학대 콘텐츠 검색 결과를 감지하고 삭제하는 방법, Google 서비스 전체에서 아동 성적 학대 콘텐츠 관련 정책을 위반하여 정지된 계정의 수도 알아볼 수 있습니다.

    투명성 보고서에는 Google이 NCMEC와 공유한 아동 성적 학대 콘텐츠 해시의 개수에 관한 정보도 포함되어 있습니다. 이러한 해시는 다른 플랫폼에서 각자의 규모에 맞게 아동 성적 학대 콘텐츠를 파악하는 데 도움이 됩니다. NCMEC 해시 데이터베이스에 정보를 제공하는 것은 Google과 기타 업계 관계자가 아동 성적 학대 콘텐츠 근절에 도움을 줄 수 있는 아주 중요한 방법 중 하나입니다. 이를 통해 학대를 당한 아동이 학대성 콘텐츠의 재배포로 인해 또다시 피해를 입지 않도록 보호할 수 있기 때문입니다.

    관련 링크

  • Google 제품에서 발생한 부적절한 행위 신고

    Google에서는 Google 제품을 이용하는 아동을 그루밍, 성 착취, 인신매매 등의 아동 성적 착취로부터 보호하고자 합니다. 따라서 아동도 안전하게 이용할 수 있는 Google 제품을 만들기 위한 노력의 일환으로 사용자가 관련 당국에 아동 성적 학대 콘텐츠를 신고하는 데 도움이 되는 정보를 제공하고 있습니다.

    Gmail, 행아웃 등의 Google 제품에서 아동이 위협을 받고 있다고 의심되는 경우 이 양식을 통해 신고할 수 있습니다. 사용자는 또한 고객센터 또는 제품 내에서 YouTube의 부적절한 콘텐츠와 Google Meet에서 발생한 학대를 신고할 수 있습니다. 특정 사용자가 아동에게 연락하지 못하게 하는 방법을 비롯하여 폭력과 괴롭힘에 관한 우려에 대응하는 방법도 제공하고 있습니다. Google의 아동 안전 정책에 관해 자세히 알아보려면 YouTube 커뮤니티 가이드와 Google 안전 센터를 참고하세요.

    관련 링크

아동 성적 학대를 근절하기 위한 도구 개발 및 공유

Google에서는 기술 전문성과 혁신을 활용하여 아동을 보호하고 다른 조직에서도 이러한 일을 할 수 있도록 지원하고 있습니다. 조건을 충족하는 조직에 최첨단 기술을 무료로 제공하여 더욱 효과적이고 빠르고 안전하게 운영하도록 지원하고, 관심 있는 조직이 Google의 아동 안전 도구 사용을 신청하도록 독려합니다.

  • Content Safety API

    기존에 알려지지 않은 이미지 및 동영상 콘텐츠에 사용됨

    Google에서는 머신러닝 분류기를 통해 새로운 아동 성적 학대 이미지를 사전에 식별할 수 있도록 여러 해 동안 노력해 왔습니다. 이렇게 하면 검토를 거쳐 확인된 아동 성적 학대 이미지가 가능한 한 빠르게 삭제되고 신고될 수 있습니다. 이러한 머신러닝 기술은 Content Safety API에 사용되어 조직에서 잠재적인 학대성 콘텐츠를 분류하고 검토 우선순위를 정하는 데 도움이 됩니다. 매달 Google 파트너는 Content Safety API를 활용하여 10억 개가 넘는 파일을 분류할 수 있으므로, 이를 통해 문제성 콘텐츠를 더욱 빠르고 정확하게 분류하여 관련 당국에 신고할 수 있습니다.

    사용 주체
    Facebook Snapchat Safernet

  • CSAI Match

    동영상 해시 매칭에 사용됨

    2014년, YouTube 엔지니어들은 알려진 아동 성적 학대 동영상을 서비스에서 태깅 및 삭제하기 위한 기술을 개발하고 도입했습니다. Google에서는 CSAI Match를 통해 이 기술을 다른 기관과 공유합니다. CSAI Match는 이전에 동영상에서 확인된 아동 성적 학대 콘텐츠가 다시 업로드되었는지 파악하는 API입니다. NGO와 기업은 CSAI Match를 사용해 Google의 알려진 악성 콘텐츠 데이터베이스와 일치하는 콘텐츠를 찾아 현지 법률 및 규정에 따라 책임감 있게 조치를 취할 수 있습니다.

    사용 주체
    Reddit Yahoo Adobe

협회 및 프로그램

Google은 기술 연합(Technology Coalition), ICT 연합(ICT Coalition), WeProtect 국제 연합(WeProtect Global Alliance), INHOPE, 페어 플레이 연합(Fair Play Alliance)과 같이 기업과 NGO가 협력하여 온라인상의 아동 성적 학대 콘텐츠 교환과 아동 성적 착취를 막기 위한 솔루션을 개발하는 여러 연합의 회원으로 활발하게 활동하고 있습니다.
이러한 연합과 협력하여 아동 안전에 관한 연구 자금을 지원하고 투명성 보고, 제품 내 감지, 운영 절차와 같은 Google의 도구와 지식을 공유하고 있습니다.
Google의 파트너

  • Google.org를 통한 Ad Grants 지원금

    Google.org는 INHOPE와 ECPAT International과 같이 아동 성적 학대 및 착취를 근절하는 데 앞장서는 조직에 지원금을 제공합니다. 또한 2003년부터 아동 성적 학대 신고 핫라인을 운영하는 NGO와 자선단체가 가장 도움이 절실한 사람들을 지원할 수 있도록 약 9천만 달러의 무료 광고 예산을 제공했습니다.

    관련 링크

  • Google 펠로우 프로그램

    Google에서는 NCMEC 및 Thorn과 같이 아동 성적 학대를 근절하기 위해 노력하는 조직에 기술 연구 자금을 지원하고 있습니다. 또한 아동 대상 범죄 전국 컨퍼런스(Crimes Against Children Conference)와 아동 착취에 대한 전국 법 집행 교육(National Law Enforcement Training on Child Exploitation)과 같은 포럼을 통해 온라인상의 아동 대상 범죄를 수사하는 법 집행 기관 관계자에게 교육을 제공합니다.

    관련 링크