더 효과적인 우선순위 지정

더 효과적인 우선순위 지정


API는 사람의 검토가 필요한 학대성 콘텐츠의 우선순위를 지정하여 온라인상의 아동 착취 근절에 기여합니다.

빠른 파악

더욱 빠른 파악


콘텐츠를 더욱 빠르게 파악하면 피해자를 찾아 추가적인 학대로부터 보호할 수 있는 확률이 늘어납니다.

더욱 안전한 운영

더욱 안전한 운영


검토 목록을 더욱 효율적으로 만들고 의미 없는 데이터를 줄여 콘텐츠 검토자의 수고를 덜 수 있습니다.

Google의 도구에 관해 알아보기

Google의 도구는 상호 보완 기능을 갖췄습니다. 여러 가지 요구사항을 해결하기 위해 다른 솔루션과 함께 사용할 수 있습니다.

콘텐츠 안전 API

콘텐츠 안전 API

기존에 알려지지 않은 이미지 분류

CSAI 매치

CSAI 매치

알려진 학대성 동영상 세그먼트 매칭

콘텐츠 안전 API

용도: 기존에 알려지지 않은 이미지 분류


콘텐츠 안전 API 분류기는 프로그래매틱 액세스와 인공지능을 사용하여 파트너가 수십억 개의 이미지를 분류하고 우선순위를 파악해 검토하도록 돕습니다. 분류기가 높은 우선순위를 지정할수록 이미지에 학대성 콘텐츠가 포함되어 있을 가능성이 높습니다. 따라서 파트너는 이러한 이미지를 우선적으로 직접 검토하고 어떤 조치를 취할지 결정할 수 있습니다. 콘텐츠 안전 API는 전송받은 콘텐츠에 권장 우선순위를 지정합니다. 파트너는 콘텐츠에 조치를 취할지 결정하기 위해 반드시 콘텐츠를 직접 검토해야 합니다.

Google에서는 운영 과정에서 직접 검토 절차 직전에 콘텐츠 안전 API를 사용할 것을 조직에 권장합니다. 이렇게 하면 조직에서 콘텐츠를 분류하고 우선순위를 지정하여 검토 순서를 정할 수 있기 때문입니다. 콘텐츠 안전 API는 YouTube의 CSAI 매치 동영상 해싱 도구, Microsoft의 PhotoDNA 같이 각기 다른 요구사항을 해결하는 기타 솔루션과 병행하여 사용할 수 있습니다.

작동 방식

이미지 가져오기

1. 이미지 가져오기

파트너는 여러 형식으로 이미지를 가져옵니다. 사용자가 신고하거나, 파트너가 플랫폼 내의 이미지를 관리하기 위해 만든 필터 또는 크롤러에 의해 감지된 경우를 예로 들 수 있습니다.

파트너

사용자가 신고한 이미지

크롤러

사전 필터

(포르노/기타 분류기)

API 검토

2. API 검토

그러고 나면 이미지 파일이 간단한 API 호출을 통해 콘텐츠 안전 API에 전송됩니다. 이미지 파일은 검토 우선순위를 파악하기 위해 분류기를 거치며, 각 이미지의 우선순위 값은 파트너에게 다시 전송됩니다.

Google

콘텐츠 안전 API

분류기 기술

직접 검토

3. 직접 검토

파트너는 우선순위 값을 사용하여 먼저 직접 검토해야 할 이미지를 선별합니다.

파트너

직접 검토

조치 취하기

4. 조치 취하기

파트너는 이미지를 직접 검토하고 나서 현지 법률 및 규정에 따라 콘텐츠에 조치를 취할 수 있습니다.

파트너

상황에 맞게 조치

CSAI 매치

용도: 알려진 학대성 동영상 세그먼트 매칭


CSAI 매치는 온라인상의 아동 성적 학대 이미지(CSAI) 동영상에 맞서기 위한 YouTube의 독점 기술입니다. 이 기술은 처음으로 해시 매칭을 사용하여 알려진 위법 콘텐츠를 파악했으며, 다수의 정상적인 동영상 콘텐츠 중에 이러한 위법 콘텐츠를 파악하는 데 사용되었습니다. 위법 콘텐츠가 발견되면 파트너가 검토, 확인하여 현지 법률 및 규정에 따라 책임감 있게 신고할 수 있도록 해당 콘텐츠가 파트너에게 신고됩니다. YouTube는 업계와 NGO의 파트너에게 CSAI 매치를 제공합니다. 파트너는 디지털 지문 생성 소프트웨어와 API를 이용하여 알려진 학대성 콘텐츠의 Google 데이터베이스와 일치하는 콘텐츠를 찾을 수 있습니다.

온라인 플랫폼은 CSAI 매치를 사용하여 세계 최고 규모의 알려진 아동 성적 학대 이미지 콘텐츠의 인덱스와 사이트의 콘텐츠를 대조하는 방법으로 위법 콘텐츠가 사이트에서 표시 및 공유되는 것을 막을 수 있습니다. 파트너는 CSAI 매치를 자체 시스템에 간편하게 통합하여 까다로운 콘텐츠 관리를 규모에 맞게 구축할 수 있습니다.

작동 방식

동영상 디지털 지문 생성

1. 동영상 디지털 지문 생성

동영상은 파트너의 플랫폼에 업로드됩니다. 파트너의 플랫폼에서 실행되는 CSAI 매치 디지털 지문 생성기는 동영상의 디지털 지문 파일을 생성합니다. 디지털 지문 파일이란 동영상 파일 콘텐츠를 고유하게 나타내는 디지털 ID입니다.

파트너

동영상 파일

디지털 지문 생성기

디지털 지문 생성기 파일

API 검토

2. API 검토

파트너는 YouTube의 디지털 지문 저장소 내 다른 파일과 비교할 디지털 지문 파일을 CSAI 매치 API를 통해 전송합니다. 저장소에는 YouTube와 Google에서 감지한 기존 학대성 콘텐츠의 디지털 지문이 포함되어 있습니다.

YouTube

CSAI 매치 API

CSAI 매치 기술

공유된 아동 성적 학대 이미지

디지털 지문 생성기 저장소

직접 검토

3. 직접 검토

API 호출이 완료되면 일치 또는 불일치 결과가 파트너에게 다시 전송됩니다. 파트너는 일치 정보에 따라 동영상을 직접 검토하여 아동 성적 학대 이미지가 있는지 확인합니다.

파트너

직접 검토

조치 취하기

4. 조치 취하기

파트너는 이미지 검토를 완료하고 나서 현지 법률 및 규정에 따라 콘텐츠에 조치를 취할 수 있습니다.

파트너

상황에 맞게 조치

콘텐츠 안전 API

용도: 기존에 알려지지 않은 이미지 분류

콘텐츠 안전 API 분류기는 프로그래매틱 액세스와 인공지능을 사용하여 파트너가 수십억 개의 이미지를 분류하고 우선순위를 파악해 검토하도록 돕습니다. 분류기가 높은 우선순위를 지정할수록 이미지에 학대성 콘텐츠가 포함되어 있을 가능성이 높습니다. 따라서 파트너는 이러한 이미지를 우선적으로 직접 검토하고 어떤 조치를 취할지 결정할 수 있습니다. 콘텐츠 안전 API는 전송받은 콘텐츠에 권장 우선순위를 지정합니다. 파트너는 콘텐츠에 조치를 취할지 결정하기 위해 반드시 콘텐츠를 직접 검토해야 합니다.

Google에서는 운영 과정에서 직접 검토 절차 직전에 콘텐츠 안전 API를 사용할 것을 조직에 권장합니다. 이렇게 하면 조직에서 콘텐츠를 분류하고 우선순위를 지정하여 검토 순서를 정할 수 있기 때문입니다. 콘텐츠 안전 API는 YouTube의 CSAI 매치 동영상 해싱 도구, Microsoft의 PhotoDNA 같이 각기 다른 요구사항을 해결하는 기타 솔루션과 병행하여 사용할 수 있습니다.

CSAI 매치

용도: 알려진 학대성 동영상 세그먼트 매칭

CSAI 매치는 온라인상의 아동 성적 학대 이미지(CSAI) 동영상에 맞서기 위한 YouTube의 독점 기술입니다. 이 기술은 처음으로 해시 매칭을 사용하여 알려진 위법 콘텐츠를 파악했으며, 다수의 정상적인 동영상 콘텐츠 중에 이러한 위법 콘텐츠를 파악하는 데 사용되었습니다. 위법 콘텐츠가 발견되면 파트너가 검토, 확인하여 현지 법률 및 규정에 따라 책임감 있게 신고할 수 있도록 해당 콘텐츠가 파트너에게 신고됩니다. YouTube는 업계와 NGO의 파트너에게 CSAI 매치를 제공합니다. 파트너는 디지털 지문 생성 소프트웨어와 API를 이용하여 알려진 학대성 콘텐츠의 Google 데이터베이스와 일치하는 콘텐츠를 찾을 수 있습니다.

온라인 플랫폼은 CSAI 매치를 사용하여 세계 최고 규모의 알려진 아동 성적 학대 이미지 콘텐츠의 인덱스와 사이트의 콘텐츠를 대조하는 방법으로 위법 콘텐츠가 사이트에서 표시 및 공유되는 것을 막을 수 있습니다. 파트너는 CSAI 매치를 자체 시스템에 간편하게 통합하여 까다로운 콘텐츠 관리를 규모에 맞게 구축할 수 있습니다.

아동 안전 툴킷 신청 양식

Google의 툴킷을 사용하는 데 관심이 있으신가요?

신청하려면 조직에 관한 몇 가지 세부정보를 입력해 주세요.

신청 양식 보기

파트너사 추천의 글

자주 묻는 질문

콘텐츠 안전 API

콘텐츠 안전 API는 동영상에 적용할 수 있나요?

콘텐츠 안전 API는 이미지용으로 고안되었지만, YouTube의 CSAI 매치를 통해 조직이 디지털 지문 소프트웨어 및 API를 이용하여 기존에 알려진 학대 동영상 콘텐츠의 데이터베이스와 일치하는지 확인할 수 있습니다. 자세히 알아보기

이러한 기술 및 콘텐츠 안전 API 이용을 신청할 수 있는 대상은 누구인가요?

학대 콘텐츠로부터 플랫폼을 보호하려는 산업 및 시민사회의 제3자 기관은 신청 후 콘텐츠 안전 API를 이용할 수 있습니다. 신청 후 승인 절차를 거쳐야 합니다.

이러한 도구를 널리 보급하는 이유는 무엇인가요?

Google은 다른 기술회사 및 NGO와의 협업이 온라인 아동 착취를 막는 최선의 방법이라고 생각합니다. 따라서 업계 전반의 관계자 및 NGO와 함께 새로운 데이터 기반의 도구 개발 지원, 기술 역량 강화 및 인식 제고를 위해 오랫동안 힘써 왔습니다. Google은 파트너가 AI를 통해 많은 콘텐츠를 더욱 효과적으로 검토하도록 이러한 도구를 널리 보급하는 것이 온라인 아동 학대를 근절하는 데 있어 중요하다고 믿습니다.

CSAI 매치

CSAI 매치는 이미지에 적용할 수 있나요?

CSAI 매치는 동영상용으로 고안되었지만, Google의 콘텐츠 안전 API를 통해 업계 및 NGO 파트너는 도구 모음을 사용하여 머신러닝 기반의 이미지 분류 기능을 활용할 수 있습니다. 자세히 알아보기

일치하는 콘텐츠가 발견될 경우 어떤 정보가 반환되나요?

동영상의 어떤 부분이 알려진 아동 성적 학대 이미지와 일치하며, 콘텐츠 유형의 표준화된 분류는 무엇인지 알려 줍니다.

CSAI 매치 기술이 효율적인 이유는 무엇인가요?

CSAI 매치는 알려진 아동 성적 학대 이미지 콘텐츠와 거의 일치하는 세그먼트를 감지합니다. 여기에는 MD5 해시 매칭으로 찾을 수 있는 완전 일치 세그먼트뿐만 아니라 재인코딩, 난독화, 자르기, 크기 조절을 거쳐 거의 일치하는 아동 성적 학대 이미지 동영상도 포함됩니다. 동영상이 아동 성적 학대 이미지의 작은 일부분만 포함하고 관련 없는 콘텐츠와 혼합되어 있더라도 감지할 수 있습니다. 파트너는 디지털 지문 바이너리를 실행하여 MD5 해시와 비슷한 바이트 시퀀스인 동영상의 '디지털 지문'을 생성합니다. 디지털 지문은 Google의 CSAI 매치 서비스로 전송됩니다. CSAI 매치는 YouTube의 알려진 아동 성적 학대 이미지 참조 코퍼스를 기준으로 동영상을 효율적으로 검색하도록 설계되었습니다.