Prioritas peninjauan yang lebih baik

Prioritas peninjauan yang lebih baik


API kami membantu melawan tindakan eksploitasi anak secara online dengan memprioritaskan peninjauan manual untuk konten yang melanggar.

Identifikasi yang cepat

Identifikasi yang lebih cepat


Mengidentifikasi konten pelecehan dengan lebih cepat berarti mempercepat proses identifikasi korban dan melindunginya dari tindakan pelecehan lebih lanjut.

Operasi yang lebih aman

Operasi yang lebih aman


Dengan antrean peninjauan yang lebih efisien dan lancar, beban moderator konten manual juga semakin ringan.

Pelajari lebih lanjut berbagai alat kami

Alat kami memiliki kemampuan yang saling melengkapi. Alat-alat tersebut dapat digunakan bersama-sama dengan solusi lainnya untuk memenuhi berbagai kebutuhan.

Content Safety API

Content Safety API

Mengklasifikasikan gambar dan video yang sebelumnya tidak terlihat

CSAI Match

CSAI Match

Mencocokkan segmen video pelecehan yang diketahui

Content Safety API

Digunakan untuk: Mengklasifikasikan gambar dan video yang sebelumnya tidak terlihat


Pengklasifikasi Content Safety API menggunakan akses terprogram dan kecerdasan buatan guna membantu partner kami mengklasifikasikan dan memprioritaskan miliaran gambar dan video untuk peninjauan. Makin tinggi prioritas yang diberikan oleh pengklasifikasi, makin besar kemungkinan file media berisi materi yang mengandung pelecehan. Hal ini dapat membantu partner memprioritaskan peninjauan manual dan mengambil tindakan pada konten. Content Safety API mengeluarkan rekomendasi prioritas pada konten yang dikirimkan. Partner harus melakukan peninjauan mereka sendiri untuk menentukan apakah mereka perlu melakukan tindakan pada konten atau tidak.

Untuk tujuan operasional, sebaiknya organisasi menggunakan Content Safety API tepat sebelum proses peninjauan manual untuk mengklasifikasikan, memprioritaskan, dan membantu mengatur antrean mereka. Content Safety API dapat digunakan secara bersamaan dengan solusi lainnya, seperti alat pencirian video CSAI Match YouTube, atau PhotoDNA Microsoft, dengan masing-masing alat tersebut digunakan untuk memenuhi kebutuhan yang berbeda.

Bagaimana cara kerjanya?

Pengambilan gambar

1. Pengambilan file

File diambil oleh partner dalam berbagai bentuk, misalnya gambar yang dilaporkan oleh pengguna, atau diidentifikasi oleh crawler atau filter yang dibuat partner untuk memoderasi konten pada platform mereka.

Partner

Pengguna melaporkan gambar atau video

Crawler

Pra-filter

(porno/pengklasifikasi lainnya)

Peninjauan API

2. Peninjauan API

FIle media kemudian dikirimkan ke Content Safety API melalui panggilan API sederhana. Pengklasifikasi akan memproses gambar untuk menentukan prioritas peninjauan, lalu nilai prioritas untuk setiap konten akan dikirimkan kembali kepada partner.

Google

Content Safety API

Teknologi pengklasifikasi

Peninjauan manual

3. Peninjauan manual

Partner menggunakan nilai prioritas untuk memprioritaskan file yang perlu diperhatikan terlebih dahulu untuk peninjauan manual.

Partner

Peninjauan manual

Ambil tindakan

4. Ambil tindakan

Setelah file gambar dan video ditinjau secara manual, partner kemudian dapat mengambil tindakan pada konten sesuai dengan hukum dan peraturan setempat.

Partner

Mengambil tindakan yang sesuai

CSAI Match

Digunakan untuk: Mencocokkan segmen video pelecehan yang diketahui


CSAI Match adalah teknologi eksklusif YouTube untuk memberantas video CSAI (Gambar Pelecehan Seksual Terhadap Anak-Anak) secara online. Teknologi ini merupakan teknologi pertama yang menggunakan pencocokan hash untuk mengidentifikasi konten yang telah diketahui melanggar, dan memungkinkan kami mengidentifikasi konten semacam ini di antara banyaknya konten video yang tidak melakukan pelanggaran. Jika ditemukan kecocokan konten yang melakukan pelanggaran, konten tersebut akan dilaporkan kepada partner agar ditinjau, dikonfirmasi, dan dilaporkan secara bertanggung jawab sesuai dengan hukum dan peraturan setempat. YouTube menyediakan CSAI Match bagi partner di industri dan LSM. Kami memberikan akses ke software pelacakan sidik jari dan API untuk mengidentifikasi kecocokan dengan konten pelecehan yang diketahui dalam database kami.

Dengan CSAI Match, berbagai platform online dapat mencegah konten yang berisi pelecehan ditampilkan dan dibagikan di situs mereka. Alat tersebut dapat mereka gunakan untuk membandingkan kontennya dengan salah satu indeks terbesar dari konten CSAI yang diketahui. Partner dapat mengintegrasikan CSAI Match dengan mudah ke dalam sistem mereka, sehingga mereka dapat mengatasi tantangan mengelola konten dalam skala besar dengan lebih baik.

Bagaimana cara kerjanya?

Pelacakan sidik jari video

1. Pelacakan sidik jari video

Video diupload ke platform partner. CSAI Match Pelacak Sidik Jari, yang berjalan di platform partner, akan membuat file Sidik Jari dari video, yaitu tanda pengenal digital yang merepresentasikan konten dari file video.

Partner

File video

Pelacak sidik jari

File pelacak sidik jari

Peninjauan API

2. Peninjauan API

Partner mengirimkan file Fingerprint melalui CSAI Match API agar dibandingkan dengan file lain dalam repositori Sidik Jari konten YouTube. Repositori berisi Sidik Jari konten pelecehan yang diketahui serta telah dideteksi oleh YouTube dan Google.

YouTube

CSAI Match API

Teknologi CSAI Match

CSAI yang dibagikan

Repositori pelacak sidik jari

Peninjauan manual

3. Peninjauan manual

Hasil pencocokan positif dan negatif dikembalikan kepada partner setelah panggilan ke API selesai. Berdasarkan informasi pencocokan, partner akan meninjau video secara manual untuk memverifikasi apakah konten merupakan CSAI atau tidak.

Partner

Peninjauan manual

Ambil tindakan

4. Ambil tindakan

Setelah gambar ditinjau, partner dapat mengambil tindakan pada konten sesuai hukum dan peraturan setempat.

Partner

Mengambil tindakan yang sesuai

Content Safety API

Digunakan untuk: Mengklasifikasikan gambar dan video yang sebelumnya tidak terlihat

Pengklasifikasi Content Safety API menggunakan akses terprogram dan kecerdasan buatan guna membantu partner kami mengklasifikasikan dan memprioritaskan miliaran gambar dan video untuk peninjauan. Makin tinggi prioritas yang diberikan oleh pengklasifikasi, makin besar kemungkinan file media berisi materi yang mengandung pelecehan. Hal ini dapat membantu partner memprioritaskan peninjauan manual dan mengambil tindakan pada konten. Content Safety API mengeluarkan rekomendasi prioritas pada konten yang dikirimkan. Partner harus melakukan peninjauan mereka sendiri untuk menentukan apakah mereka perlu melakukan tindakan pada konten atau tidak.

Untuk tujuan operasional, sebaiknya organisasi menggunakan Content Safety API tepat sebelum proses peninjauan manual untuk mengklasifikasikan, memprioritaskan, dan membantu mengatur antrean mereka. Content Safety API dapat digunakan secara bersamaan dengan solusi lainnya, seperti alat pencirian video CSAI Match YouTube, atau PhotoDNA Microsoft, dengan masing-masing alat tersebut digunakan untuk memenuhi kebutuhan yang berbeda.

CSAI Match

Digunakan untuk: Mencocokkan segmen video pelecehan yang diketahui

CSAI Match adalah teknologi eksklusif YouTube untuk memberantas video CSAI (Gambar Pelecehan Seksual Terhadap Anak-Anak) secara online. Teknologi ini merupakan teknologi pertama yang menggunakan pencocokan hash untuk mengidentifikasi konten yang telah diketahui melanggar, dan memungkinkan kami mengidentifikasi konten semacam ini di antara banyaknya konten video yang tidak melakukan pelanggaran. Jika ditemukan kecocokan konten yang melakukan pelanggaran, konten tersebut akan dilaporkan kepada partner agar ditinjau, dikonfirmasi, dan dilaporkan secara bertanggung jawab sesuai dengan hukum dan peraturan setempat. YouTube menyediakan CSAI Match bagi partner di industri dan LSM. Kami memberikan akses ke software pelacakan sidik jari dan API untuk mengidentifikasi kecocokan dengan konten pelecehan yang diketahui dalam database kami.

Dengan CSAI Match, berbagai platform online dapat mencegah konten yang berisi pelecehan ditampilkan dan dibagikan di situs mereka. Alat tersebut dapat mereka gunakan untuk membandingkan kontennya dengan salah satu indeks terbesar dari konten CSAI yang diketahui. Partner dapat mengintegrasikan CSAI Match dengan mudah ke dalam sistem mereka, sehingga mereka dapat mengatasi tantangan mengelola konten dalam skala besar dengan lebih baik.

Formulir minat terkait toolkit keselamatan anak

Tertarik menggunakan toolkit kami?

Bagikan sejumlah informasi tentang organisasi Anda untuk menunjukkan minat Anda

Lihat formulir minat

Testimonial

FAQ

Content Safety API

Apa format data yang dikirim ke Content Safety API?

Teknologi kami ini dapat berfungsi dengan byte konten yang belum diproses dan embeddings dari file media. Hubungi kami untuk mengetahui detail selengkapnya.

Siapa yang dapat mendaftar untuk mengakses teknologi ini dan Content Safety API?

Pihak ketiga industri dan masyarakat sipil yang ingin melindungi platform mereka dari materi pelecehan dapat mendaftar untuk mengakses Content Safety API. Permohonan harus mendapatkan persetujuan.

Mengapa Google menjadikan fitur ini tersedia secara luas?

Kami yakin bahwa kolaborasi dengan LSM dan perusahaan teknologi lain merupakan pendekatan terbaik untuk menangani eksploitasi anak-anak di ruang online. Kami telah lama bekerja di industri dan bekerja sama dengan LSM untuk mendukung pengembangan fitur berbasis data yang baru, meningkatkan kapasitas teknis, dan meningkatkan kesadaran. Kami percaya bahwa menyediakan alat ini secara luas merupakan bagian penting dari upaya ini. Dengan begitu, partner kami dapat menggunakan AI untuk meninjau konten dengan lebih baik.

CSAI Match

Apakah CSAI Match dapat digunakan untuk gambar?

CSAI Match didesain untuk video, tetapi melalui Content Safety API Google, ada sekumpulan alat yang tersedia untuk partner LSM dan industri. Alat ini menawarkan klasifikasi gambar dengan teknologi machine learning. Pelajari lebih lanjut.

Informasi apa yang ditampilkan dengan hasil kecocokan yang diidentifikasi?

Pencocokan akan mengidentifikasi bagian video mana yang cocok dengan CSAI yang telah terdeteksi, serta kecocokannya dengan kategori standardisasi jenis konten.

Apa yang membuat teknologi CSAI Match sangat efisien?

CSAI Match mendeteksi segmen video yang bersifat hampir duplikat dari konten CSAI yang diketahui. Hal ini termasuk segmen duplikat sepenuhnya yang didapatkan oleh pencocokan hash MD5, serta segmen hampir duplikat yang mungkin merupakan hasil encoding ulang, obfuscation, pemotongan, atau penskalaan dari video CSAI, bahkan jika video hanya berisi sebagian kecil CSAI yang mungkin dikombinasikan dengan konten non-CSAI. Partner menjalankan program biner pelacakan sidik jari untuk menghasilkan “sidik jari” video, yakni urutan byte yang mirip dengan hash MD5. Sidik jari ini akan dikirimkan ke layanan CSAI Match Google, yang didesain khusus untuk melakukan pemindaian video terhadap korpus referensi CSAI yang diketahui dari YouTube secara efisien.