Prioritas peninjauan yang lebih baik
API kami membantu melawan tindakan eksploitasi anak secara online dengan memprioritaskan peninjauan manual untuk konten yang melanggar.
Identifikasi yang lebih cepat
Mengidentifikasi konten pelecehan dengan lebih cepat berarti mempercepat proses identifikasi korban dan melindunginya dari tindakan pelecehan lebih lanjut.
Operasi yang lebih aman
Dengan antrean peninjauan yang lebih efisien dan lancar, beban moderator konten manual juga semakin ringan.
Pelajari alat kami
Alat kami memiliki kemampuan yang saling melengkapi. Alat-alat tersebut dapat digunakan bersama-sama dengan solusi lainnya untuk memenuhi berbagai kebutuhan.
Content Safety API
Mengklasifikasi gambar yang sebelumnya tidak terlihat
CSAI Match
Mencocokkan segmen video pelanggaran yang diketahui
Content Safety API
Digunakan untuk: Mengklasifikasi gambar yang sebelumnya tidak terlihat
Pengklasifikasi Content Safety API menggunakan akses terprogram dan kecerdasan buatan guna membantu partner kami mengklasifikasi dan memprioritaskan miliaran gambar untuk peninjauan. Semakin tinggi prioritas yang diberikan oleh pengklasifikasi, semakin besar kemungkinan gambar berisi materi yang mengandung pelecehan. Hal ini dapat membantu partner memprioritaskan peninjauan manual dan mengambil tindakan pada konten. Content Safety API mengeluarkan rekomendasi prioritas pada konten yang dikirimkan. Partner harus melakukan peninjauan mereka sendiri untuk menentukan apakah mereka perlu melakukan tindakan pada konten atau tidak.
Untuk tujuan operasional, sebaiknya organisasi menggunakan Content Safety API tepat sebelum proses peninjauan manual untuk mengklasifikasi, memprioritaskan, dan membantu mengatur antrean mereka. Content Safety API dapat digunakan secara bersamaan dengan solusi lainnya, seperti alat pencirian video CSAI Match YouTube, atau PhotoDNA Microsoft, dengan masing-masing alat tersebut digunakan untuk memenuhi kebutuhan yang berbeda.
Bagaimana cara kerjanya?
1. Pengambilan gambar
Gambar diambil oleh partner dalam berbagai bentuk, misalnya gambar yang dilaporkan oleh pengguna, atau diidentifikasi oleh crawler atau filter yang dibuat partner untuk memoderasi gambar pada platform mereka.
Partner
Gambar yang dilaporkan pengguna
Crawler
Pra-filter
(porno/pengklasifikasi lainnya)
2. Peninjauan API
FIle gambar kemudian dikirimkan ke Content Safety API melalui panggilan API sederhana. Pengklasifikasi akan memproses gambar untuk menentukan prioritas peninjauan, lalu nilai prioritas untuk setiap gambar akan dikirimkan kembali kepada partner.
Content Safety API
Teknologi pengklasifikasi
3. Peninjauan manual
Partner menggunakan nilai prioritas untuk memprioritaskan gambar yang perlu diperhatikan terlebih dahulu dalam peninjauan manual.
Partner
Peninjauan manual
4. Ambil tindakan
Setelah gambar ditinjau secara manual, partner kemudian dapat mengambil tindakan pada konten sesuai dengan hukum dan peraturan setempat.
Partner
Mengambil tindakan yang sesuai
CSAI Match
Digunakan untuk: Mencocokan segmen video pelanggaran yang diketahui
CSAI Match adalah teknologi eksklusif YouTube untuk memberantas video CSAI (Gambar Pelecehan Seksual Terhadap Anak-Anak) secara online. Teknologi ini merupakan teknologi pertama yang menggunakan pencocokan hash untuk mengidentifikasi konten yang telah diketahui melanggar, dan memungkinkan kami mengidentifikasi konten semacam ini di antara banyaknya konten video yang tidak melakukan pelanggaran. Jika ditemukan kecocokan konten yang melakukan pelanggaran, konten tersebut akan dilaporkan kepada partner agar ditinjau, dikonfirmasi, dan dilaporkan secara bertanggung jawab sesuai dengan hukum dan peraturan setempat. YouTube menyediakan CSAI Match bagi partner di industri dan LSM. Kami memberikan akses ke software pelacakan sidik jari dan API untuk mengidentifikasi kecocokan dengan database konten pelecehan yang diketahui milik kami.
Dengan CSAI Match, berbagai platform online dapat mencegah konten yang berisi pelecehan ditampilkan dan dibagikan di situs mereka. Alat tersebut dapat mereka gunakan untuk membandingkan kontennya dengan salah satu indeks terbesar dari konten CSAI yang diketahui. Partner dapat mengintegrasikan CSAI Match dengan mudah ke dalam sistem mereka, sehingga mereka dapat mengatasi tantangan mengelola konten dalam skala besar dengan lebih baik.
Bagaimana cara kerjanya?
1. Pelacakan sidik jari video
Video diupload ke platform partner. CSAI Match Pelacak Sidik Jari, yang berjalan di platform partner, akan membuat file Sidik Jari dari video, yakni ID digital yang merepresentasikan konten dari file video.
Partner
File video
Pelacak sidik jari
File pelacak sidik jari
2. Peninjauan API
Partner mengirimkan file Fingerprint melalui CSAI Match API agar dibandingkan dengan file lain dalam repositori Sidik Jari konten YouTube. Repositori berisi Sidik Jari konten yang diketahui melanggar serta telah dideteksi oleh YouTube dan Google.
YouTube
CSAI Match API
Teknologi CSAI Match
CSAI yang dibagikan
Repositori pelacak sidik jari
3. Peninjauan manual
Hasil pencocokan positif dan negatif dikembalikan kepada partner setelah panggilan ke API selesai. Berdasarkan informasi pencocokan, partner akan meninjau video secara manual untuk memverifikasi apakah konten merupakan CSAI atau tidak.
Partner
Peninjauan manual
4. Ambil tindakan
Setelah gambar ditinjau, partner dapat mengambil tindakan pada konten sesuai hukum dan peraturan setempat.
Partner
Mengambil tindakan yang sesuai
Content Safety API
Digunakan untuk: Mengklasifikasi gambar yang sebelumnya tidak terlihat
Pengklasifikasi Content Safety API menggunakan akses terprogram dan kecerdasan buatan guna membantu partner kami mengklasifikasi dan memprioritaskan miliaran gambar untuk peninjauan. Semakin tinggi prioritas yang diberikan oleh pengklasifikasi, semakin besar kemungkinan gambar berisi materi yang mengandung pelecehan. Hal ini dapat membantu partner memprioritaskan peninjauan manual dan mengambil tindakan pada konten. Content Safety API mengeluarkan rekomendasi prioritas pada konten yang dikirimkan. Partner harus melakukan peninjauan mereka sendiri untuk menentukan apakah mereka perlu melakukan tindakan pada konten atau tidak.
Untuk tujuan operasional, sebaiknya organisasi menggunakan Content Safety API tepat sebelum proses peninjauan manual untuk mengklasifikasi, memprioritaskan, dan membantu mengatur antrean mereka. Content Safety API dapat digunakan secara bersamaan dengan solusi lainnya, seperti alat pencirian video CSAI Match YouTube, atau PhotoDNA Microsoft, dengan masing-masing alat tersebut digunakan untuk memenuhi kebutuhan yang berbeda.
Content Safety API
Digunakan untuk: Mengklasifikasi gambar yang sebelumnya tidak terlihat
Bagaimana cara kerjanya?
Partner
Gambar yang dilaporkan pengguna
Crawler
Pra-filter
(porno/pengklasifikasi lainnya)
Content Safety API
Teknologi pengklasifikasi
Partner
Peninjauan manual
Partner
Mengambil tindakan yang sesuai
Tertarik menggunakan toolkit kami?
Bagikan informasi tentang organisasi Anda untuk menyampaikan minat Anda
Cek formulirCSAI Match
Digunakan untuk: Mencocokan segmen video pelanggaran yang diketahui
CSAI Match adalah teknologi eksklusif YouTube untuk memberantas video CSAI (Gambar Pelecehan Seksual Terhadap Anak-Anak) secara online. Teknologi ini merupakan teknologi pertama yang menggunakan pencocokan hash untuk mengidentifikasi konten yang telah diketahui melanggar, dan memungkinkan kami mengidentifikasi konten semacam ini di antara banyaknya konten video yang tidak melakukan pelanggaran. Jika ditemukan kecocokan konten yang melakukan pelanggaran, konten tersebut akan dilaporkan kepada partner agar ditinjau, dikonfirmasi, dan dilaporkan secara bertanggung jawab sesuai dengan hukum dan peraturan setempat. YouTube menyediakan CSAI Match bagi partner di industri dan LSM. Kami memberikan akses ke software pelacakan sidik jari dan API untuk mengidentifikasi kecocokan dengan database konten pelecehan yang diketahui milik kami.
Dengan CSAI Match, berbagai platform online dapat mencegah konten yang berisi pelecehan ditampilkan dan dibagikan di situs mereka. Alat tersebut dapat mereka gunakan untuk membandingkan kontennya dengan salah satu indeks terbesar dari konten CSAI yang diketahui. Partner dapat mengintegrasikan CSAI Match dengan mudah ke dalam sistem mereka, sehingga mereka dapat mengatasi tantangan mengelola konten dalam skala besar dengan lebih baik.
CSAI Match
Digunakan untuk: Mencocokan segmen video pelanggaran yang diketahui
Bagaimana cara kerjanya?
Partner
File video
Pelacak sidik jari
File pelacak sidik jari
YouTube
CSAI Match API
Teknologi CSAI Match
CSAI yang dibagikan
Repositori pelacak sidik jari
Partner
Peninjauan manual
Partner
Mengambil tindakan yang sesuai
Tertarik menggunakan toolkit kami?
Bagikan informasi tentang organisasi Anda untuk menyampaikan minat Anda
Cek formulirTertarik menggunakan toolkit kami?
Bagikan informasi tentang organisasi Anda untuk menyampaikan minat Anda
Cek formulirTestimoni
FAQ
Content Safety API
Apakah Content Safety API dapat digunakan untuk video?
Content Safety API didesain untuk gambar, tetapi melalui CSAI Match YouTube, organisasi dapat mengakses software pelacakan sidik jari dan API untuk mengidentifikasi kecocokan dengan database konten video pelecehan yang telah terdeteksi milik kami. Pelajari lebih lanjut.
Siapa yang dapat mendaftar untuk mengakses teknologi ini dan Content Safety API?
Pihak ketiga industri dan masyarakat sipil yang ingin melindungi platform mereka dari materi pelecehan dapat mendaftar untuk mengakses Content Safety API. Permohonan harus mendapatkan persetujuan.
Mengapa Google menjadikan fitur ini tersedia secara luas?
Kami yakin bahwa kolaborasi dengan LSM dan perusahaan teknologi lain merupakan pendekatan terbaik untuk menangani eksploitasi anak-anak di ruang online. Kami telah lama bekerja di industri dan bekerja sama dengan LSM untuk mendukung pengembangan fitur berbasis data yang baru, meningkatkan kapasitas teknis, dan meningkatkan kesadaran. Kami percaya bahwa menyediakan alat ini secara luas merupakan bagian penting dari upaya ini. Dengan begitu, partner kami dapat menggunakan AI untuk meninjau konten dengan lebih baik.
CSAI Match
Apakah CSAI Match dapat digunakan untuk gambar?
CSAI Match didesain untuk video, tetapi melalui Content Safety API Google, ada sekumpulan alat yang tersedia untuk partner LSM dan industri. Alat ini menawarkan klasifikasi gambar dengan teknologi machine learning. Pelajari lebih lanjut.
Informasi apa yang ditampilkan dengan hasil kecocokan yang diidentifikasi?
Pencocokan akan mengidentifikasi bagian video mana yang cocok dengan CSAI yang telah terdeteksi, serta kecocokannya dengan kategori standardisasi jenis konten.
Apa yang membuat teknologi CSAI Match sangat efisien?
CSAI Match mampu mendeteksi segmen video yang bersifat hampir-duplikat dari konten CSAI yang telah diketahui. Hal ini termasuk segmen duplikat sepenuhnya yang didapatkan dari pencocokan hash MD5, serta segmen hampir-duplikat yang mungkin merupakan hasil encoding ulang, obfuscation, pemotongan, atau penskalaan dari video CSAI, bahkan jika video hanya berisi sebagian kecil konten CSAI yang mungkin dikombinasikan dengan konten non-CSAI. Partner menjalankan program biner pelacakan sidik jari untuk menghasilkan “sidik jari” video, yakni urutan-byte yang mirip dengan hash MD5. Sidik jari ini akan dikirimkan ke layanan CSAI Match Google, yang dirancang khusus untuk efisiensi saat memindai video terhadap korpus referensi konten CSAI YouTube yang telah diketahui.