Prioritas peninjauan yang lebih baik
API kami membantu melawan tindakan eksploitasi anak secara online dengan memprioritaskan peninjauan manual untuk konten yang melanggar.
Identifikasi yang lebih cepat
Mengidentifikasi konten pelecehan dengan lebih cepat berarti mempercepat proses identifikasi korban dan melindunginya dari tindakan pelecehan lebih lanjut.
Operasi yang lebih aman
Dengan antrean peninjauan yang lebih efisien dan lancar, beban moderator konten manual juga semakin ringan.
Pelajari lebih lanjut berbagai alat kami
Alat kami memiliki kemampuan yang saling melengkapi. Alat-alat tersebut dapat digunakan bersama-sama dengan solusi lainnya untuk memenuhi berbagai kebutuhan.
Content Safety API
Mengklasifikasikan gambar dan video yang sebelumnya tidak terlihat
CSAI Match
Mencocokkan segmen video pelecehan yang diketahui
Content Safety API
Digunakan untuk: Mengklasifikasikan gambar dan video yang sebelumnya tidak terlihat
Pengklasifikasi Content Safety API menggunakan akses terprogram dan kecerdasan buatan guna membantu partner kami mengklasifikasikan dan memprioritaskan miliaran gambar dan video untuk peninjauan. Makin tinggi prioritas yang diberikan oleh pengklasifikasi, makin besar kemungkinan file media berisi materi yang mengandung pelecehan. Hal ini dapat membantu partner memprioritaskan peninjauan manual dan mengambil tindakan pada konten. Content Safety API mengeluarkan rekomendasi prioritas pada konten yang dikirimkan. Partner harus melakukan peninjauan mereka sendiri untuk menentukan apakah mereka perlu melakukan tindakan pada konten atau tidak.
Untuk tujuan operasional, sebaiknya organisasi menggunakan Content Safety API tepat sebelum proses peninjauan manual untuk mengklasifikasikan, memprioritaskan, dan membantu mengatur antrean mereka. Content Safety API dapat digunakan secara bersamaan dengan solusi lainnya, seperti alat pencirian video CSAI Match YouTube, atau PhotoDNA Microsoft, dengan masing-masing alat tersebut digunakan untuk memenuhi kebutuhan yang berbeda.
Bagaimana cara kerjanya?
1. Pengambilan file
File diambil oleh partner dalam berbagai bentuk, misalnya gambar yang dilaporkan oleh pengguna, atau diidentifikasi oleh crawler atau filter yang dibuat partner untuk memoderasi konten pada platform mereka.
Partner
Pengguna melaporkan gambar atau video
Crawler
Pra-filter
(porno/pengklasifikasi lainnya)
2. Peninjauan API
FIle media kemudian dikirimkan ke Content Safety API melalui panggilan API sederhana. Pengklasifikasi akan memproses gambar untuk menentukan prioritas peninjauan, lalu nilai prioritas untuk setiap konten akan dikirimkan kembali kepada partner.
Content Safety API
Teknologi pengklasifikasi
3. Peninjauan manual
Partner menggunakan nilai prioritas untuk memprioritaskan file yang perlu diperhatikan terlebih dahulu untuk peninjauan manual.
Partner
Peninjauan manual
4. Ambil tindakan
Setelah file gambar dan video ditinjau secara manual, partner kemudian dapat mengambil tindakan pada konten sesuai dengan hukum dan peraturan setempat.
Partner
Mengambil tindakan yang sesuai
CSAI Match
Digunakan untuk: Mencocokkan segmen video pelecehan yang diketahui
CSAI Match adalah teknologi eksklusif YouTube untuk memberantas video CSAI (Gambar Pelecehan Seksual Terhadap Anak-Anak) secara online. Teknologi ini merupakan teknologi pertama yang menggunakan pencocokan hash untuk mengidentifikasi konten yang telah diketahui melanggar, dan memungkinkan kami mengidentifikasi konten semacam ini di antara banyaknya konten video yang tidak melakukan pelanggaran. Jika ditemukan kecocokan konten yang melakukan pelanggaran, konten tersebut akan dilaporkan kepada partner agar ditinjau, dikonfirmasi, dan dilaporkan secara bertanggung jawab sesuai dengan hukum dan peraturan setempat. YouTube menyediakan CSAI Match bagi partner di industri dan LSM. Kami memberikan akses ke software pelacakan sidik jari dan API untuk mengidentifikasi kecocokan dengan konten pelecehan yang diketahui dalam database kami.
Dengan CSAI Match, berbagai platform online dapat mencegah konten yang berisi pelecehan ditampilkan dan dibagikan di situs mereka. Alat tersebut dapat mereka gunakan untuk membandingkan kontennya dengan salah satu indeks terbesar dari konten CSAI yang diketahui. Partner dapat mengintegrasikan CSAI Match dengan mudah ke dalam sistem mereka, sehingga mereka dapat mengatasi tantangan mengelola konten dalam skala besar dengan lebih baik.
Bagaimana cara kerjanya?
1. Pelacakan sidik jari video
Video diupload ke platform partner. CSAI Match Pelacak Sidik Jari, yang berjalan di platform partner, akan membuat file Sidik Jari dari video, yaitu tanda pengenal digital yang merepresentasikan konten dari file video.
Partner
File video
Pelacak sidik jari
File pelacak sidik jari
2. Peninjauan API
Partner mengirimkan file Fingerprint melalui CSAI Match API agar dibandingkan dengan file lain dalam repositori Sidik Jari konten YouTube. Repositori berisi Sidik Jari konten pelecehan yang diketahui serta telah dideteksi oleh YouTube dan Google.
YouTube
CSAI Match API
Teknologi CSAI Match
CSAI yang dibagikan
Repositori pelacak sidik jari
3. Peninjauan manual
Hasil pencocokan positif dan negatif dikembalikan kepada partner setelah panggilan ke API selesai. Berdasarkan informasi pencocokan, partner akan meninjau video secara manual untuk memverifikasi apakah konten merupakan CSAI atau tidak.
Partner
Peninjauan manual
4. Ambil tindakan
Setelah gambar ditinjau, partner dapat mengambil tindakan pada konten sesuai hukum dan peraturan setempat.
Partner
Mengambil tindakan yang sesuai
Content Safety API
Digunakan untuk: Mengklasifikasikan gambar dan video yang sebelumnya tidak terlihat
Pengklasifikasi Content Safety API menggunakan akses terprogram dan kecerdasan buatan guna membantu partner kami mengklasifikasikan dan memprioritaskan miliaran gambar dan video untuk peninjauan. Makin tinggi prioritas yang diberikan oleh pengklasifikasi, makin besar kemungkinan file media berisi materi yang mengandung pelecehan. Hal ini dapat membantu partner memprioritaskan peninjauan manual dan mengambil tindakan pada konten. Content Safety API mengeluarkan rekomendasi prioritas pada konten yang dikirimkan. Partner harus melakukan peninjauan mereka sendiri untuk menentukan apakah mereka perlu melakukan tindakan pada konten atau tidak.
Untuk tujuan operasional, sebaiknya organisasi menggunakan Content Safety API tepat sebelum proses peninjauan manual untuk mengklasifikasikan, memprioritaskan, dan membantu mengatur antrean mereka. Content Safety API dapat digunakan secara bersamaan dengan solusi lainnya, seperti alat pencirian video CSAI Match YouTube, atau PhotoDNA Microsoft, dengan masing-masing alat tersebut digunakan untuk memenuhi kebutuhan yang berbeda.
Content Safety API
Digunakan untuk: Mengklasifikasikan gambar dan video yang sebelumnya tidak terlihat
Bagaimana cara kerjanya?
Partner
Pengguna melaporkan gambar atau video
Crawler
Pra-filter
(porno/pengklasifikasi lainnya)
Content Safety API
Teknologi pengklasifikasi
Partner
Peninjauan manual
Partner
Mengambil tindakan yang sesuai
Tertarik menggunakan toolkit kami?
Bagikan sejumlah informasi tentang organisasi Anda untuk menunjukkan minat Anda
Lihat formulir minatCSAI Match
Digunakan untuk: Mencocokkan segmen video pelecehan yang diketahui
CSAI Match adalah teknologi eksklusif YouTube untuk memberantas video CSAI (Gambar Pelecehan Seksual Terhadap Anak-Anak) secara online. Teknologi ini merupakan teknologi pertama yang menggunakan pencocokan hash untuk mengidentifikasi konten yang telah diketahui melanggar, dan memungkinkan kami mengidentifikasi konten semacam ini di antara banyaknya konten video yang tidak melakukan pelanggaran. Jika ditemukan kecocokan konten yang melakukan pelanggaran, konten tersebut akan dilaporkan kepada partner agar ditinjau, dikonfirmasi, dan dilaporkan secara bertanggung jawab sesuai dengan hukum dan peraturan setempat. YouTube menyediakan CSAI Match bagi partner di industri dan LSM. Kami memberikan akses ke software pelacakan sidik jari dan API untuk mengidentifikasi kecocokan dengan konten pelecehan yang diketahui dalam database kami.
Dengan CSAI Match, berbagai platform online dapat mencegah konten yang berisi pelecehan ditampilkan dan dibagikan di situs mereka. Alat tersebut dapat mereka gunakan untuk membandingkan kontennya dengan salah satu indeks terbesar dari konten CSAI yang diketahui. Partner dapat mengintegrasikan CSAI Match dengan mudah ke dalam sistem mereka, sehingga mereka dapat mengatasi tantangan mengelola konten dalam skala besar dengan lebih baik.
CSAI Match
Digunakan untuk: Mencocokkan segmen video pelecehan yang diketahui
Bagaimana cara kerjanya?
Partner
File video
Pelacak sidik jari
File pelacak sidik jari
YouTube
CSAI Match API
Teknologi CSAI Match
CSAI yang dibagikan
Repositori pelacak sidik jari
Partner
Peninjauan manual
Partner
Mengambil tindakan yang sesuai
Tertarik menggunakan toolkit kami?
Bagikan sejumlah informasi tentang organisasi Anda untuk menunjukkan minat Anda
Lihat formulir minatTertarik menggunakan toolkit kami?
Bagikan sejumlah informasi tentang organisasi Anda untuk menunjukkan minat Anda
Lihat formulir minatTestimonial
FAQ
Content Safety API
Apa format data yang dikirim ke Content Safety API?
Teknologi kami ini dapat berfungsi dengan byte konten yang belum diproses dan embeddings dari file media. Hubungi kami untuk mengetahui detail selengkapnya.
Siapa yang dapat mendaftar untuk mengakses teknologi ini dan Content Safety API?
Pihak ketiga industri dan masyarakat sipil yang ingin melindungi platform mereka dari materi pelecehan dapat mendaftar untuk mengakses Content Safety API. Permohonan harus mendapatkan persetujuan.
Mengapa Google menjadikan fitur ini tersedia secara luas?
Kami yakin bahwa kolaborasi dengan LSM dan perusahaan teknologi lain merupakan pendekatan terbaik untuk menangani eksploitasi anak-anak di ruang online. Kami telah lama bekerja di industri dan bekerja sama dengan LSM untuk mendukung pengembangan fitur berbasis data yang baru, meningkatkan kapasitas teknis, dan meningkatkan kesadaran. Kami percaya bahwa menyediakan alat ini secara luas merupakan bagian penting dari upaya ini. Dengan begitu, partner kami dapat menggunakan AI untuk meninjau konten dengan lebih baik.
CSAI Match
Apakah CSAI Match dapat digunakan untuk gambar?
CSAI Match didesain untuk video, tetapi melalui Content Safety API Google, ada sekumpulan alat yang tersedia untuk partner LSM dan industri. Alat ini menawarkan klasifikasi gambar dengan teknologi machine learning. Pelajari lebih lanjut.
Informasi apa yang ditampilkan dengan hasil kecocokan yang diidentifikasi?
Pencocokan akan mengidentifikasi bagian video mana yang cocok dengan CSAI yang telah terdeteksi, serta kecocokannya dengan kategori standardisasi jenis konten.
Apa yang membuat teknologi CSAI Match sangat efisien?
CSAI Match mendeteksi segmen video yang bersifat hampir duplikat dari konten CSAI yang diketahui. Hal ini termasuk segmen duplikat sepenuhnya yang didapatkan oleh pencocokan hash MD5, serta segmen hampir duplikat yang mungkin merupakan hasil encoding ulang, obfuscation, pemotongan, atau penskalaan dari video CSAI, bahkan jika video hanya berisi sebagian kecil CSAI yang mungkin dikombinasikan dengan konten non-CSAI. Partner menjalankan program biner pelacakan sidik jari untuk menghasilkan “sidik jari” video, yakni urutan byte yang mirip dengan hash MD5. Sidik jari ini akan dikirimkan ke layanan CSAI Match Google, yang didesain khusus untuk melakukan pemindaian video terhadap korpus referensi CSAI yang diketahui dari YouTube secara efisien.