Prioritas peninjauan yang lebih baik

Prioritas peninjauan yang lebih baik


API kami membantu melawan tindakan eksploitasi anak secara online dengan memprioritaskan peninjauan manual untuk konten yang melanggar.

Identifikasi yang cepat

Identifikasi yang lebih cepat


Mengidentifikasi konten pelecehan dengan lebih cepat berarti mempercepat proses identifikasi korban dan melindunginya dari tindakan pelecehan lebih lanjut.

Operasi yang lebih aman

Operasi yang lebih aman


Dengan antrean peninjauan yang lebih efisien dan lancar, beban moderator konten manual juga semakin ringan.

Pelajari alat kami

Alat kami memiliki kemampuan yang saling melengkapi. Alat-alat tersebut dapat digunakan bersama-sama dengan solusi lainnya untuk memenuhi berbagai kebutuhan.

Content Safety API

Content Safety API

Mengklasifikasi gambar yang sebelumnya tidak terlihat

CSAI Match

CSAI Match

Mencocokkan segmen video pelanggaran yang diketahui

Content Safety API

Digunakan untuk: Mengklasifikasi gambar yang sebelumnya tidak terlihat


Pengklasifikasi Content Safety API menggunakan akses terprogram dan kecerdasan buatan guna membantu partner kami mengklasifikasi dan memprioritaskan miliaran gambar untuk peninjauan. Semakin tinggi prioritas yang diberikan oleh pengklasifikasi, semakin besar kemungkinan gambar berisi materi yang mengandung pelecehan. Hal ini dapat membantu partner memprioritaskan peninjauan manual dan mengambil tindakan pada konten. Content Safety API mengeluarkan rekomendasi prioritas pada konten yang dikirimkan. Partner harus melakukan peninjauan mereka sendiri untuk menentukan apakah mereka perlu melakukan tindakan pada konten atau tidak.

Untuk tujuan operasional, sebaiknya organisasi menggunakan Content Safety API tepat sebelum proses peninjauan manual untuk mengklasifikasi, memprioritaskan, dan membantu mengatur antrean mereka. Content Safety API dapat digunakan secara bersamaan dengan solusi lainnya, seperti alat pencirian video CSAI Match YouTube, atau PhotoDNA Microsoft, dengan masing-masing alat tersebut digunakan untuk memenuhi kebutuhan yang berbeda.

Bagaimana cara kerjanya?

Pengambilan gambar

1. Pengambilan gambar

Gambar diambil oleh partner dalam berbagai bentuk, misalnya gambar yang dilaporkan oleh pengguna, atau diidentifikasi oleh crawler atau filter yang dibuat partner untuk memoderasi gambar pada platform mereka.

Partner

Gambar yang dilaporkan pengguna

Crawler

Pra-filter

(porno/pengklasifikasi lainnya)

Peninjauan API

2. Peninjauan API

FIle gambar kemudian dikirimkan ke Content Safety API melalui panggilan API sederhana. Pengklasifikasi akan memproses gambar untuk menentukan prioritas peninjauan, lalu nilai prioritas untuk setiap gambar akan dikirimkan kembali kepada partner.

Google

Content Safety API

Teknologi pengklasifikasi

Peninjauan manual

3. Peninjauan manual

Partner menggunakan nilai prioritas untuk memprioritaskan gambar yang perlu diperhatikan terlebih dahulu dalam peninjauan manual.

Partner

Peninjauan manual

Ambil tindakan

4. Ambil tindakan

Setelah gambar ditinjau secara manual, partner kemudian dapat mengambil tindakan pada konten sesuai dengan hukum dan peraturan setempat.

Partner

Mengambil tindakan yang sesuai

CSAI Match

Digunakan untuk: Mencocokan segmen video pelanggaran yang diketahui


CSAI Match adalah teknologi eksklusif YouTube untuk memberantas video CSAI (Gambar Pelecehan Seksual Terhadap Anak-Anak) secara online. Teknologi ini merupakan teknologi pertama yang menggunakan pencocokan hash untuk mengidentifikasi konten yang telah diketahui melanggar, dan memungkinkan kami mengidentifikasi konten semacam ini di antara banyaknya konten video yang tidak melakukan pelanggaran. Jika ditemukan kecocokan konten yang melakukan pelanggaran, konten tersebut akan dilaporkan kepada partner agar ditinjau, dikonfirmasi, dan dilaporkan secara bertanggung jawab sesuai dengan hukum dan peraturan setempat. YouTube menyediakan CSAI Match bagi partner di industri dan LSM. Kami memberikan akses ke software pelacakan sidik jari dan API untuk mengidentifikasi kecocokan dengan database konten pelecehan yang diketahui milik kami.

Dengan CSAI Match, berbagai platform online dapat mencegah konten yang berisi pelecehan ditampilkan dan dibagikan di situs mereka. Alat tersebut dapat mereka gunakan untuk membandingkan kontennya dengan salah satu indeks terbesar dari konten CSAI yang diketahui. Partner dapat mengintegrasikan CSAI Match dengan mudah ke dalam sistem mereka, sehingga mereka dapat mengatasi tantangan mengelola konten dalam skala besar dengan lebih baik.

Bagaimana cara kerjanya?

Pelacakan sidik jari video

1. Pelacakan sidik jari video

Video diupload ke platform partner. CSAI Match Pelacak Sidik Jari, yang berjalan di platform partner, akan membuat file Sidik Jari dari video, yakni ID digital yang merepresentasikan konten dari file video.

Partner

File video

Pelacak sidik jari

File pelacak sidik jari

Peninjauan API

2. Peninjauan API

Partner mengirimkan file Fingerprint melalui CSAI Match API agar dibandingkan dengan file lain dalam repositori Sidik Jari konten YouTube. Repositori berisi Sidik Jari konten yang diketahui melanggar serta telah dideteksi oleh YouTube dan Google.

YouTube

CSAI Match API

Teknologi CSAI Match

CSAI yang dibagikan

Repositori pelacak sidik jari

Peninjauan manual

3. Peninjauan manual

Hasil pencocokan positif dan negatif dikembalikan kepada partner setelah panggilan ke API selesai. Berdasarkan informasi pencocokan, partner akan meninjau video secara manual untuk memverifikasi apakah konten merupakan CSAI atau tidak.

Partner

Peninjauan manual

Ambil tindakan

4. Ambil tindakan

Setelah gambar ditinjau, partner dapat mengambil tindakan pada konten sesuai hukum dan peraturan setempat.

Partner

Mengambil tindakan yang sesuai

Content Safety API

Digunakan untuk: Mengklasifikasi gambar yang sebelumnya tidak terlihat

Pengklasifikasi Content Safety API menggunakan akses terprogram dan kecerdasan buatan guna membantu partner kami mengklasifikasi dan memprioritaskan miliaran gambar untuk peninjauan. Semakin tinggi prioritas yang diberikan oleh pengklasifikasi, semakin besar kemungkinan gambar berisi materi yang mengandung pelecehan. Hal ini dapat membantu partner memprioritaskan peninjauan manual dan mengambil tindakan pada konten. Content Safety API mengeluarkan rekomendasi prioritas pada konten yang dikirimkan. Partner harus melakukan peninjauan mereka sendiri untuk menentukan apakah mereka perlu melakukan tindakan pada konten atau tidak.

Untuk tujuan operasional, sebaiknya organisasi menggunakan Content Safety API tepat sebelum proses peninjauan manual untuk mengklasifikasi, memprioritaskan, dan membantu mengatur antrean mereka. Content Safety API dapat digunakan secara bersamaan dengan solusi lainnya, seperti alat pencirian video CSAI Match YouTube, atau PhotoDNA Microsoft, dengan masing-masing alat tersebut digunakan untuk memenuhi kebutuhan yang berbeda.

CSAI Match

Digunakan untuk: Mencocokan segmen video pelanggaran yang diketahui

CSAI Match adalah teknologi eksklusif YouTube untuk memberantas video CSAI (Gambar Pelecehan Seksual Terhadap Anak-Anak) secara online. Teknologi ini merupakan teknologi pertama yang menggunakan pencocokan hash untuk mengidentifikasi konten yang telah diketahui melanggar, dan memungkinkan kami mengidentifikasi konten semacam ini di antara banyaknya konten video yang tidak melakukan pelanggaran. Jika ditemukan kecocokan konten yang melakukan pelanggaran, konten tersebut akan dilaporkan kepada partner agar ditinjau, dikonfirmasi, dan dilaporkan secara bertanggung jawab sesuai dengan hukum dan peraturan setempat. YouTube menyediakan CSAI Match bagi partner di industri dan LSM. Kami memberikan akses ke software pelacakan sidik jari dan API untuk mengidentifikasi kecocokan dengan database konten pelecehan yang diketahui milik kami.

Dengan CSAI Match, berbagai platform online dapat mencegah konten yang berisi pelecehan ditampilkan dan dibagikan di situs mereka. Alat tersebut dapat mereka gunakan untuk membandingkan kontennya dengan salah satu indeks terbesar dari konten CSAI yang diketahui. Partner dapat mengintegrasikan CSAI Match dengan mudah ke dalam sistem mereka, sehingga mereka dapat mengatasi tantangan mengelola konten dalam skala besar dengan lebih baik.

Formulir minat terkait alat keselamatan anak

Tertarik menggunakan toolkit kami?

Bagikan informasi tentang organisasi Anda untuk menyampaikan minat Anda

Cek formulir

Testimoni

FAQ

Content Safety API

Apakah Content Safety API dapat digunakan untuk video?

Content Safety API didesain untuk gambar, tetapi melalui CSAI Match YouTube, organisasi dapat mengakses software pelacakan sidik jari dan API untuk mengidentifikasi kecocokan dengan database konten video pelecehan yang telah terdeteksi milik kami. Pelajari lebih lanjut.

Siapa yang dapat mendaftar untuk mengakses teknologi ini dan Content Safety API?

Pihak ketiga industri dan masyarakat sipil yang ingin melindungi platform mereka dari materi pelecehan dapat mendaftar untuk mengakses Content Safety API. Permohonan harus mendapatkan persetujuan.

Mengapa Google menjadikan fitur ini tersedia secara luas?

Kami yakin bahwa kolaborasi dengan LSM dan perusahaan teknologi lain merupakan pendekatan terbaik untuk menangani eksploitasi anak-anak di ruang online. Kami telah lama bekerja di industri dan bekerja sama dengan LSM untuk mendukung pengembangan fitur berbasis data yang baru, meningkatkan kapasitas teknis, dan meningkatkan kesadaran. Kami percaya bahwa menyediakan alat ini secara luas merupakan bagian penting dari upaya ini. Dengan begitu, partner kami dapat menggunakan AI untuk meninjau konten dengan lebih baik.

CSAI Match

Apakah CSAI Match dapat digunakan untuk gambar?

CSAI Match didesain untuk video, tetapi melalui Content Safety API Google, ada sekumpulan alat yang tersedia untuk partner LSM dan industri. Alat ini menawarkan klasifikasi gambar dengan teknologi machine learning. Pelajari lebih lanjut.

Informasi apa yang ditampilkan dengan hasil kecocokan yang diidentifikasi?

Pencocokan akan mengidentifikasi bagian video mana yang cocok dengan CSAI yang telah terdeteksi, serta kecocokannya dengan kategori standardisasi jenis konten.

Apa yang membuat teknologi CSAI Match sangat efisien?

CSAI Match mampu mendeteksi segmen video yang bersifat hampir-duplikat dari konten CSAI yang telah diketahui. Hal ini termasuk segmen duplikat sepenuhnya yang didapatkan dari pencocokan hash MD5, serta segmen hampir-duplikat yang mungkin merupakan hasil encoding ulang, obfuscation, pemotongan, atau penskalaan dari video CSAI, bahkan jika video hanya berisi sebagian kecil konten CSAI yang mungkin dikombinasikan dengan konten non-CSAI. Partner menjalankan program biner pelacakan sidik jari untuk menghasilkan “sidik jari” video, yakni urutan-byte yang mirip dengan hash MD5. Sidik jari ini akan dikirimkan ke layanan CSAI Match Google, yang dirancang khusus untuk efisiensi saat memindai video terhadap korpus referensi konten CSAI YouTube yang telah diketahui.