Temukan toolkit keselamatan anak yang kami tawarkan
Di Google dan YouTube, kami telah mengembangkan berbagai alat untuk membantu beragam organisasi melindungi anak-anak dengan mengutamakan peninjauan untuk konten yang mengandung pelecehan.
Toolkit ini menawarkan dua API utama, yaitu Content Safety API dan CSAI Match, yang kami tawarkan tanpa biaya kepada partner yang memenuhi syarat. Partner kami menggunakan teknologi ini untuk memproses miliaran file, sehingga memungkinkan mereka setiap tahunnya mengevaluasi jutaan gambar dan video yang mengandung tindakan pelecehan.
Prioritas peninjauan yang lebih baik
API kami membantu melawan tindakan eksploitasi anak secara online dengan memprioritaskan peninjauan manual untuk konten yang melanggar.
Identifikasi yang lebih cepat
Mengidentifikasi konten pelecehan dengan lebih cepat berarti mempercepat proses identifikasi korban dan melindunginya dari tindakan pelecehan lebih lanjut.
Operasi yang lebih aman
Dengan antrean peninjauan yang lebih efisien dan lancar, beban moderator konten manual juga semakin ringan.
Pelajari lebih lanjut berbagai alat kami
Alat kami memiliki kemampuan yang saling melengkapi. Alat-alat tersebut dapat digunakan bersama-sama dengan solusi lainnya untuk memenuhi berbagai kebutuhan.
CONTENT SAFETY API
Mengklasifikasikan gambar dan video yang sebelumnya tidak terlihat
CSAI MATCH
Mencocokkan segmen video pelecehan yang diketahui
CONTENT SAFETY API
Mengklasifikasikan gambar dan video yang sebelumnya tidak terlihat
Content Safety API DIGUNAKAN UNTUK: MENGKLASIFIKASIKAN GAMBAR DAN VIDEO YANG SEBELUMNYA TIDAK TERLIHAT
Pengklasifikasi Content Safety API menggunakan akses terprogram dan kecerdasan buatan guna membantu partner kami mengklasifikasikan dan memprioritaskan miliaran gambar dan video untuk peninjauan. Makin tinggi prioritas yang diberikan oleh pengklasifikasi, makin besar kemungkinan file media berisi materi yang mengandung pelecehan. Hal ini dapat membantu partner memprioritaskan peninjauan manual dan mengambil tindakan pada konten. Content Safety API mengeluarkan rekomendasi prioritas pada konten yang dikirimkan. Partner harus melakukan peninjauan mereka sendiri untuk menentukan apakah mereka perlu melakukan tindakan pada konten atau tidak.
Untuk tujuan operasional, sebaiknya organisasi menggunakan Content Safety API tepat sebelum proses peninjauan manual untuk mengklasifikasikan, memprioritaskan, dan membantu mengatur antrean mereka. Content Safety API dapat digunakan secara bersamaan dengan solusi lainnya, seperti alat pencirian video CSAI Match YouTube, atau PhotoDNA Microsoft, dengan masing-masing alat tersebut digunakan untuk memenuhi kebutuhan yang berbeda.
Bagaimana cara kerjanya?
1. Pengambilan file
File diambil oleh partner dalam berbagai bentuk, misalnya gambar yang dilaporkan oleh pengguna, atau diidentifikasi oleh crawler atau filter yang dibuat partner untuk memoderasi konten pada platform mereka.
2. Peninjauan API
FIle media kemudian dikirimkan ke Content Safety API melalui panggilan API sederhana. Pengklasifikasi akan memproses gambar untuk menentukan prioritas peninjauan, lalu nilai prioritas untuk setiap konten akan dikirimkan kembali kepada partner.
3. Peninjauan manual
Partner menggunakan nilai prioritas untuk memprioritaskan file yang perlu diperhatikan terlebih dahulu untuk peninjauan manual.
4. Ambil tindakan
Setelah file gambar dan video ditinjau secara manual, partner kemudian dapat mengambil tindakan pada konten sesuai dengan hukum dan peraturan setempat.
PARTNER
GOOGLE
PARTNER
PARTNER
Pengguna melaporkan gambar atau video
Crawler
Pra-filter (porno/pengklasifikasi lainnya)
I
Content Safety API
I
Teknologi pengklasifikasi
I
Peninjauan manual
I
Mengambil tindakan yang sesuai
CSAI MATCH
Mencocokkan segmen video pelecehan yang diketahui
CSAI Match DIGUNAKAN UNTUK: MENCOCOKKAN SEGMEN VIDEO PELECEHAN YANG DIKETAHUI
CSAI Match adalah teknologi eksklusif YouTube untuk memberantas video CSAI (Gambar Pelecehan Seksual Terhadap Anak-Anak) secara online. Teknologi ini merupakan teknologi pertama yang menggunakan pencocokan hash untuk mengidentifikasi konten yang telah diketahui melanggar, dan memungkinkan kami mengidentifikasi konten semacam ini di antara banyaknya konten video yang tidak melakukan pelanggaran. Jika ditemukan kecocokan konten yang melakukan pelanggaran, konten tersebut akan dilaporkan kepada partner agar ditinjau, dikonfirmasi, dan dilaporkan secara bertanggung jawab sesuai dengan hukum dan peraturan setempat. YouTube menyediakan CSAI Match bagi partner di industri dan LSM. Kami memberikan akses ke software pelacakan sidik jari dan API untuk mengidentifikasi kecocokan dengan konten pelecehan yang diketahui dalam database kami.
Dengan CSAI Match, berbagai platform online dapat mencegah konten yang berisi pelecehan ditampilkan dan dibagikan di situs mereka. Alat tersebut dapat mereka gunakan untuk membandingkan kontennya dengan salah satu indeks terbesar dari konten CSAI yang diketahui. Partner dapat mengintegrasikan CSAI Match dengan mudah ke dalam sistem mereka, sehingga mereka dapat mengatasi tantangan mengelola konten dalam skala besar dengan lebih baik.
Bagaimana cara kerjanya?
1. Pelacakan sidik jari video
Video diupload ke platform partner. CSAI Match Pelacak Sidik Jari, yang berjalan di platform partner, akan membuat file Sidik Jari dari video, yaitu tanda pengenal digital yang merepresentasikan konten dari file video.
2. Peninjauan API
Partner mengirimkan file Fingerprint melalui CSAI Match API agar dibandingkan dengan file lain dalam repositori Sidik Jari konten YouTube. Repositori berisi Sidik Jari konten pelecehan yang diketahui serta telah dideteksi oleh YouTube dan Google.
3. Peninjauan manual
Hasil pencocokan positif dan negatif dikembalikan kepada partner setelah panggilan ke API selesai. Berdasarkan informasi pencocokan, partner akan meninjau video secara manual untuk memverifikasi apakah konten merupakan CSAI atau tidak.
4. Ambil tindakan
Setelah gambar ditinjau, partner dapat mengambil tindakan pada konten sesuai hukum dan peraturan setempat.
“Solusi pencocokan hash Google telah merevolusi alur kerja kami serta memberikan hasil yang lebih baik dan cepat. Berkat kontribusi Google yang signifikan pada National Center for Missing & Exploited Children, proses pencocokan otomatis mengurangi kebutuhan peninjauan manual dari CSAM yang sudah dilaporkan sebelumnya, sehingga meminimalkan paparan konten terhadap staf kami. Gambar semacam ini harus dihapus secepat mungkin karena setiap kali foto anak-anak yang mengalami pelecehan dibagikan ulang, mereka kembali menjadi korban. Hal ini juga membantu kami untuk berfokus pada korban dan penyintas, baik yang baru maupun yang tidak diketahui.” - National Center for Missing & Exploited Children
“Menerapkan Content Safety API Google telah memberikan manfaat besar bagi platform kami, yang menghosting ratusan juta dokumen yang diupload pengguna. API ini secara efektif memindai gambar dalam jumlah besar untuk mendeteksi konten yang berpotensi mengandung materi yang menyinggung. Hal ini membantu menciptakan lingkungan digital yang lebih aman bagi seluruh pengguna kami. Keakuratan dan throughput-nya yang tinggi memungkinkan kami berfokus pada upaya peninjauan, intervensi, dan pemberian dukungan.” - Scribd, Inc.
“Alat Penjaga Keselamatan Anak dari Google telah membantu memvalidasi bahwa protokol keamanan yang kami terapkan bekerja sebagaimana mestinya dan kami dapat terus menekan jumlah materi pelecehan seksual terhadap anak-anak di platform Nextdoor ke tingkat yang sangat rendah.” - Nextdoor
“Seiring dengan upaya Substack untuk terus mengembangkan kapabilitas video di platformnya, menjaga keamanan komunitas kami—khususnya melindungi anak di bawah umur—tetap menjadi prioritas utama dalam aspek Kepercayaan dan Keamanan. Pemanfaatan teknologi canggih untuk mendeteksi gambar pelecehan seksual terhadap anak-anak (CSAI) telah menjadi elemen penting dalam mengatasi tantangan keamanan yang sangat mendesak ini. Berbagai alat dari Google memungkinkan kami mengidentifikasi dan menghapus konten berbahaya dengan cepat dan akurat sehingga memastikan platform kami tetap menjadi ruang yang aman bagi kreator dan audiens.” - Substack
“CSAI Match tetap menjadi salah satu pilar penting dalam program keselamatan anak Adobe. Pemanfaatan teknologi ini telah terbukti menjadi cara efektif untuk mendeteksi video pelecehan seksual terhadap anak-anak secara lebih efisien dalam skala besar.” - Adobe
“Memberantas materi pelecehan seksual terhadap anak-anak berbasis video yang terus meningkat menghadirkan tantangan baru dan memerlukan penerapan teknologi baru. CSAI Match telah terbukti menjadi bagian dari solusinya, yang dapat kami gunakan untuk mendeteksi dan menghapus video CSAM dari platform kami dengan lebih baik.” - Yahoo!
“Content Safety API membantu analis memprioritaskan identifikasi terhadap gambar yang berisi konten pelecehan seksual terhadap anak-anak di bawah umur. Dengan volume laporan yang terus meningkat, keberhasilan untuk memprioritaskan laporan tersebut menimbulkan tantangan yang besar. Dengan teknologi ini, para analis dapat melihat laporan yang menyertakan konten berisi pelecehan seksual terhadap anak-anak di bawah umur dengan lebih cepat. Dengan begitu, mereka dapat bertindak lebih cepat untuk melindungi korban dan menghapus konten.” - Point de Contact
“Content Safety API mudah diintegrasikan, cepat dalam memberikan respons, stabil, dan akurat. Berkat kemampuan tersebut, API ini telah secara signifikan memangkas jumlah waktu yang diperlukan oleh para analis konten untuk meninjau gambar CSAM, mengoptimalkan proses analisis, dan memberikan dampak positif pada kesehatan mental mereka.” - Safernet Brasil
1
/
FAQ
Content Safety API
Apa format data yang dikirim ke Content Safety API?
Teknologi kami ini dapat berfungsi dengan byte konten yang belum diproses dan embeddings dari file media. Hubungi kami untuk mengetahui detail selengkapnya.
Siapa yang dapat mendaftar untuk mengakses teknologi ini dan Content Safety API?
Pihak ketiga industri dan masyarakat sipil yang ingin melindungi platform mereka dari materi pelecehan dapat mendaftar untuk mengakses Content Safety API. Permohonan harus mendapatkan persetujuan.
Mengapa Google menjadikan fitur ini tersedia secara luas?
Kami yakin bahwa kolaborasi dengan LSM dan perusahaan teknologi lain merupakan pendekatan terbaik untuk menangani eksploitasi anak-anak di ruang online. Kami telah lama bekerja di industri dan bekerja sama dengan LSM untuk mendukung pengembangan fitur berbasis data yang baru, meningkatkan kapasitas teknis, dan meningkatkan kesadaran. Kami percaya bahwa menyediakan alat ini secara luas merupakan bagian penting dari upaya ini. Dengan begitu, partner kami dapat menggunakan AI untuk meninjau konten dengan lebih baik.
CSAI Match
Apakah CSAI Match dapat digunakan untuk gambar?
CSAI Match didesain untuk video, tetapi melalui Content Safety API Google, ada sekumpulan alat yang tersedia untuk partner LSM dan industri. Alat ini menawarkan klasifikasi gambar dengan teknologi machine learning. Pelajari lebih lanjut.
Informasi apa yang ditampilkan dengan hasil kecocokan yang diidentifikasi?
Pencocokan akan mengidentifikasi bagian video mana yang cocok dengan CSAI yang telah terdeteksi, serta kecocokannya dengan kategori standardisasi jenis konten.
Apa yang membuat teknologi CSAI Match sangat efisien?
CSAI Match mendeteksi segmen video yang bersifat hampir duplikat dari konten CSAI yang diketahui. Hal ini termasuk segmen duplikat sepenuhnya yang didapatkan oleh pencocokan hash MD5, serta segmen hampir duplikat yang mungkin merupakan hasil encoding ulang, obfuscation, pemotongan, atau penskalaan dari video CSAI, bahkan jika video hanya berisi sebagian kecil CSAI yang mungkin dikombinasikan dengan konten non-CSAI. Partner menjalankan program biner pelacakan sidik jari untuk menghasilkan “sidik jari” video, yakni urutan byte yang mirip dengan hash MD5. Sidik jari ini akan dikirimkan ke layanan CSAI Match Google, yang didesain khusus untuk melakukan pemindaian video terhadap korpus referensi CSAI yang diketahui dari YouTube secara efisien.
