Memberantas pelecehan seksual terhadap anak-anak secara online
Kami terus memaksimalkan upaya dalam memberantas pelecehan seksual dan eksploitasi terhadap anak-anak di ruang online, serta menggunakan teknologi kami yang telah dipatenkan, guna mencegah, mendeteksi, menghapus, dan melaporkan pelanggaran di platform kami.
Kami berpartner dengan LSM dan industri dalam sejumlah program untuk membagikan keahlian teknis kami, serta mengembangkan dan membagikan berbagai alat guna membantu beragam organisasi memberantas materi pelecehan seksual terhadap anak-anak (CSAM).
Pelajari lebih lanjut tentang toolkit keselamatan anak di sini.
Melawan pelecehan di platform dan layanan kami sendiri
Upaya apa yang kami lakukan?
-
Mencegah tindakan pelecehan
Kami bertujuan mencegah terjadinya tindakan pelecehan dengan memastikan bahwa produk kami aman digunakan oleh anak-anak. Kami juga menggunakan semua data dan penelitian yang tersedia untuk memahami ancaman yang semakin berkembang dan berbagai bentuk pelanggaran baru, seperti CSAM buatan AI. Kami mengambil tindakan tidak hanya pada CSAM yang memang ilegal, tetapi juga berbagai konten lain yang mempromosikan pelecehan seksual terhadap anak-anak dan dapat membahayakan anak-anak. -
Mendeteksi dan melaporkan
Kami mengidentifikasi dan melaporkan CSAM menggunakan tim spesialis terlatih dan teknologi canggih seperti pengklasifikasi machine learning. Selain itu, kami juga menggunakan teknologi pencocokan hash, yang menghasilkan "hash" atau sidik jari digital unik untuk gambar atau video sehingga dapat dibandingkan dengan hash dari CSAM yang telah diidentifikasi. Ketika menemukan CSAM, kami melaporkannya ke National Center for Missing and Exploited Children (NCMEC), yang bekerja sama dengan lembaga penegak hukum di seluruh dunia. -
Melakukan kolaborasi secara global
Kami berkolaborasi dengan NCMEC dan organisasi lainnya secara global dalam menjalankan upaya kami melawan pelecehan seksual terhadap anak-anak di ruang online. Sebagai bagian dari upaya ini, kami membangun kemitraan yang kuat dengan LSM dan koalisi industri untuk membantu menumbuhkan dan berkontribusi pada pemahaman bersama tentang tindak pelecehan seksual dan eksploitasi terhadap anak-anak yang terus berkembang.
Bagaimana cara kami melakukannya?
Kami menindaklanjuti konten yang mengandung materi pelecehan seksual terhadap anak-anak, pembujuk-rayuan, pemerasan seksual, dan lainnya dengan berbagai dukungan teknologi dan tenaga ahli. Anda dapat membaca deskripsi umum pendekatan kami, atau mempelajari lebih dalam informasi di bawah terkait cara beberapa produk kami menangani jenis pelanggaran ini.
-
Melawan pelecehan seksual terhadap anak-anak di Penelusuran
Google Penelusuran menjadikan informasi mudah ditemukan, tetapi kami tidak ingin Penelusuran menampilkan konten ilegal atau mengeksploitasi anak-anak secara seksual. Adalah kebijakan kami untuk memblokir hasil penelusuran yang mengarah ke gambar pelecehan seksual terhadap anak-anak atau materi yang secara seksual mengorbankan, membahayakan, atau mengeksploitasi anak-anak. Kami terus memperbarui algoritma kami untuk melawan ancaman yang semakin berkembang ini.
Kami menerapkan perlindungan ekstra untuk penelusuran yang terdeteksi tengah mencari konten CSAM. Kami memfilter hasil yang menampilkan konten seksual vulgar jika kueri penelusuran tampaknya mencari CSAM. Untuk kueri yang mencari konten dewasa vulgar, Penelusuran tidak akan menampilkan gambar yang menyertakan anak-anak, untuk memutus pengaitan antara anak-anak dan konten seksual. Di banyak negara, saat pengguna memasukkan kueri yang secara jelas terkait CSAM, akan muncul peringatan bahwa gambar pelecehan seksual terhadap anak-anak bersifat ilegal. Peringatan ini diikuti dengan informasi tentang cara melaporkan konten ini ke organisasi tepercaya seperti Internet Watch Foundation di Inggris, Canadian Centre for Child Protection di Kanada, dan Te Protejo di Kolombia. Dengan ditampilkannya peringatan ini, semakin kecil kemungkinan bagi pengguna untuk melanjutkan penelusuran materi tersebut.
Link yang relevan -
Upaya YouTube untuk melawan video dan materi eksploitatif
Kami selalu memiliki kebijakan yang jelas atas video, playlist, thumbnail, dan komentar di YouTube yang mengeksploitasi atau menjadikan anak-anak sebagai objek seksual. Kami menggunakan sistem machine learning untuk secara proaktif mendeteksi pelanggaran kebijakan ini dan memiliki peninjau manual di seluruh dunia yang akan segera menghapus konten yang mengandung materi pelecehan setelah terdeteksi oleh sistem kami atau dilaporkan oleh pengguna dan Pelapor Tepercaya.
Meskipun beberapa konten yang menampilkan anak di bawah umur mungkin tidak melanggar kebijakan, kami menyadari anak di bawah umur berisiko mengalami eksploitasi secara online maupun offline. Karena itulah kami menggunakan pendekatan ekstra hati-hati saat menegakkan kebijakan ini. Dengan bantuan sistem machine learning, kami dapat secara proaktif mengidentifikasi video yang mungkin berisiko membahayakan anak di bawah umur dan menerapkan perlindungan secara lebih luas, seperti membatasi fitur live, menonaktifkan komentar, dan membatasi rekomendasi video.
Link yang relevan -
Laporan Transparansi CSAM kami
Pada tahun 2021, kami meluncurkan Laporan Transparansi terkait upaya Google dalam melawan materi pelecehan seksual terhadap anak-anak secara online, dengan detail terkait jumlah laporan yang telah kami buat untuk NCMEC. Laporan ini juga memberikan data seputar upaya yang kami lakukan di YouTube, cara kami mendeteksi dan menghapus konten CSAM dari Penelusuran, dan jumlah akun yang dinonaktifkan di seluruh layanan kami karena pelanggaran terkait CSAM.
Laporan Transparansi tersebut juga menyertakan informasi mengenai jumlah hash CSAM yang kami bagikan ke NCMEC. Hash ini membantu platform lainnya mengidentifikasi CSAM dalam skala besar. Untuk membantu melawan CSAM, berkontribusi pada database hash NCMEC adalah salah satu cara penting yang dapat diupayakan oleh kami dan pihak lain di industri ini. Upaya ini membantu mengurangi peredaran ulang CSAM agar anak-anak yang telah mengalami pelecehan tidak menjadi korban kembali.
Link yang relevan -
Melaporkan tindakan tidak pantas di produk kami
Kami ingin melindungi anak-anak yang menggunakan produk kami dari pembujuk-rayuan, pemerasan seksual, perdagangan, dan bentuk eksploitasi seksual anak lainnya. Sebagai bagian dari upaya kami untuk membuat produk kami aman digunakan oleh anak-anak, kami memberikan informasi yang berguna untuk membantu pengguna melaporkan materi pelecehan seksual terhadap anak-anak kepada otoritas terkait.
Jika pengguna memiliki kecurigaan bahwa ada anak yang telah terancam bahaya di produk Google seperti Gmail atau Hangouts, pengguna dapat melaporkannya menggunakan formulir ini. Pengguna juga dapat melaporkan konten yang tidak pantas di YouTube dan melaporkan tindakan pelecehan di Google Meet melalui Pusat Bantuan dan di produk secara langsung. Kami juga memberikan informasi tentang cara menangani kekhawatiran terkait penindasan dan pelecehan, termasuk informasi tentang cara memblokir pengguna agar tidak dapat menghubungi anak. Untuk mengetahui informasi lebih lanjut tentang kebijakan kami terkait keselamatan anak, buka Pedoman Komunitas YouTube dan Pusat Keamanan Google.
Link yang relevan
Mengembangkan dan membagikan alat untuk melawan pelecehan seksual terhadap anak-anak
-
Content Safety API
DIGUNAKAN UNTUK MENGKLASIFIKASIKAN
KONTEN GAMBAR DAN VIDEO YANG SEBELUMNYA TIDAK TERLIHAT
Selama bertahun-tahun, Google telah mengembangkan pengklasifikasi machine learning untuk membantu kami secara proaktif mengidentifikasi materi pelecehan terhadap anak-anak (CSAM) yang terus bermunculan. Dengan begitu, konten semacam itu dapat ditinjau dan dihapus serta dilaporkan secepat mungkin jika terbukti sebagai CSAM. Teknologi ini mendukung Content Safety API, yang membantu berbagai organisasi mengklasifikasikan dan memprioritaskan tindakan peninjauan untuk konten yang berpotensi mengandung materi pelecehan. Setiap bulan, partner kami menggunakan Content Safety API untuk mengklasifikasikan miliaran gambar. Karenanya, mereka dapat mengidentifikasi konten yang bermasalah dengan lebih cepat dan akurat sehingga dapat dilaporkan ke pihak yang berwenang.
DIGUNAKAN OLEH -
CSAI Match
DIGUNAKAN UNTUK PENCOCOKAN HASH VIDEO
Pada tahun 2014, engineer YouTube mengembangkan dan menggunakan teknologi untuk memberi tag pada video CSAM yang diketahui dan menghapusnya dari layanan kami. Kami membagikan teknologi ini ke berbagai pihak melalui CSAI Match, yaitu API yang membantu mengidentifikasi konten upload ulang yang sebelumnya telah diidentifikasi sebagai materi pelecehan seksual terhadap anak-anak dalam video. CSAI Match digunakan oleh LSM dan perusahaan untuk membantu mengidentifikasi materi pelecehan berdasarkan kecocokannya dengan database kami terkait konten yang melanggar. Dengan begitu, mereka dapat menindaklanjutinya secara bertanggung jawab sesuai dengan hukum dan peraturan setempat yang berlaku.
DIGUNAKAN OLEH
Aliansi & Program
Bersama-sama, kami mendanai riset terkait keselamatan anak serta membagikan alat dan pengetahuan, seperti analisis kami mengenai laporan transparansi, deteksi dalam produk, dan proses operasional.
Berpartner dengan
-
Ad Grants melalui Google.org
Google.org menawarkan hibah bagi organisasi yang memimpin upaya perlawanan terhadap eksploitasi dan pelecehan seksual terhadap anak-anak, seperti INHOPE dan ECPAT International. Selain itu, sejak tahun 2003, Google.org telah memberikan dana sekitar $90 juta dalam bentuk anggaran iklan gratis kepada LSM dan badan amal yang menjalankan hotline pelaporan pelecehan seksual terhadap anak-anak. Dengan dana ini, diharapkan mereka dapat menjangkau korban yang paling membutuhkan bantuan.
Link yang Relevan -
Program Google Fellow
Kami mendanai beasiswa teknis di organisasi-organisasi yang mendedikasikan diri melawan pelecehan seksual terhadap anak-anak, seperti NCMEC dan Thorn. Selain itu, Google memberikan pelatihan kepada pejabat penegak hukum yang menginvestigasi kejahatan online terhadap anak-anak melalui forum seperti Crimes Against Children National Conference dan National Law Enforcement Training on Child Exploitation.
Link yang Relevan
