Sa Google at YouTube, bumuo kami ng mga tool para makatulong sa mga organisasyon na protektahan ang mga bata sa pamamagitan ng mas mahusay na pagsasapriyoridad sa mapang-abusong content para sa pagsusuri.
Pangunahin sa toolkit na ito ang dalawang API, ang Content Safety API at CSAI Match, na iniaalok namin nang libre sa mga kwalipikadong partner. Ginagamit ng aming mga partner ang mga teknolohiyang ito para iproseso ang bilyon-bilyong file, na nagbibigay-daan sa kanilang suriin ang milyon-milyong larawan at video para sa mapang-abusong gawi bawat taon.
Mas mahusay na pagsasapriyoridad
Tumutulong ang mga API na labanan ang pananamantala sa bata online sa pamamagitan ng pagsasapriyoridad ng mapang-abusong content para sa pagsusuri ng tao.
Mas mabilis na pagtukoy
Kapag mas mabilis na natutukoy ang content, pinapataas nito ang posibilidad na matukoy at maprotektahan laban sa higit pang pang-aabuso ang mga biktima.
Mga mas ligtas na pagpapatakbo
Kapag mas mabisa ang mga queue ng pagsusuri at mas kaunti ang hindi kinakailangang impormasyon sa mga ito, mababawasan din ang hirap ng mga taong moderator ng content.
Alamin ang tungkol sa aming mga tool
May mga magkakatugmang kakayahan ang mga tool namin. Magagamit ang mga ito nang magkakasama, at kasama ang iba pang solusyon, para matugunan ang iba't ibang pangangailangan.
Content Safety API
Pag-uuri ng mga larawan at video na hindi pa nakikita dati
CSAI MATCH
Pagtutugma sa mga kilalang mapang-abusong segment ng video
Content Safety API
Pag-uuri ng mga larawan at video na hindi pa nakikita dati
Content Safety API GINAGAMIT SA: PAG-UURI NG MGA LARAWAN AT VIDEO NA HINDI PA NAKIKITA DATI
Gumagamit ang classifier ng Content Safety API ng programmatic na pag-access at artificial intelligence para matulungan ang aming mga partner na uriin at bigyan ng value ng priyoridad ang bilyon-bilyong larawan at video para sa pagsusuri. Kapag mas mataas ang ibinigay na priyoridad ng classifier, mas mataas ang posibilidad na naglalaman ng mapang-abusong materyal ang media file, na makakatulong sa mga partner sa pagsasapriyoridad ng kanilang pagsusuri ng tao at paggawa ng sarili nilang pagpapasya sa content. Nagbibigay ang Content Safety API ng rekomendasyon sa pagsasapriyoridad sa content na ipinapadala rito. Dapat gumawa ang mga partner ng sarili nilang pagsusuri para alamin kung dapat ba nilang aksyunan ang content.
Pagdating sa pagpapatakbo, inirerekomenda namin sa mga organisasyon na gamitin ang Content Safety API bago mismo ang proseso ng manual na pagsusuri, para mag-uri, magbigay ng value ng priyoridad, at matulungan silang ayusin ang kanilang queue. Magagamit ang Content Safety API kasabay ng iba pang solusyon, gaya ng tool sa pag-hash ng video ng YouTube na CSAI Match, o PhotoDNA ng Microsoft, na tumutugon sa magkakaibang pangangailangan.
Paano ito gumagana?
1. Pagkuha ng file
Kinukuha ng partner ang mga file sa maraming anyo, halimbawa, iniulat ng user, o tinukoy ng mga crawler o filter na ginawa ng partner para i-moderate ang content sa kanilang platform.
2. Pagsusuri ng API
Pagkatapos ay ipinapadala ang mga media file sa Content Safety API sa pamamagitan ng simpleng pag-call sa API. Pinapadaan ang mga ito sa mga classifier para tukuyin ang priyoridad sa pagsusuri, at ipinapadala sa partner ang value ng priyoridad para sa bawat isa sa mga content.
3. Manual na pagsusuri
Ginagamit ng mga partner ang value ng priyoridad para unahin ang mga file na dapat maunang mabigyan ng atensyon para sa mga manual na pagsusuri.
4. Umaksyon
Kapag manual nang nasuri ang mga file ng larawan at video, puwede nang aksyunan ng partner ang content alinsunod sa mga lokal na batas at regulasyon.
KASOSYO
GOOGLE
KASOSYO
KASOSYO
Mga larawan o video na iniulat ng user
Mga Crawler
Mga Pre-filter(porn/iba pang classifier)
I
Content Safety API
I
Teknolohiya ng classifier
I
Manual na pagsusuri
I
Umaksyon nang nararapat
CSAI MATCH
Pagtutugma sa mga kilalang mapang-abusong segment ng video
CSAI Match GINAGAMIT SA: PAGTUTUGMA SA MGA KILALANG MAPANG-ABUSONG SEGMENT NG VIDEO
Ang CSAI Match ay ang pinagmamay-ariang teknolohiya ng YouTube para sa paglaban sa mga video ng CSAI (Child Sexual Abuse Imagery o Koleksyon ng Imahe ng Pang-aabusong Sekswal sa Kabataan) online. Ito ang teknolohiyang unang gumamit ng hash-matching para tumukoy ng kilalang lumalabag na content at nagbibigay-daan ito sa amin na tukuyin ang ganitong uri ng lumalabag na content sa gitna ng maraming hindi lumalabag na video na content. Kapag may nakitang tumutugma sa lumalabag na content, ifa-flag ito sa mga partner para suriin, kumpirmahin, at responsable itong iulat alinsunod sa mga lokal na batas at regulasyon. Ginagawang available ng YouTube ang CSAI Match sa mga partner sa industriya at NGO. Nagbibigay kami ng access sa software sa pag-fingerprint at sa API na tumutukoy sa mga tugma sa aming database ng kilalang mapang-abusong content.
Mapipigilan ng mga online platform ang pagpapakita at pagbabahagi ng lumalabag na content sa kanilang mga site sa pamamagitan ng paggamit ng CSAI Match para ikumpara ang kanilang content sa isa sa mga pinakamalaking index ng kilalang CSAI na content. Simple para sa mga partner na isama ang CSAI Match sa kanilang system, na nagbibigay-daan sa kanila na mas mahusay na i-scale ang mahirap na pamamahala ng content.
Paano ito gumagana?
1. Pag-fingerprint ng video
May ia-upload na video sa platform ng partner. Ang CSAI Match Fingerprinter, na pinapatakbo sa platform ng partner, ay gagawa ng Fingerprint file ng video, isang digital ID na natatanging kumakatawan sa content ng video file.
2. Pagsusuri ng API
Ipinapadala ng partner ang Fingerprint file sa pamamagitan ng CSAI Match API para maikumpara ito sa iba pang file sa repository ng Fingerprint ng YouTube. Naglalaman ang repository ng Mga Fingerprint ng mga kilalang mapang-abusong content na natukoy ng YouTube at Google.
3. Manual na pagsusuri
Nagbibigay ng positibo o negatibong tugma pabalik sa partner kapag natapos ang pag-call sa API. Batay sa impormasyon ng patutugma, manual na sinusuri ng partner ang video para i-verify na CSAI ito.
4. Umaksyon
Kapag nasuri na ang mga larawan, puwede nang aksyunan ng partner ang content alinsunod sa mga lokal na batas at regulasyon.
“Lubos na binago ng hash matching na solusyon ng Google ang aming mga workflow at humantong ito sa mas mahuhusay at mas mabibilis na resulta. Dahil sa malaking kontribusyon ng Google sa National Center for Missing & Exploited Children, nabawasan ng mga naka-automate na proseso ang pangangailangan para sa pagsusuri ng tao ng dati nang naiulat na CSAM, na nakakabawas sa pagkakalantad ng aming mga tauhan. Mahalagang maalis ang mga larawang ito sa pinakamabilis na paraang posible dahil sa tuwing muling ibinabahagi ang larawan ng isang bata, muli na naman silang nagiging biktima. Nagbibigay-daan din ito sa amin na maituon ang aming trabaho sa mga bago at hindi pa kilalang batang biktima at survivor.” - National Center for Missing & Exploited Children
“Ang pagpapatupad ng Content Safety API ng Google ay isang malaking panalo para sa aming platform, na nagho-host ng ilang daang milyong dokumentong na-upload ng user. Mahusay na nagsa-scan ang API ng napakaraming larawan para tingnan kung may potensyal na nakakapanakit na materyal, na nakakatulong sa pagtiyak ng isang ligtas na digital na mundo para sa aming mga user. Nagbibigay-daan sa amin ang mataas na throughput at katumpakan nito na tumuon sa pagsusuri, interbensyon, at suporta.” - Scribd, Inc.
“Sa pamamagitan ng mga tool ng Google sa Kaligtasan ng Bata, nagawa naming i-validate na gumagana ang mga ginagamit naming sukatan ng kaligtasan, at patuloy kaming nakakakita ng mga pinakamababa sa record na isang digit na insidente ng materyal na nagpapakita ng sekswal na pang-aabuso sa bata sa Nextdoor.” - Nextdoor
“Habang patuloy na pinapalawak ng Substack ang mga kakayahan nito sa video, nangungunang priyoridad pa rin namin sa Tiwala at Kaligtasan ang pagtiyak sa kaligtasan ng aming komunidad, lalo na ang pagprotekta sa mga menor de edad. Ang paggamit sa mga advanced na teknolohiya sa pag-detect ng Koleksyon ng Imahe ng Pang-aabusong Sekswal sa Kabataan (Child Sexual Abuse Imagery o CSAI) ay naging malaking bahagi ng pagtugon sa mga kritikal na hamon sa kaligtasan. Nagbibigay-daan sa amin ang mga tool ng Google na alamin at alisin ang mapaminsalang content sa mabilis at tumpak na paraan, na nagtitiyak na nananatiling ligtas na lugar ang aming platform para sa mga creator at audience.” - Substack
“Ang CSAI Match ay isa pa ring mahalagang haligi ng programa ng Adobe para sa kaligtasan ng bata. Ang paggamit sa teknolohiyang ito ay nagpapatunay na isa itong epektibong paraan para tumulong na mag-detect ng mga video ng sekswal na pang-aabuso sa bata sa mas mahusay at malawakang paraan.” - Adobe
“May dalang mga bagong hamon at nagre-require ng bagong teknolohiya ang paglaban sa pagdami ng materyal na nagpapakita ng sekswal na pang-aabuso sa bata sa video. Subok nang bahagi ng solusyon ang CSAI Match, na nagbibigay-daan sa aming mas mahusay na matukoy at maalis ang CSAM na video mula sa aming mga platform.” - Yahoo!
“Tumutulong ang Content Safety API sa mga analyst na nagsisikap sa pagtukoy ng mga larawang nagpapakita ng sekswal na pang-aabuso sa mga menor de edad sa pamamagitan ng pagsasapriyoridad. Dahil sa dumarami ang mga ulat na kailangang iproseso, tunay na hamon ang matagumpay na pagsasapriyoridad ng mga ulat na iyon para sa pagsusuri. Nagbibigay-daan ang teknolohiyang ito sa mga analyst na mas mabilis na makita ang mga ulat na may content na nagpapakita ng sekswal na pang-aabuso sa mga menor de edad, at sa gayon ay nagbibigay-daan ito sa kanilang umaksyon nang mas mabilis para protektahan ang mga biktima at alisin ang content.” - Point de Contact
“Ang Content Safety API, na madaling gamitin, mabilis tumugon, matatag, at tumpak, ay lubos na nakakabawas sa tagal ng oras na ginugugol ng mga analyst ng content na sumusuri sa mga CSAM na larawan, nakapag-optimize sa proseso ng pagsusuri, at nagkaroon ng positibong epekto sa kanilang kapakanan.” - Safernet Brasil
1
/
Mga FAQ
Content Safety API
Ano ang format ng data na ipinadala sa Content Safety API?
May mga opsyon kami para suportahan ang parehong bytes ng raw content at mga embedding na nakuha mula sa mga media file. Makipag-ugnayan para sa higit pang detalye.
Sino ang puwedeng mag-sign up para ma-access ang teknolohiya at Content Safety API?
Puwedeng mag-sign up ang mga third party sa industriya at lipunang sibil na gustong protektahan ang kanilang platform laban sa pang-aabuso para ma-access ang Content Safety API. Napapailalim sa pag-apruba ang mga application.
Bakit ninyo ginagawang available sa marami ang mga tool na ito?
Naniniwala kaming ang pinakamahusay na diskarte sa pagtugon sa pananamantala sa bata online ay ang pakikipag-collaborate sa iba pang kumpanya ng teknolohiya at NGO. Matagal na kaming nakikipagtulungan sa industriya at mga NGO para suportahan ang pagbuo ng mga bagong tool na batay sa data, i-boost ang teknikal na kakayahan, at magbigay ng kaalaman. Naniniwala kaming malaking bahagi ng labang ito ang paggawang available sa marami ang mga tool na ito para magamit ng aming mga partner ang AI para mas mahusay na masuri ang content nang malawakan.
CSAI Match
Gumagana ba ang CSAI Match para sa mga larawan?
Idinisenyo ang CSAI Match para sa video, pero sa pamamagitan ng Content Safety API ng Google, may koleksyon ng mga tool na available sa industriya at mga partner na NGO, at nag-aalok ito ng klasipikasyon para sa mga larawan na pinapagana ng machine learning. Matuto pa.
Anong impormasyon ang ibinabalik nang may natukoy na tugma?
Tutukuyin ng pagtutugma ang bahagi ng video na tumutugma sa kilalang CSAI, pati na rin ang standardized na pagkakategorya ng uri ng content na itinugma.
Bakit napakabisa ng teknolohiya ng CSAI Match?
Tinutukoy ng CSAI Match ang mga segment na malapit na duplicate ng kilalang CSAI na content. Kasama rito ang mga ganap na duplicate na makukuha ng MD5 hash matching, pati na rin ang mga malapit na duplicate na posibleng mga re-encoding, obfuscation, mga pagputol, o pag-scale ng mga video ng CSAI – kahit na naglalaman lang ang video ng maliit na bahagi ng CSAI na posibleng nakahalo sa content na hindi CSAI. Nagpapatakbo ang mga partner ng binary sa pag-fingerprint para gumawa ng “fingerprint” ng video, na isang byte sequence na katulad ng MD5 hash. Pagkatapos ay ipinapadala ito sa serbisyo sa CSAI Match ng Google, na partikular na idinisenyo para maging mahusay kapag nagsa-scan ng video sa corpus ng mga kilalang reference ng CSAI ng YouTube.
