Mas mahusay na pagsasapriyoridad
Tumutulong ang mga API na labanan ang pananamantala sa bata online sa pamamagitan ng pagsasapriyoridad ng mapang-abusong content para sa pagsusuri ng tao.
Mas mabilis na pagtukoy
Kapag mas mabilis na natutukoy ang content, pinapataas nito ang posibilidad na matukoy at maprotektahan laban sa higit pang pang-aabuso ang mga biktima.
Mga mas ligtas na pagpapatakbo
Kapag mas mabisa ang mga queue ng pagsusuri at mas kaunti ang hindi kinakailangang impormasyon sa mga ito, mababawasan din ang hirap ng mga taong moderator ng content.
Alamin ang tungkol sa aming mga tool
May mga magkakatugmang kakayahan ang mga tool namin. Magagamit ang mga ito nang magkakasama, at kasama ang iba pang solusyon, para matugunan ang iba't ibang pangangailangan.
Content Safety API
Pag-uuri ng mga larawan at video na hindi pa nakikita dati
CSAI Match
Pagtutugma sa mga kilalang mapang-abusong segment ng video
Content Safety API
Ginagamit sa: Pag-uuri ng mga larawan at video na hindi pa nakikita dati
Gumagamit ang classifier ng Content Safety API ng programmatic na pag-access at artificial intelligence para matulungan ang aming mga partner na uriin at bigyan ng value ng priyoridad ang bilyon-bilyong larawan at video para sa pagsusuri. Kapag mas mataas ang ibinigay na priyoridad ng classifier, mas mataas ang posibilidad na naglalaman ng mapang-abusong materyal ang media file, na makakatulong sa mga partner sa pagsasapriyoridad ng kanilang pagsusuri ng tao at paggawa ng sarili nilang pagpapasya sa content. Nagbibigay ang Content Safety API ng rekomendasyon sa pagsasapriyoridad sa content na ipinapadala rito. Dapat gumawa ang mga partner ng sarili nilang pagsusuri para alamin kung dapat ba nilang aksyunan ang content.
Pagdating sa pagpapatakbo, inirerekomenda namin sa mga organisasyon na gamitin ang Content Safety API bago mismo ang proseso ng manual na pagsusuri, para mag-uri, magbigay ng value ng priyoridad, at matulungan silang ayusin ang kanilang queue. Magagamit ang Content Safety API kasabay ng iba pang solusyon, gaya ng tool sa pag-hash ng video ng YouTube na CSAI Match, o PhotoDNA ng Microsoft, na tumutugon sa magkakaibang pangangailangan.
Paano ito gumagana?
1. Pagkuha ng file
Kinukuha ng partner ang mga file sa maraming anyo, halimbawa, iniulat ng user, o tinukoy ng mga crawler o filter na ginawa ng partner para i-moderate ang content sa kanilang platform.
Kasosyo
Mga larawan o video na iniulat ng user
Mga Crawler
Mga Pre-filter
(porn/iba pang classifier)
2. Pagsusuri ng API
Pagkatapos ay ipinapadala ang mga media file sa Content Safety API sa pamamagitan ng simpleng pag-call sa API. Pinapadaan ang mga ito sa mga classifier para tukuyin ang priyoridad sa pagsusuri, at ipinapadala sa partner ang value ng priyoridad para sa bawat isa sa mga content.
Content Safety API
Teknolohiya ng classifier
3. Manual na pagsusuri
Ginagamit ng mga partner ang value ng priyoridad para unahin ang mga file na dapat maunang mabigyan ng atensyon para sa mga manual na pagsusuri.
Kasosyo
Manual na pagsusuri
4. Umaksyon
Kapag manual nang nasuri ang mga file ng larawan at video, puwede nang aksyunan ng partner ang content alinsunod sa mga lokal na batas at regulasyon.
Kasosyo
Umaksyon nang nararapat
CSAI Match
Ginagamit sa: Pagtutugma sa mga kilalang mapang-abusong segment ng video
Ang CSAI Match ay ang pinagmamay-ariang teknolohiya ng YouTube para sa paglaban sa mga video ng CSAI (Child Sexual Abuse Imagery o Koleksyon ng Imahe ng Pang-aabusong Sekswal sa Kabataan) online. Ito ang teknolohiyang unang gumamit ng hash-matching para tumukoy ng kilalang lumalabag na content at nagbibigay-daan ito sa amin na tukuyin ang ganitong uri ng lumalabag na content sa gitna ng maraming hindi lumalabag na video na content. Kapag may nakitang tumutugma sa lumalabag na content, ifa-flag ito sa mga partner para suriin, kumpirmahin, at responsable itong iulat alinsunod sa mga lokal na batas at regulasyon. Ginagawang available ng YouTube ang CSAI Match sa mga partner sa industriya at NGO. Nagbibigay kami ng access sa software sa pag-fingerprint at sa API na tumutukoy sa mga tugma sa aming database ng kilalang mapang-abusong content.
Mapipigilan ng mga online platform ang pagpapakita at pagbabahagi ng lumalabag na content sa kanilang mga site sa pamamagitan ng paggamit ng CSAI Match para ikumpara ang kanilang content sa isa sa mga pinakamalaking index ng kilalang CSAI na content. Simple para sa mga partner na isama ang CSAI Match sa kanilang system, na nagbibigay-daan sa kanila na mas mahusay na i-scale ang mahirap na pamamahala ng content.
Paano ito gumagana?
1. Pag-fingerprint ng video
May ia-upload na video sa platform ng partner. Ang CSAI Match Fingerprinter, na pinapatakbo sa platform ng partner, ay gagawa ng Fingerprint file ng video, isang digital ID na natatanging kumakatawan sa content ng video file.
Kasosyo
Video file
Fingerprinter
Fingerprinter file
2. Pagsusuri ng API
Ipinapadala ng partner ang Fingerprint file sa pamamagitan ng CSAI Match API para maikumpara ito sa iba pang file sa repository ng Fingerprint ng YouTube. Naglalaman ang repository ng Mga Fingerprint ng mga kilalang mapang-abusong content na natukoy ng YouTube at Google.
YouTube
CSAI Match API
Teknolohiya ng CSAI Match
Nakabahaging CSAI
Repository ng fingerprinter
3. Manual na pagsusuri
Nagbibigay ng positibo o negatibong tugma pabalik sa partner kapag natapos ang pag-call sa API. Batay sa impormasyon ng patutugma, manual na sinusuri ng partner ang video para i-verify na CSAI ito.
Kasosyo
Manual na pagsusuri
4. Umaksyon
Kapag nasuri na ang mga larawan, puwede nang aksyunan ng partner ang content alinsunod sa mga lokal na batas at regulasyon.
Kasosyo
Umaksyon nang nararapat
Content Safety API
Ginagamit sa: Pag-uuri ng mga larawan at video na hindi pa nakikita dati
Gumagamit ang classifier ng Content Safety API ng programmatic na pag-access at artificial intelligence para matulungan ang aming mga partner na uriin at bigyan ng value ng priyoridad ang bilyon-bilyong larawan at video para sa pagsusuri. Kapag mas mataas ang ibinigay na priyoridad ng classifier, mas mataas ang posibilidad na naglalaman ng mapang-abusong materyal ang media file, na makakatulong sa mga partner sa pagsasapriyoridad ng kanilang pagsusuri ng tao at paggawa ng sarili nilang pagpapasya sa content. Nagbibigay ang Content Safety API ng rekomendasyon sa pagsasapriyoridad sa content na ipinapadala rito. Dapat gumawa ang mga partner ng sarili nilang pagsusuri para alamin kung dapat ba nilang aksyunan ang content.
Pagdating sa pagpapatakbo, inirerekomenda namin sa mga organisasyon na gamitin ang Content Safety API bago mismo ang proseso ng manual na pagsusuri, para mag-uri, magbigay ng value ng priyoridad, at matulungan silang ayusin ang kanilang queue. Magagamit ang Content Safety API kasabay ng iba pang solusyon, gaya ng tool sa pag-hash ng video ng YouTube na CSAI Match, o PhotoDNA ng Microsoft, na tumutugon sa magkakaibang pangangailangan.
Content Safety API
Ginagamit sa: Pag-uuri ng mga larawan at video na hindi pa nakikita dati
Paano ito gumagana?
Kasosyo
Mga larawan o video na iniulat ng user
Mga Crawler
Mga Pre-filter
(porn/iba pang classifier)
Content Safety API
Teknolohiya ng classifier
Kasosyo
Manual na pagsusuri
Kasosyo
Umaksyon nang nararapat
Interesado ka bang gamitin ang aming toolkit?
Magbahagi ng ilang detalye tungkol sa iyong organisasyon para iparehistro ang interes mo
Tingnan ang form ng interesCSAI Match
Ginagamit sa: Pagtutugma sa mga kilalang mapang-abusong segment ng video
Ang CSAI Match ay ang pinagmamay-ariang teknolohiya ng YouTube para sa paglaban sa mga video ng CSAI (Child Sexual Abuse Imagery o Koleksyon ng Imahe ng Pang-aabusong Sekswal sa Kabataan) online. Ito ang teknolohiyang unang gumamit ng hash-matching para tumukoy ng kilalang lumalabag na content at nagbibigay-daan ito sa amin na tukuyin ang ganitong uri ng lumalabag na content sa gitna ng maraming hindi lumalabag na video na content. Kapag may nakitang tumutugma sa lumalabag na content, ifa-flag ito sa mga partner para suriin, kumpirmahin, at responsable itong iulat alinsunod sa mga lokal na batas at regulasyon. Ginagawang available ng YouTube ang CSAI Match sa mga partner sa industriya at NGO. Nagbibigay kami ng access sa software sa pag-fingerprint at sa API na tumutukoy sa mga tugma sa aming database ng kilalang mapang-abusong content.
Mapipigilan ng mga online platform ang pagpapakita at pagbabahagi ng lumalabag na content sa kanilang mga site sa pamamagitan ng paggamit ng CSAI Match para ikumpara ang kanilang content sa isa sa mga pinakamalaking index ng kilalang CSAI na content. Simple para sa mga partner na isama ang CSAI Match sa kanilang system, na nagbibigay-daan sa kanila na mas mahusay na i-scale ang mahirap na pamamahala ng content.
CSAI Match
Ginagamit sa: Pagtutugma sa mga kilalang mapang-abusong segment ng video
Paano ito gumagana?
Kasosyo
Video file
Fingerprinter
Fingerprinter file
YouTube
CSAI Match API
Teknolohiya ng CSAI Match
Nakabahaging CSAI
Repository ng fingerprinter
Kasosyo
Manual na pagsusuri
Kasosyo
Umaksyon nang nararapat
Interesado ka bang gamitin ang aming toolkit?
Magbahagi ng ilang detalye tungkol sa iyong organisasyon para iparehistro ang interes mo
Tingnan ang form ng interesInteresado ka bang gamitin ang aming toolkit?
Magbahagi ng ilang detalye tungkol sa iyong organisasyon para iparehistro ang interes mo
Tingnan ang form ng interesMga Testimonial
Mga FAQ
Content Safety API
Ano ang format ng data na ipinadala sa Content Safety API?
May mga opsyon kami para suportahan ang parehong bytes ng raw content at mga embedding na nakuha mula sa mga media file. Makipag-ugnayan para sa higit pang detalye.
Sino ang puwedeng mag-sign up para ma-access ang teknolohiya at Content Safety API?
Puwedeng mag-sign up ang mga third party sa industriya at lipunang sibil na gustong protektahan ang kanilang platform laban sa pang-aabuso para ma-access ang Content Safety API. Napapailalim sa pag-apruba ang mga application.
Bakit ninyo ginagawang available sa marami ang mga tool na ito?
Naniniwala kaming ang pinakamahusay na diskarte sa pagtugon sa pananamantala sa bata online ay ang pakikipag-collaborate sa iba pang kumpanya ng teknolohiya at NGO. Matagal na kaming nakikipagtulungan sa industriya at mga NGO para suportahan ang pagbuo ng mga bagong tool na batay sa data, i-boost ang teknikal na kakayahan, at magbigay ng kaalaman. Naniniwala kaming malaking bahagi ng labang ito ang paggawang available sa marami ang mga tool na ito para magamit ng aming mga partner ang AI para mas mahusay na masuri ang content nang malawakan.
CSAI Match
Gumagana ba ang CSAI Match para sa mga larawan?
Idinisenyo ang CSAI Match para sa video, pero sa pamamagitan ng Content Safety API ng Google, may koleksyon ng mga tool na available sa industriya at mga partner na NGO, at nag-aalok ito ng klasipikasyon para sa mga larawan na pinapagana ng machine learning. Matuto pa.
Anong impormasyon ang ibinabalik nang may natukoy na tugma?
Tutukuyin ng pagtutugma ang bahagi ng video na tumutugma sa kilalang CSAI, pati na rin ang standardized na pagkakategorya ng uri ng content na itinugma.
Bakit napakabisa ng teknolohiya ng CSAI Match?
Tinutukoy ng CSAI Match ang mga segment na malapit na duplicate ng kilalang CSAI na content. Kasama rito ang mga ganap na duplicate na makukuha ng MD5 hash matching, pati na rin ang mga malapit na duplicate na posibleng mga re-encoding, obfuscation, mga pagputol, o pag-scale ng mga video ng CSAI – kahit na naglalaman lang ang video ng maliit na bahagi ng CSAI na posibleng nakahalo sa content na hindi CSAI. Nagpapatakbo ang mga partner ng binary sa pag-fingerprint para gumawa ng “fingerprint” ng video, na isang byte sequence na katulad ng MD5 hash. Pagkatapos ay ipinapadala ito sa serbisyo sa CSAI Match ng Google, na partikular na idinisenyo para maging mahusay kapag nagsa-scan ng video sa corpus ng mga kilalang reference ng CSAI ng YouTube.