Mas mahusay na pagsasapriyoridad

Mas mahusay na pagsasapriyoridad


Tumutulong ang mga API na labanan ang pananamantala sa bata online sa pamamagitan ng pagsasapriyoridad ng mapang-abusong content para sa pagsusuri ng tao.

Mabilis na pagtukoy

Mas mabilis na pagtukoy


Kapag mas mabilis na natutukoy ang content, pinapataas nito ang posibilidad na matukoy at maprotektahan laban sa higit pang pang-aabuso ang mga biktima.

Mga mas ligtas na pagpapatakbo

Mga mas ligtas na pagpapatakbo


Kapag mas mabisa ang mga queue ng pagsusuri at mas kaunti ang hindi kinakailangang impormasyon sa mga ito, mababawasan din ang hirap ng mga taong moderator ng content.

Alamin ang tungkol sa aming mga tool

May mga magkakatugmang kakayahan ang mga tool namin. Magagamit ang mga ito nang magkakasama, at kasama ang iba pang solusyon, para matugunan ang iba't ibang pangangailangan.

Content Safety API

Content Safety API

Pag-uuri ng mga larawan at video na hindi pa nakikita dati

CSAI Match

CSAI Match

Pagtutugma sa mga kilalang mapang-abusong segment ng video

Content Safety API

Ginagamit sa: Pag-uuri ng mga larawan at video na hindi pa nakikita dati


Gumagamit ang classifier ng Content Safety API ng programmatic na pag-access at artificial intelligence para matulungan ang aming mga partner na uriin at bigyan ng value ng priyoridad ang bilyon-bilyong larawan at video para sa pagsusuri. Kapag mas mataas ang ibinigay na priyoridad ng classifier, mas mataas ang posibilidad na naglalaman ng mapang-abusong materyal ang media file, na makakatulong sa mga partner sa pagsasapriyoridad ng kanilang pagsusuri ng tao at paggawa ng sarili nilang pagpapasya sa content. Nagbibigay ang Content Safety API ng rekomendasyon sa pagsasapriyoridad sa content na ipinapadala rito. Dapat gumawa ang mga partner ng sarili nilang pagsusuri para alamin kung dapat ba nilang aksyunan ang content.

Pagdating sa pagpapatakbo, inirerekomenda namin sa mga organisasyon na gamitin ang Content Safety API bago mismo ang proseso ng manual na pagsusuri, para mag-uri, magbigay ng value ng priyoridad, at matulungan silang ayusin ang kanilang queue. Magagamit ang Content Safety API kasabay ng iba pang solusyon, gaya ng tool sa pag-hash ng video ng YouTube na CSAI Match, o PhotoDNA ng Microsoft, na tumutugon sa magkakaibang pangangailangan.

Paano ito gumagana?

Pagkuha ng larawan

1. Pagkuha ng file

Kinukuha ng partner ang mga file sa maraming anyo, halimbawa, iniulat ng user, o tinukoy ng mga crawler o filter na ginawa ng partner para i-moderate ang content sa kanilang platform.

Kasosyo

Mga larawan o video na iniulat ng user

Mga Crawler

Mga Pre-filter

(porn/iba pang classifier)

Pagsusuri ng API

2. Pagsusuri ng API

Pagkatapos ay ipinapadala ang mga media file sa Content Safety API sa pamamagitan ng simpleng pag-call sa API. Pinapadaan ang mga ito sa mga classifier para tukuyin ang priyoridad sa pagsusuri, at ipinapadala sa partner ang value ng priyoridad para sa bawat isa sa mga content.

Google

Content Safety API

Teknolohiya ng classifier

Manual na pagsusuri

3. Manual na pagsusuri

Ginagamit ng mga partner ang value ng priyoridad para unahin ang mga file na dapat maunang mabigyan ng atensyon para sa mga manual na pagsusuri.

Kasosyo

Manual na pagsusuri

Umaksyon

4. Umaksyon

Kapag manual nang nasuri ang mga file ng larawan at video, puwede nang aksyunan ng partner ang content alinsunod sa mga lokal na batas at regulasyon.

Kasosyo

Umaksyon nang nararapat

CSAI Match

Ginagamit sa: Pagtutugma sa mga kilalang mapang-abusong segment ng video


Ang CSAI Match ay ang pinagmamay-ariang teknolohiya ng YouTube para sa paglaban sa mga video ng CSAI (Child Sexual Abuse Imagery o Koleksyon ng Imahe ng Pang-aabusong Sekswal sa Kabataan) online. Ito ang teknolohiyang unang gumamit ng hash-matching para tumukoy ng kilalang lumalabag na content at nagbibigay-daan ito sa amin na tukuyin ang ganitong uri ng lumalabag na content sa gitna ng maraming hindi lumalabag na video na content. Kapag may nakitang tumutugma sa lumalabag na content, ifa-flag ito sa mga partner para suriin, kumpirmahin, at responsable itong iulat alinsunod sa mga lokal na batas at regulasyon. Ginagawang available ng YouTube ang CSAI Match sa mga partner sa industriya at NGO. Nagbibigay kami ng access sa software sa pag-fingerprint at sa API na tumutukoy sa mga tugma sa aming database ng kilalang mapang-abusong content.

Mapipigilan ng mga online platform ang pagpapakita at pagbabahagi ng lumalabag na content sa kanilang mga site sa pamamagitan ng paggamit ng CSAI Match para ikumpara ang kanilang content sa isa sa mga pinakamalaking index ng kilalang CSAI na content. Simple para sa mga partner na isama ang CSAI Match sa kanilang system, na nagbibigay-daan sa kanila na mas mahusay na i-scale ang mahirap na pamamahala ng content.

Paano ito gumagana?

Pag-fingerprint ng video

1. Pag-fingerprint ng video

May ia-upload na video sa platform ng partner. Ang CSAI Match Fingerprinter, na pinapatakbo sa platform ng partner, ay gagawa ng Fingerprint file ng video, isang digital ID na natatanging kumakatawan sa content ng video file.

Kasosyo

Video file

Fingerprinter

Fingerprinter file

Pagsusuri ng API

2. Pagsusuri ng API

Ipinapadala ng partner ang Fingerprint file sa pamamagitan ng CSAI Match API para maikumpara ito sa iba pang file sa repository ng Fingerprint ng YouTube. Naglalaman ang repository ng Mga Fingerprint ng mga kilalang mapang-abusong content na natukoy ng YouTube at Google.

YouTube

CSAI Match API

Teknolohiya ng CSAI Match

Nakabahaging CSAI

Repository ng fingerprinter

Manual na pagsusuri

3. Manual na pagsusuri

Nagbibigay ng positibo o negatibong tugma pabalik sa partner kapag natapos ang pag-call sa API. Batay sa impormasyon ng patutugma, manual na sinusuri ng partner ang video para i-verify na CSAI ito.

Kasosyo

Manual na pagsusuri

Umaksyon

4. Umaksyon

Kapag nasuri na ang mga larawan, puwede nang aksyunan ng partner ang content alinsunod sa mga lokal na batas at regulasyon.

Kasosyo

Umaksyon nang nararapat

Content Safety API

Ginagamit sa: Pag-uuri ng mga larawan at video na hindi pa nakikita dati

Gumagamit ang classifier ng Content Safety API ng programmatic na pag-access at artificial intelligence para matulungan ang aming mga partner na uriin at bigyan ng value ng priyoridad ang bilyon-bilyong larawan at video para sa pagsusuri. Kapag mas mataas ang ibinigay na priyoridad ng classifier, mas mataas ang posibilidad na naglalaman ng mapang-abusong materyal ang media file, na makakatulong sa mga partner sa pagsasapriyoridad ng kanilang pagsusuri ng tao at paggawa ng sarili nilang pagpapasya sa content. Nagbibigay ang Content Safety API ng rekomendasyon sa pagsasapriyoridad sa content na ipinapadala rito. Dapat gumawa ang mga partner ng sarili nilang pagsusuri para alamin kung dapat ba nilang aksyunan ang content.

Pagdating sa pagpapatakbo, inirerekomenda namin sa mga organisasyon na gamitin ang Content Safety API bago mismo ang proseso ng manual na pagsusuri, para mag-uri, magbigay ng value ng priyoridad, at matulungan silang ayusin ang kanilang queue. Magagamit ang Content Safety API kasabay ng iba pang solusyon, gaya ng tool sa pag-hash ng video ng YouTube na CSAI Match, o PhotoDNA ng Microsoft, na tumutugon sa magkakaibang pangangailangan.

CSAI Match

Ginagamit sa: Pagtutugma sa mga kilalang mapang-abusong segment ng video

Ang CSAI Match ay ang pinagmamay-ariang teknolohiya ng YouTube para sa paglaban sa mga video ng CSAI (Child Sexual Abuse Imagery o Koleksyon ng Imahe ng Pang-aabusong Sekswal sa Kabataan) online. Ito ang teknolohiyang unang gumamit ng hash-matching para tumukoy ng kilalang lumalabag na content at nagbibigay-daan ito sa amin na tukuyin ang ganitong uri ng lumalabag na content sa gitna ng maraming hindi lumalabag na video na content. Kapag may nakitang tumutugma sa lumalabag na content, ifa-flag ito sa mga partner para suriin, kumpirmahin, at responsable itong iulat alinsunod sa mga lokal na batas at regulasyon. Ginagawang available ng YouTube ang CSAI Match sa mga partner sa industriya at NGO. Nagbibigay kami ng access sa software sa pag-fingerprint at sa API na tumutukoy sa mga tugma sa aming database ng kilalang mapang-abusong content.

Mapipigilan ng mga online platform ang pagpapakita at pagbabahagi ng lumalabag na content sa kanilang mga site sa pamamagitan ng paggamit ng CSAI Match para ikumpara ang kanilang content sa isa sa mga pinakamalaking index ng kilalang CSAI na content. Simple para sa mga partner na isama ang CSAI Match sa kanilang system, na nagbibigay-daan sa kanila na mas mahusay na i-scale ang mahirap na pamamahala ng content.

Form ng interes sa toolkit para sa kaligtasan ng bata

Interesado ka bang gamitin ang aming toolkit?

Magbahagi ng ilang detalye tungkol sa iyong organisasyon para iparehistro ang interes mo

Tingnan ang form ng interes

Mga Testimonial

Mga FAQ

Content Safety API

Ano ang format ng data na ipinadala sa Content Safety API?

May mga opsyon kami para suportahan ang parehong bytes ng raw content at mga embedding na nakuha mula sa mga media file. Makipag-ugnayan para sa higit pang detalye.

Sino ang puwedeng mag-sign up para ma-access ang teknolohiya at Content Safety API?

Puwedeng mag-sign up ang mga third party sa industriya at lipunang sibil na gustong protektahan ang kanilang platform laban sa pang-aabuso para ma-access ang Content Safety API. Napapailalim sa pag-apruba ang mga application.

Bakit ninyo ginagawang available sa marami ang mga tool na ito?

Naniniwala kaming ang pinakamahusay na diskarte sa pagtugon sa pananamantala sa bata online ay ang pakikipag-collaborate sa iba pang kumpanya ng teknolohiya at NGO. Matagal na kaming nakikipagtulungan sa industriya at mga NGO para suportahan ang pagbuo ng mga bagong tool na batay sa data, i-boost ang teknikal na kakayahan, at magbigay ng kaalaman. Naniniwala kaming malaking bahagi ng labang ito ang paggawang available sa marami ang mga tool na ito para magamit ng aming mga partner ang AI para mas mahusay na masuri ang content nang malawakan.

CSAI Match

Gumagana ba ang CSAI Match para sa mga larawan?

Idinisenyo ang CSAI Match para sa video, pero sa pamamagitan ng Content Safety API ng Google, may koleksyon ng mga tool na available sa industriya at mga partner na NGO, at nag-aalok ito ng klasipikasyon para sa mga larawan na pinapagana ng machine learning. Matuto pa.

Anong impormasyon ang ibinabalik nang may natukoy na tugma?

Tutukuyin ng pagtutugma ang bahagi ng video na tumutugma sa kilalang CSAI, pati na rin ang standardized na pagkakategorya ng uri ng content na itinugma.

Bakit napakabisa ng teknolohiya ng CSAI Match?

Tinutukoy ng CSAI Match ang mga segment na malapit na duplicate ng kilalang CSAI na content. Kasama rito ang mga ganap na duplicate na makukuha ng MD5 hash matching, pati na rin ang mga malapit na duplicate na posibleng mga re-encoding, obfuscation, mga pagputol, o pag-scale ng mga video ng CSAI – kahit na naglalaman lang ang video ng maliit na bahagi ng CSAI na posibleng nakahalo sa content na hindi CSAI. Nagpapatakbo ang mga partner ng binary sa pag-fingerprint para gumawa ng “fingerprint” ng video, na isang byte sequence na katulad ng MD5 hash. Pagkatapos ay ipinapadala ito sa serbisyo sa CSAI Match ng Google, na partikular na idinisenyo para maging mahusay kapag nagsa-scan ng video sa corpus ng mga kilalang reference ng CSAI ng YouTube.