Mas mahusay na pagsasapriyoridad

Mas mahusay na pagsasapriyoridad


Tumutulong ang mga API na labanan ang pananamantala sa bata online sa pamamagitan ng pagsasapriyoridad ng mapang-abusong content para sa pagsusuri ng tao.

Mabilis na pagtukoy

Mas mabilis na pagtukoy


Kapag mas mabilis na natutukoy ang content, pinapataas nito ang posibilidad na matukoy at maprotektahan laban sa higit pang pang-aabuso ang mga biktima.

Mga mas ligtas na pagpapatakbo

Mga mas ligtas na pagpapatakbo


Kapag mas mabisa ang mga queue ng pagsusuri at mas kaunti ang hindi kinakailangang impormasyon sa mga ito, mababawasan din ang hirap ng mga taong moderator ng content.

Matuto tungkol sa aming mga tool

May mga magkakatugmang kakayahan ang mga tool namin. Magagamit ang mga ito nang magkakasama, at kasama ang iba pang solusyon, para matugunan ang iba't ibang pangangailangan.

Content Safety API

Content Safety API

Pag-uuri ng mga dating hindi pa nakikitang larawan

CSAI Match

CSAI Match

Pagtutugma sa mga kilalang mapang-abusong segment ng video

Content Safety API

Ginagamit para sa: Pag-uuri ng mga dating hindi pa nakikitang larawan


Gumagamit ang classifier ng Content Safety API ng programmatic na pag-access at artificial intelligence para matulungan ang aming mga partner na uriin at isapriyoridad ang bilyon-bilyong larawan para sa pagsusuri. Kapag mas mataas ang ibinigay na priyoridad ng classifier, mas mataas ang posibilidad na naglalaman ng mapang-abusong materyal ang larawan, na makakatulong sa mag partner sa pagsasapriyoridad para sa kanilang pagsusuri ng tao at paggawa ng kanilang sariling pagpapasya sa content. Nagbibigay ang Content Safety API ng rekomendasyon sa pagsasapriyoridad sa content na ipinapadala rito. Dapat gawin ng mga partner ang sarili nilang pagsusuri para tukuyin kung dapat silang gumawa ng pagkilos sa content.

Pagdating sa pagpapatakbo, inirerekomenda namin sa mga organisasyon na gamitin ang Content Safety API bago mismo ang proseso ng manual na pagsusuri, para mag-uri, magsapriyoridad, at matulungan silang ayusin ang kanilang queue. Magagamit ang Content Safety API kasabay ng iba pang solusyon, gaya ng tool sa pag-hash ng video ng YoutTube na CSAI Match, o PhotoDNA ng Microsoft, na tumutugon sa magkakaibang pangangailangan.

Paano ito gumagana?

Pagkuha ng larawan

1. Pagkuha ng larawan

Kinukuha ng partner ang mga larawan sa maraming anyo, halimbawa, iniulat ng user, o tinukoy ng mga crawler o filter na ginawa ng partner para i-moderate ang mga larawan sa kanilang platform.

Partner

Mga larawang iniulat ng user

Mga Crawler

Mga Pre-filter

(porn/iba pang classifier)

Pagsusuri ng API

2. Pagsusuri ng API

Pagkatapos ay ipinapadala ang mga image file sa Content Safety API sa pamamagitan ng simpleng pag-call sa API. Pinapadaan ang mga ito sa mga classifier para tukuyin ang priyoridad sa pagsusuri, at ipinapadala sa partner ang value ng priyoridad para sa bawat isa sa mga larawan.

Google

Content Safety API

Teknolohiya ng classifier

Manual na pagsusuri

3. Manual na pagsusuri

Ginagamit ng mga partner ang value ng priyoridad para unahin ang mga larawang dapat maunang mabigyan ng atensyon para sa mga manual na pagsusuri.

Partner

Manual na pagsusuri

Gumawa ng pagkilos

4. Gumawa ng pagkilos

Kapag manual nang nasuri ang mga larawan, puwede nang kumilos ang partner sa content alinsunod sa mga lokal na batas at regulasyon.

Partner

Pagkilos ayon sa nararapat

CSAI Match

Ginagamit para sa: Pagtutugma sa mga kilalang mapang-abusong segment ng video


Ang CSAI Match ay ang pinagmamay-ariang teknolohiya ng YouTube para sa paglaban sa mga video ng CSAI (Koleksyon ng Imahe ng Pang-aabusong Sekswal sa Kabataan) online. Ito ang teknolohiyang unang gumamit ng hash-matching para tumukoy ng kilalang lumalabag na content at nagbibigay-daan ito sa amin na tukuyin ang ganitong uri ng lumalabag na content sa gitna ng maraming hindi lumalabag na content ng video. Kapag may nahanap na tumutugma sa lumalabag na content, ifa-flag ito sa mga partner para suriin, kumpirmahin, at responsable itong iulat alinsunod sa mga lokal na batas at regulasyon. Ginagawang available ng YouTube ang CSAI Match sa mga partner sa industriya at NGO. Nagbibigay kami ng access sa software sa pag-fingerprint at sa API na tumutukoy sa mga tugma sa aming database ng kilalang mapang-abusong content.

Mapipigilan ng mga online platform ang pagpapakita at pagbabahagi ng lumalabag na content sa kanilang mga site sa pamamagitan ng paggamit ng CSAI Match para ikumpara ang kanilang content sa isa sa mga pinakamalaking index ng kilalang CSAI na content. Simple para sa mga partner na isama ang CSAI Match sa kanilang system, na nagbibigay-daan sa kanilang mas mahusay na maiayon ang mahirap na pamamahala ng content.

Paano ito gumagana?

Pag-fingerprint ng video

1. Pag-fingerprint ng video

Mag-a-upload ng video sa platform ng partner. Ang CSAI Match Fingerprinter, na pinapatakbo sa platform ng partner, ay gagawa ng Fingerprint file ng video, isang digital ID na natatanging kumakatawan sa content ng video file.

Partner

Video file

Fingerprinter

Fingerprinter file

Pagsusuri ng API

2. Pagsusuri ng API

Ipinapadala ng partner ang Fingerprint file sa pamamagitan ng CSAI Match API para maikumpara ito sa iba pang file sa repository ng Fingerprint ng YouTube. Naglalaman ang repository ng Mga Fingerprint ng mga kilalang mapang-abusong content na natukoy ng YouTube at Google.

YouTube

CSAI Match API

Teknolohiya ng CSAI Match

Nakabahaging CSAI

Repository ng fingerprinter

Manual na pagsusuri

3. Manual na pagsusuri

Nagbibigay ng positibo o negatibong tugma pabalik sa partner kapag natapos ang pag-call sa API. Batay sa impormasyon ng patutugma, manual na sinusuri ng partner ang video para i-verify na CSAI ito.

Partner

Manual na pagsusuri

Gumawa ng pagkilos

4. Gumawa ng pagkilos

Kapag nasuri na ang mga larawan, puwede nang gumawa ng pagkilos ang partner sa content alinsunod sa mga lokal na batas at regulasyon.

Partner

Pagkilos ayon sa nararapat

Content Safety API

Ginagamit para sa: Pag-uuri ng mga dating hindi pa nakikitang larawan

Gumagamit ang classifier ng Content Safety API ng programmatic na pag-access at artificial intelligence para matulungan ang aming mga partner na uriin at isapriyoridad ang bilyon-bilyong larawan para sa pagsusuri. Kapag mas mataas ang ibinigay na priyoridad ng classifier, mas mataas ang posibilidad na naglalaman ng mapang-abusong materyal ang larawan, na makakatulong sa mag partner sa pagsasapriyoridad para sa kanilang pagsusuri ng tao at paggawa ng kanilang sariling pagpapasya sa content. Nagbibigay ang Content Safety API ng rekomendasyon sa pagsasapriyoridad sa content na ipinapadala rito. Dapat gawin ng mga partner ang sarili nilang pagsusuri para tukuyin kung dapat silang gumawa ng pagkilos sa content.

Pagdating sa pagpapatakbo, inirerekomenda namin sa mga organisasyon na gamitin ang Content Safety API bago mismo ang proseso ng manual na pagsusuri, para mag-uri, magsapriyoridad, at matulungan silang ayusin ang kanilang queue. Magagamit ang Content Safety API kasabay ng iba pang solusyon, gaya ng tool sa pag-hash ng video ng YoutTube na CSAI Match, o PhotoDNA ng Microsoft, na tumutugon sa magkakaibang pangangailangan.

CSAI Match

Ginagamit para sa: Pagtutugma sa mga kilalang mapang-abusong segment ng video

Ang CSAI Match ay ang pinagmamay-ariang teknolohiya ng YouTube para sa paglaban sa mga video ng CSAI (Koleksyon ng Imahe ng Pang-aabusong Sekswal sa Kabataan) online. Ito ang teknolohiyang unang gumamit ng hash-matching para tumukoy ng kilalang lumalabag na content at nagbibigay-daan ito sa amin na tukuyin ang ganitong uri ng lumalabag na content sa gitna ng maraming hindi lumalabag na content ng video. Kapag may nahanap na tumutugma sa lumalabag na content, ifa-flag ito sa mga partner para suriin, kumpirmahin, at responsable itong iulat alinsunod sa mga lokal na batas at regulasyon. Ginagawang available ng YouTube ang CSAI Match sa mga partner sa industriya at NGO. Nagbibigay kami ng access sa software sa pag-fingerprint at sa API na tumutukoy sa mga tugma sa aming database ng kilalang mapang-abusong content.

Mapipigilan ng mga online platform ang pagpapakita at pagbabahagi ng lumalabag na content sa kanilang mga site sa pamamagitan ng paggamit ng CSAI Match para ikumpara ang kanilang content sa isa sa mga pinakamalaking index ng kilalang CSAI na content. Simple para sa mga partner na isama ang CSAI Match sa kanilang system, na nagbibigay-daan sa kanilang mas mahusay na maiayon ang mahirap na pamamahala ng content.

Form ng interes sa toolkit sa kaligtasan ng bata

Interesadong gamitin ang aming toolkit?

Magbahagi ng ilang detalye tungkol sa iyong organisasyon para iparehistro ang interes mo

Tingnan ang form ng interes

Mga Testimonial

Mga FAQ

Content Safety API

Gumagana ba ang Content Safety API para sa video?

Idinisenyo ang Content Safety API para sa mga larawan, pero sa pamamagitan ng CSAI Match ng YouTube, maa-access ng mga organisasyon ang software sa pag-fingerprint at API para sa pagtukoy ng mga tugma sa aming database ng kilalang mapang-abusong video na content. Matuto pa.

Sino ang puwedeng mag-sign up para ma-access ang teknolohiya at Content Safety API?

Puwedeng mag-sign up ang mga third party sa industriya at lipunang sibil na gustong protektahan ang kanilang platform laban sa pang-aabuso para ma-access ang Content Safety API. Napapailalim sa pag-apruba ang mga aplikasyon.

Bakit ninyo ginagawang available sa marami ang mga tool na ito?

Naniniwala kaming ang pinakamahusay na diskarte sa pagtugon sa pananamantala sa bata online ay ang pakikipag-collaborate sa iba pang kumpanya ng teknolohiya at NGO. Matagal na kaming nakikipagtulungan sa industriya at mga NGO para suportahan ang pagbuo ng mga bagong tool na batay sa data, i-boost ang teknikal na kakayahan, at magbigay ng kaalaman. Naniniwala kaming malaking bahagi ng labang ito ang paggawang available sa marami ang mga tool na ito para magamit ng aming mga partner ang AI para mas mahusay na masuri ang content nang malawakan.

CSAI Match

Gumagana ba ang CSAI Match para sa mga larawan?

Idinisenyo ang CSAI Match para sa video, pero sa pamamagitan ng Content Safety API ng Google, may koleksyon ng mga tool na available sa industriya at mga partner na NGO, at nag-aalok ito ng klasipikasyon para sa mga larawan na pinapagana ng machine learning. Matuto pa.

Anong impormasyon ang ibinabalik nang may natukoy na tugma?

Tutukuyin ng pagtutugma ang bahagi ng video na tumutugma sa kilalang CSAI, pati na rin ang standardized na pagkakategorya ng uri ng content na itinugma.

Bakit napakabisa ng teknolohiya ng CSAI Match?

Tinutukoy ng CSAI Match ang mga segment na malapit na duplicate ng kilalang CSAI na content. Kasama rito ang mga ganap na duplicate na makukuha ng MD5 hash matching, pati na rin ang mga malapit na duplicate na posibleng mga re-encoding, obfuscation, mga pagputol, o pag-scale ng mga video ng CSAI – kahit na naglalaman lang ang video ng maliit na bahagi ng CSAI na posibleng nakahalo sa content na hindi CSAI. Nagpapatakbo ang mga partner ng binary sa pag-fingerprint para gumawa ng “fingerprint” ng video, na isang byte sequence na katulad ng MD5 hash. Pagkatapos ay ipinapadala ito sa serbisyo sa CSAI Match ng Google, na partikular na idinisenyo maging mahusay kapag nagsa-scan ng video sa corpus ng mga kilalang reference ng CSAI ng YouTube.