Google, YouTubeలలో, దుర్వినియోగ కంటెంట్ రివ్యూకు మెరుగైన ప్రాధాన్యత ఇవ్వడం ద్వారా పిల్లలను రక్షించడంలో సంస్థలకు సహాయపడటానికి మేము టూల్స్ను డెవలప్ చేశాము.
ఈ టూల్కిట్ మధ్యలో రెండు APIలు ఉన్నాయి, కంటెంట్ భద్రత API మరియు CSAI Match, వీటిని మేము అర్హతగల పార్ట్నర్లకు ఉచితంగా అందిస్తున్నాము. మా పార్ట్నర్లు బిలియన్ల కొద్దీ ఫైల్స్ను ప్రాసెస్ చేయడానికి ఈ టెక్నాలజీని ఉపయోగిస్తారు, తద్వారా వారు ప్రతి సంవత్సరం దుర్వినియోగ ప్రవర్తన కోసం మిలియన్ల కొద్దీ ఇమేజ్లు, వీడియోలను మూల్యాంకనం చేయడానికి వీలు కలుగుతుంది.
-
మెరుగైన ప్రాధాన్యత
APIలు, దుర్వినియోగమయ్యే కంటెంట్కు ప్రాధాన్యత ఇవ్వడం ద్వారా, ఆన్లైన్లో పిల్లలపై జరిగే దాడికి వ్యతిరేకంగా పోరాడటంలో సహాయపడతాయి.
-
మరింత వేగవంతమైన గుర్తింపు
కంటెంట్ను మరింత త్వరగా గుర్తించడం వల్ల బాధితులను త్వరితంగా గుర్తించి, తదుపరి దుర్వినియోగం నుండి వారిని కాపాడగలిగే అవకాశం ఎక్కువగా ఉంటుంది.
-
మరింత సురక్షితమైన ఆపరేషన్లు
రివ్యూ క్యూలను మరింత సమర్థవంతంగా, గుట్టు చప్పుడు కాకుండా చేయడం వలన మానవ కంటెంట్ మోడరేటర్ల టోల్ కూడా తగ్గుతుంది.
మా టూల్స్ గురించి తెలుసుకోండి
ఇదివరకు చూడని ఇమేజ్లను, వీడియోలను క్లాసిఫై చేయడం
తెలిసిన దుర్వినియోగ వీడియో విభాగాలను మ్యాచ్ చేయడం
Content Safety API
దీని కోసం ఉపయోగిస్తారు: ఇదివరకు చూడని ఇమేజ్లను, వీడియోలను క్లాసిఫై చేయడానికి
"Content Safety API క్లాసిఫయర్", ప్రోగ్రామ్ ఆధారిత యాక్సెస్ను, ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ను ఉపయోగిస్తుంది. తద్వారా మా పార్ట్నర్లు, కోట్ల కొద్దీ ఇమేజ్లను, వీడియోలను క్లాసిఫై చేయడానికి దోహదపడుతుంది. వాటిని ప్రాధాన్యతా క్రమంలో రివ్యూ చేయడానికి కూడా సహాయపడుతుంది. క్లాసిఫయర్, ఎంత ఎక్కువ ప్రాధాన్యం ఇస్తే, మీడియా ఫైల్లో అంత ఎక్కువ అబ్యూజివ్ (దుర్వినియోగ) కంటెంట్ ఉండే అవకాశం ఉంది. దీనివల్ల, పార్ట్నర్లు, హ్యూమన్ రివ్యూ కోసం ప్రయారిటీని నిర్ణయించుకోవడానికి వీలవుతుంది. అలాగే కంటెంట్పై సొంతంగా నిర్ణయం తీసుకోవడానికి అవకాశం ఉంటుంది. Content Safety API దానికి పంపిన కంటెంట్పై ప్రాధాన్యత సిఫార్సును జారీ చేస్తుంది. కంటెంట్పై చర్య తీసుకోవాలా వద్దా అన్నది నిర్ణయించడానికి, పార్ట్నర్లు తమంతట తాము తప్పనిసరిగా సొంతంగా రివ్యూ చేయాలి.
ఆపరేషనల్ ప్రాసెస్లో భాగంగా, మేము సంస్థలకు మాన్యువల్ రివ్యూను చేయడానికి ముందు Content Safety APIని ఉపయోగించాలని సిఫార్సు చేస్తున్నాము. దీనివల్ల కంటెంట్ను క్లాసిఫై చేయడం, ప్రయారిటీ ఇవ్వడం, క్యూలో ఉన్న వాటిని ఆర్గనైజ్ చేయడం వారికి సులభమవుతుంది. YouTubeకు చెందిన CSAI Match వీడియో హ్యాషింగ్ టూల్ లేదా Microsoftకు చెందిన PhotoDNA వంటి ఇతర పరిష్కార పద్ధతులతో పాటు Content Safety APIని ఏకకాలంలో ఉపయోగించవచ్చు. ఈ టూల్స్లో ప్రతి ఒక్కటి విభిన్న అవసరాలను నెరవేరుస్తాయి.
ఇది ఎలా పని చేస్తుంది?
-
1. ఫైల్ను తిరిగి పొందడం
పార్ట్నర్లు ఫైళ్లను పలు రకాలుగా రిట్రీవ్ చేసుకుంటారు (తిరిగి పొందుతారు). ఉదాహరణకు యూజర్ రిపోర్ట్ చేసినవి, లేదా పార్ట్నర్ తన ప్లాట్ఫామ్లో ఫైళ్లను మోడరేట్ చేయడానికి క్రియేట్ చేసిన క్రాలర్ల ద్వారా లేదా ఫిల్టర్ల ద్వారా గుర్తించినవి.
-
2. API రివ్యూ
మీడియా ఫైళ్లు సాధారణ API కాల్ ద్వారా Content Safety APIకి పంపబడతాయి. రివ్యూ ప్రాధాన్యతను నిర్ణయించడానికి అవి క్లాసిఫయర్ల ద్వారా రన్ చేయబడతాయి, కంటెంట్ భాగాలలో ప్రతి ఒక్క దాని ప్రయారిటీ వాల్యూ పార్ట్నర్కు తిరిగి పంపబడుతుంది.
-
3. మాన్యువల్ రివ్యూ
ఏవైనా ఫైళ్లను తక్షణమే మాన్యువల్ రివ్యూ చేయాల్సిన అవసరం ఉన్నట్లయితే వాటికి ప్రాధాన్యం ఇవ్వడానికి పార్ట్నర్లు ప్రాధాన్యతా విలువను ఉపయోగిస్తారు.
-
4. చర్య తీసుకోండి
ఇమేజ్లను, వీడియోలను మాన్యువల్గా రివ్యూ చేసిన తర్వాత, పార్ట్నర్ స్థానిక చట్టాలు, నియంత్రణలకు అనుగుణంగా కంటెంట్పై చర్య తీసుకోవచ్చు.
|
పార్ట్నర్ |
|
పార్ట్నర్ |
పార్ట్నర్ |
|||
|---|---|---|---|---|---|---|
|
యూజర్ రిపోర్ట్ చేసిన ఇమేజ్లు, వీడియోలు క్రాలర్లు ప్రీ-ఫిల్టర్లు (పోర్న్/ఇతర క్లాసిఫయర్లు) |
I |
Content Safety API I క్లాసిఫయర్ టెక్నాలజీ |
I |
మాన్యువల్ రివ్యూ |
I |
దానికి అనుగుణంగా తీసుకొనే చర్య |
CSAI Match
దీని కోసం ఉపయోగిస్తారు: తెలిసిన దుర్వినియోగ వీడియో విభాగాలను సరిపోల్చడం కోసం
CSAI Match అనేది YouTubeకు చెందిన యాజమాన్య (ప్రొప్రయిటరీ) టెక్నాలజీ. ఇది ఆన్లైన్లో CSAI (పిల్లల లైంగిక అశ్లీల సంబంధిత అంశాలు) ఉన్న వీడియోలను డీల్ చేయడానికి సహాయపడుతుంది. రూల్స్ను ఉల్లంఘించినట్లు తేలిన కంటెంట్ను గుర్తించడానికి హాష్-మ్యాచింగ్ను ఉపయోగించిన మొట్ట మొదటి టెక్నాలజీ ఇది. "రూల్స్ పాటించే వీడియో కంటెంట్" భారీ స్థాయిలో ఉన్నప్పుడు, దాని మధ్యలో ఈ రకమైన ఉల్లంఘనకు పాల్పడే కంటెంట్ను గుర్తించడానికి ఈ టెక్నాలజీ మాకు దోహదపడుతంది. ఉల్లంఘించే కంటెంట్ మ్యాచ్ కనబడితే, ఈ హాష్-మ్యాచింగ్, పార్ట్నర్లకు ఫ్లాగ్ చేస్తుంది. తద్వారా స్థానిక చట్టాలకు, నియంత్రణ వ్యవస్థలకు అనుగుణంగా దానిని రివ్యూ చేయడానికి, నిర్ధారించడానికి, బాధ్యతాయుతంగా రిపోర్ట్ చేయడానికి వీలవుతుంది. CSAI Matchను ఇండస్ట్రీ పార్ట్నర్లకు, NGOలకు YouTube అందుబాటులో ఉంచుతుంది. తెలిసిన దుర్వినియోగ కంటెంట్కు సంబంధించి మా డేటాబేస్లో ఉన్న వాటితో మ్యాచ్ అయ్యే వాటిని గుర్తించడానికి, ఫింగర్ప్రింట్ సాఫ్ట్వేర్కు, APIకి యాక్సెస్ను అందిస్తాము.
రూల్స్ను ఉల్లంఘించే కంటెంట్ డిస్ప్లే కాకుండా అడ్డుకోవడానికి ఆన్లైన్ ప్లాట్ఫామ్లు, CSAI Matchను ఉపయోగించవచ్చు. అలాంటి కంటెంట్ తమ సైట్లలో షేర్ కాకుండా కూడా అవి ఆపవచ్చు. CSAI Matchను ఉపయోగించి, తెలిసిన CSAI కంటెంట్కు సంబంధించి అతిపెద్ద ఇండెక్స్లలో ఒక దానితో కంటెంట్ను కంపార్ చేసి ఈ పనులు చేయవచ్చు. CSAI Matchను పార్ట్నర్లు తమ సిస్టమ్లోకి ఇంటిగ్రేట్ చేసుకోవడం చాలా సులభం. ఈ ఇంటిగ్రేషన్ ద్వారా ఛాలెంజింగ్ కంటెంట్ భారీ స్థాయిలో ఉన్నప్పుడు దాన్ని సులభంగా మేనేజ్ చేయవచ్చు.
ఇది ఎలా పని చేస్తుంది?
-
1. వీడియో ఫింగర్ప్రింటింగ్
ఒక వీడియో, పార్ట్నర్ ప్లాట్ఫామ్కు అప్లోడ్ అయింది. పార్ట్నర్ ప్లాట్ఫామ్లో రన్ అయ్యే CSAI Match Fingerprinter, వీడియో ఫింగర్ప్రింట్ ఫైల్ను క్రియేట్ చేస్తుంది. ఇది వీడియో ఫైల్ కంటెంట్ను ప్రత్యేకంగా సూచించే ఒక డిజిటల్ ID.
-
2. API రివ్యూ
YouTube ఫింగర్ప్రింట్ స్టోరేజ్ లొకేషన్లోని ఇతర ఫైళ్లతో పోల్చడానికి పార్ట్నర్ CSAI Match API ద్వారా ఫింగర్ప్రింట్ ఫైల్ను పంపుతారు. YouTube, Googleల ద్వారా గుర్తించబడిన దుర్వినియోగ కంటెంట్ ఫింగర్ప్రింట్లు స్టోరేజ్ లొకేషన్లో ఉంటాయి.
-
3. మాన్యువల్ రివ్యూ
APIకి కాల్ పూర్తయిన తర్వాత పార్ట్నర్కు పాజిటివ్ మ్యాచ్ గానీ, నెగిటివ్ మ్యాచ్ గానీ తిరిగి ఇవ్వబడుతుంది. మ్యాచ్ సమాచారం ఆధారంగా, పార్ట్నర్ వీడియో CSAI అని వెరిఫై చేయడానికి మాన్యువల్గా రివ్యూ చేస్తారు.
-
4. చర్య తీసుకోండి
ఇమేజ్లను రివ్యూ చేసిన తర్వాత, పార్ట్నర్ స్థానిక చట్టాలు, నియంత్రణలకు అనుగుణంగా కంటెంట్పై చర్య తీసుకోవచ్చు.
|
పార్ట్నర్ |
YOUTUBE |
పార్ట్నర్ |
పార్ట్నర్ |
|||
|---|---|---|---|---|---|---|
|
వీడియో ఫైల్ I ఫింగర్ప్రింటర్ I ఫింగర్ప్రింటర్ ఫైల్ |
I |
CSAI Match API I CSAI Match టెక్నాలజీ I షేర్ చేసిన CSAI ఫింగర్ప్రింటర్ స్టోరేజ్ లొకేషన్ |
I |
మాన్యువల్ రివ్యూ |
I |
దానికి అనుగుణంగా తీసుకొనే చర్య |
టెస్టిమోనియల్స్
తరచుగా అడిగే ప్రశ్నలు
Content Safety API
మీడియా ఫైల్స్ నుండి తీసుకున్న ప్రాసెస్ చేయని కంటెంట్ బైట్లకు, పొందుపరిచిన కంటెంట్లు రెండింటికి సపోర్ట్ అందించే ఆప్షన్లను మేము అందిస్తున్నాము. మరిన్ని వివరాల కోసం సంప్రదించండి.
దుర్వినియోగం నుండి తమ ప్లాట్ఫామ్ను రక్షించుకోవాలనుకునే పరిశ్రమ, సివిల్ సొసైటీ థర్డ్-పార్టీలు, Content Safety APIని యాక్సెస్ చేయడానికి సైన్ అప్ చేయవచ్చు. దరఖాస్తులు ఆమోదానికి లోబడి ఉంటాయి.
ఆన్లైన్లో పిల్లలపై దాడిని ఎదుర్కోవటానికి ఇతర కంపెనీలు, NGOలతో కలసి పని చేయడం ఉత్తమ మార్గం అని మేము నమ్ముతున్నాము. కొత్త డేటా ఆధారిత టూల్స్ను డెవలప్ చేయడానికి, టెక్నికల్ సామర్థ్యాన్ని పెంపొందించడానికి, అవగాహన పెంచడానికి మేము పరిశ్రమలతో, NGOలతో చాలా కాలంగా పని చేస్తున్నాము. మేము ఈ టూల్స్ను విస్తృతంగా అందుబాటులో ఉంచుతున్నామని నమ్ముతున్నాము, కాబట్టి మా పార్ట్నర్లు AIని ఉపయోగించి కంటెంట్ను ఎక్కువ మొత్తంలో మెరుగ్గా రివ్యూ చేయవచ్చు, ఇది ఈ పోరాటంలో ముఖ్యమైన భాగం.
CSAI Match
CSAI Match వీడియో కోసం డిజైన్ చేయబడింది, కానీ Googleకు చెందిన Content Safety API ద్వారా, పరిశ్రమకు, NGO పార్ట్నర్లకు టూల్స్ కలెక్షన్ అందుబాటులో ఉంది, ఈ టూల్స్ ఇమేజ్ల విషయంలో మెషిన్ లెర్నింగ్ ఆధారిత క్లాసిఫికేషన్ను అందిస్తున్నాయి మరింత తెలుసుకోండి.
మ్యాచ్ అనేది వీడియోలోని ఏ భాగం తెలిసిన CSAIకు మ్యాచ్ అవుతుందో గుర్తిస్తుంది, అలాగే మ్యాచ్ అయిన కంటెంట్ రకం ఏ ప్రామాణిక కేటగిరీకి చెందుతుందో తెలియజేస్తుంది.
CSAI Match, దాదాపు 'తెలిసిన CSAI కంటెంట్' లాగా ఉండే డూప్లికేట్ విభాగాలను గుర్తిస్తుంది. MD5 హాష్ మ్యాచింగ్ ద్వారా గుర్తించగల ఫుల్ డూప్లికేట్లు ఇందులోకి వస్తాయి. అలాగే, దాదాపు డూప్లికేట్లు కాదగిన రీ-ఎన్కోడింగ్లు, అబ్ఫస్కేషన్స్ (అస్పష్టమైన), ట్రంకేషన్స్ (కుదించిన) లేదా స్కేలింగ్ (రీసైజ్) చేసిన CSAI వీడియోలు కూడా ఇందులోకి వస్తాయి. ఒక వీడియోలో CSAIలోని కొంత భాగం మాత్రమే ఉండి, అది నాన్-CSAI కంటెంట్తో కలిపి ఉన్నా కూడా ఈ పరిధిలోకి వస్తుంది. పార్ట్నర్లు వీడియోకు చెందిన “ఫింగర్ప్రింట్”ను రూపొందించడానికి ఫింగర్ప్రింట్ బైనరీని రన్ చేస్తారు, ఇది MD5 హ్యాష్కు సారూప్యమైన బైట్-సీక్వెన్స్. ఆపై దాన్ని Googleకు చెందిన CSAI Match సర్వీస్కు పంపుతారు, ఈ సర్వీస్ తెలిసిన CSAI సంబంధిత YouTube కార్పస్ రెఫరెన్స్లకు అనుగుణంగా వీడియోను స్కాన్ చేస్తున్నప్పుడు సమర్థవంతమైన ఫలితాలను అందిచడం కోసం ప్రత్యేకంగా రూపొందించబడింది.