మా పిల్లల భద్రతా టూల్‌కిట్‌నుఅన్వేషించండి
మెరుగైన ప్రాధాన్యత
APIలు, దుర్వినియోగమయ్యే కంటెంట్‌కు ప్రాధాన్యత ఇవ్వడం ద్వారా, ఆన్‌లైన్‌లో పిల్లలపై జరిగే దాడికి వ్యతిరేకంగా పోరాడటంలో సహాయపడతాయి.
మరింత వేగవంతమైన గుర్తింపు
కంటెంట్‌ను మరింత త్వరగా గుర్తించడం వల్ల బాధితులను త్వరితంగా గుర్తించి, తదుపరి దుర్వినియోగం నుండి వారిని కాపాడగలిగే అవకాశం ఎక్కువగా ఉంటుంది.
మరింత సురక్షితమైన ఆపరేషన్‌లు
రివ్యూ క్యూలను మరింత సమర్థవంతంగా, గుట్టు చప్పుడు కాకుండా చేయడం వలన మానవ కంటెంట్ మోడరేటర్‌ల టోల్ కూడా తగ్గుతుంది.
మా టూల్స్ గురించి తెలుసుకోండి
మా టూల్స్ కాంప్లిమెంటరీ సామర్థ్యాలను కలిగి ఉంటాయి. వాటిని వివిధ అవసరాలను తీర్చడానికి ఉమ్మడిగా, ఇతర పరిష్కారాలతో ఉపయోగించవచ్చు.
Content Safety API
ఇదివరకు చూడని ఇమేజ్‌లను, వీడియోలను క్లాసిఫై చేయడం
CSAI Match
తెలిసిన దుర్వినియోగ వీడియో విభాగాలను మ్యాచ్ చేయడం
Content Safety API
దీని కోసం ఉపయోగిస్తారు: ఇదివరకు చూడని ఇమేజ్‌లను, వీడియోలను క్లాసిఫై చేయడానికి
"Content Safety API క్లాసిఫయర్", ప్రోగ్రామ్ ఆధారిత యాక్సెస్‌ను, ఆర్టిఫిషియల్ ఇంటెలిజెన్స్‌ను ఉపయోగిస్తుంది. తద్వారా మా పార్ట్నర్లు, కోట్ల కొద్దీ ఇమేజ్‌లను, వీడియోలను క్లాసిఫై చేయడానికి దోహదపడుతుంది. వాటిని ప్రాధాన్యతా క్రమంలో రివ్యూ చేయడానికి కూడా సహాయపడుతుంది. క్లాసిఫయర్, ఎంత ఎక్కువ ప్రాధాన్యం ఇస్తే, మీడియా ఫైల్‌లో అంత ఎక్కువ అబ్యూజివ్‌ (దుర్వినియోగ) కంటెంట్ ఉండే అవకాశం ఉంది. దీనివల్ల, పార్ట్నర్లు, హ్యూమన్ రివ్యూ కోసం ప్రయారిటీని నిర్ణయించుకోవడానికి వీలవుతుంది. అలాగే కంటెంట్‌పై సొంతంగా నిర్ణయం తీసుకోవడానికి అవకాశం ఉంటుంది. Content Safety API దానికి పంపిన కంటెంట్‌పై ప్రాధాన్యత సిఫార్సును జారీ చేస్తుంది. కంటెంట్‌పై చర్య తీసుకోవాలా వద్దా అన్నది నిర్ణయించడానికి, పార్ట్నర్లు తమంతట తాము తప్పనిసరిగా సొంతంగా రివ్యూ చేయాలి.
ఆపరేషనల్ ప్రాసెస్‌లో భాగంగా, మేము సంస్థలకు మాన్యువల్ రివ్యూను చేయడానికి ముందు Content Safety APIని ఉపయోగించాలని సిఫార్సు చేస్తున్నాము. దీనివల్ల కంటెంట్‌ను క్లాసిఫై చేయడం, ప్రయారిటీ ఇవ్వడం, క్యూలో ఉన్న వాటిని ఆర్గనైజ్ చేయడం వారికి సులభమవుతుంది. YouTubeకు చెందిన CSAI Match వీడియో హ్యాషింగ్ టూల్‌ లేదా Microsoftకు చెందిన PhotoDNA వంటి ఇతర పరిష్కార పద్ధతులతో పాటు Content Safety APIని ఏకకాలంలో ఉపయోగించవచ్చు. ఈ టూల్స్‌లో ప్రతి ఒక్కటి విభిన్న అవసరాలను నెరవేరుస్తాయి.
ఇది ఎలా పని చేస్తుంది?
1. ఫైల్‌ను తిరిగి పొందడం
పార్ట్నర్లు ఫైళ్లను పలు రకాలుగా రిట్రీవ్ చేసుకుంటారు (తిరిగి పొందుతారు). ఉదాహరణకు యూజర్ రిపోర్ట్ చేసినవి, లేదా పార్ట్‌నర్ తన ప్లాట్‌ఫామ్‌లో ఫైళ్లను మోడరేట్ చేయడానికి క్రియేట్ చేసిన క్రాలర్‌ల ద్వారా లేదా ఫిల్టర్‌ల ద్వారా గుర్తించినవి.
పార్ట్‌నర్
యూజర్ రిపోర్ట్ చేసిన ఇమేజ్‌లు, వీడియోలు
క్రాలర్‌లు
ప్రీ-ఫిల్టర్‌లు
(పోర్న్/ఇతర క్లాసిఫయర్‌లు)
2. API రివ్యూ
మీడియా ఫైళ్లు సాధారణ API కాల్ ద్వారా Content Safety APIకి పంపబడతాయి. రివ్యూ ప్రాధాన్యతను నిర్ణయించడానికి అవి క్లాసిఫయర్‌ల ద్వారా రన్ చేయబడతాయి, కంటెంట్ భాగాలలో ప్రతి ఒక్క దాని ప్రయారిటీ వాల్యూ పార్ట్‌నర్‌కు తిరిగి పంపబడుతుంది.
Content Safety API
క్లాసిఫయర్ టెక్నాలజీ
3. మాన్యువల్ రివ్యూ
ఏవైనా ఫైళ్లను తక్షణమే మాన్యువల్ రివ్యూ చేయాల్సిన అవసరం ఉన్నట్లయితే వాటికి ప్రాధాన్యం ఇవ్వడానికి పార్ట్నర్లు ప్రాధాన్యతా విలువను ఉపయోగిస్తారు.
పార్ట్‌నర్
మాన్యువల్ రివ్యూ
4. చర్య తీసుకోండి
ఇమేజ్‌లను, వీడియోలను మాన్యువల్‌గా రివ్యూ చేసిన తర్వాత, పార్ట్‌నర్ స్థానిక చట్టాలు, నియంత్రణలకు అనుగుణంగా కంటెంట్‌పై చర్య తీసుకోవచ్చు.
పార్ట్‌నర్
దానికి అనుగుణంగా తీసుకొనే చర్య
CSAI Match
దీని కోసం ఉపయోగిస్తారు: తెలిసిన దుర్వినియోగ వీడియో విభాగాలను సరిపోల్చడం కోసం
CSAI Match అనేది YouTubeకు చెందిన యాజమాన్య (ప్రొప్రయిటరీ) టెక్నాలజీ. ఇది ఆన్‌లైన్‌లో CSAI (పిల్లల లైంగిక అశ్లీల సంబంధిత అంశాలు) ఉన్న వీడియోలను డీల్ చేయడానికి సహాయపడుతుంది. రూల్స్‌ను ఉల్లంఘించినట్లు తేలిన కంటెంట్‌ను గుర్తించడానికి హాష్-మ్యాచింగ్‌ను ఉపయోగించిన మొట్ట మొదటి టెక్నాలజీ ఇది. "రూల్స్‌ పాటించే వీడియో కంటెంట్" భారీ స్థాయిలో ఉన్నప్పుడు, దాని మధ్యలో ఈ రకమైన ఉల్లంఘనకు పాల్పడే కంటెంట్‌ను గుర్తించడానికి ఈ టెక్నాలజీ మాకు దోహదపడుతంది. ఉల్లంఘించే కంటెంట్ మ్యాచ్ కనబడితే, ఈ హాష్-మ్యాచింగ్, పార్ట్‌నర్‌లకు ఫ్లాగ్ చేస్తుంది. తద్వారా స్థానిక చట్టాలకు, నియంత్రణ వ్యవస్థలకు అనుగుణంగా దానిని రివ్యూ చేయడానికి, నిర్ధారించడానికి, బాధ్యతాయుతంగా రిపోర్ట్ చేయడానికి వీలవుతుంది. CSAI Matchను ఇండస్ట్రీ పార్ట్‌నర్‌లకు, NGOలకు YouTube అందుబాటులో ఉంచుతుంది. తెలిసిన దుర్వినియోగ కంటెంట్‌కు సంబంధించి మా డేటాబేస్‌లో ఉన్న వాటితో మ్యాచ్ అయ్యే వాటిని గుర్తించడానికి, ఫింగర్‌ప్రింట్ సాఫ్ట్‌వేర్‌కు, APIకి యాక్సెస్‌ను అందిస్తాము.
రూల్స్‌ను ఉల్లంఘించే కంటెంట్ డిస్‌ప్లే కాకుండా అడ్డుకోవడానికి ఆన్‌లైన్ ప్లాట్‌ఫామ్‌లు, CSAI Matchను ఉపయోగించవచ్చు. అలాంటి కంటెంట్ తమ సైట్లలో షేర్ కాకుండా కూడా అవి ఆపవచ్చు. CSAI Matchను ఉపయోగించి, తెలిసిన CSAI కంటెంట్‌కు సంబంధించి అతిపెద్ద ఇండెక్స్‌లలో ఒక దానితో కంటెంట్‌ను కంపార్ చేసి ఈ పనులు చేయవచ్చు. CSAI Matchను పార్ట్నర్లు తమ సిస్టమ్‌లోకి ఇంటిగ్రేట్ చేసుకోవడం చాలా సులభం. ఈ ఇంటిగ్రేషన్ ద్వారా ఛాలెంజింగ్ కంటెంట్ భారీ స్థాయిలో ఉన్నప్పుడు దాన్ని సులభంగా మేనేజ్ చేయవచ్చు.
ఇది ఎలా పని చేస్తుంది?
1. వీడియో ఫింగర్‌ప్రింటింగ్
ఒక వీడియో, పార్ట్‌నర్ ప్లాట్‌ఫామ్‌కు అప్‌లోడ్ అయింది. పార్ట్‌నర్ ప్లాట్‌ఫామ్‌లో రన్ అయ్యే CSAI Match Fingerprinter, వీడియో ఫింగర్‌ప్రింట్ ఫైల్‌ను క్రియేట్ చేస్తుంది. ఇది వీడియో ఫైల్ కంటెంట్‌ను ప్రత్యేకంగా సూచించే ఒక డిజిటల్ ID.
పార్ట్‌నర్
వీడియో ఫైల్
ఫింగర్‌ప్రింటర్
ఫింగర్‌ప్రింటర్ ఫైల్
2. API రివ్యూ
YouTube ఫింగర్‌ప్రింట్ స్టోరేజ్ లొకేషన్‌లోని ఇతర ఫైళ్లతో పోల్చడానికి పార్ట్‌నర్ CSAI Match API ద్వారా ఫింగర్‌ప్రింట్ ఫైల్‌ను పంపుతారు. YouTube, Googleల ద్వారా గుర్తించబడిన దుర్వినియోగ కంటెంట్ ఫింగర్‌ప్రింట్‌లు స్టోరేజ్ లొకేషన్‌లో ఉంటాయి.
Youtube
CSAI Match API
CSAI Match టెక్నాలజీ
షేర్ చేసిన CSAI
ఫింగర్‌ప్రింటర్ స్టోరేజ్ లొకేషన్
3. మాన్యువల్ రివ్యూ
APIకి కాల్ పూర్తయిన తర్వాత పార్ట్‌నర్‌కు పాజిటివ్ మ్యాచ్ గానీ, నెగిటివ్ మ్యాచ్ గానీ తిరిగి ఇవ్వబడుతుంది. మ్యాచ్ సమాచారం ఆధారంగా, పార్ట్‌నర్ వీడియో CSAI అని వెరిఫై చేయడానికి మాన్యువల్‌గా రివ్యూ చేస్తారు.
పార్ట్‌నర్
మాన్యువల్ రివ్యూ
4. చర్య తీసుకోండి
ఇమేజ్‌లను రివ్యూ చేసిన తర్వాత, పార్ట్‌నర్ స్థానిక చట్టాలు, నియంత్రణలకు అనుగుణంగా కంటెంట్‌పై చర్య తీసుకోవచ్చు.
పార్ట్‌నర్
దానికి అనుగుణంగా తీసుకొనే చర్య
Content Safety API
దీని కోసం ఉపయోగిస్తారు: ఇదివరకు చూడని ఇమేజ్‌లను, వీడియోలను క్లాసిఫై చేయడానికి
"Content Safety API క్లాసిఫయర్", ప్రోగ్రామ్ ఆధారిత యాక్సెస్‌ను, ఆర్టిఫిషియల్ ఇంటెలిజెన్స్‌ను ఉపయోగిస్తుంది. తద్వారా మా పార్ట్నర్లు, కోట్ల కొద్దీ ఇమేజ్‌లను, వీడియోలను క్లాసిఫై చేయడానికి దోహదపడుతుంది. వాటిని ప్రాధాన్యతా క్రమంలో రివ్యూ చేయడానికి కూడా సహాయపడుతుంది. క్లాసిఫయర్, ఎంత ఎక్కువ ప్రాధాన్యం ఇస్తే, మీడియా ఫైల్‌లో అంత ఎక్కువ అబ్యూజివ్‌ (దుర్వినియోగ) కంటెంట్ ఉండే అవకాశం ఉంది. దీనివల్ల, పార్ట్నర్లు, హ్యూమన్ రివ్యూ కోసం ప్రయారిటీని నిర్ణయించుకోవడానికి వీలవుతుంది. అలాగే కంటెంట్‌పై సొంతంగా నిర్ణయం తీసుకోవడానికి అవకాశం ఉంటుంది. Content Safety API దానికి పంపిన కంటెంట్‌పై ప్రాధాన్యత సిఫార్సును జారీ చేస్తుంది. కంటెంట్‌పై చర్య తీసుకోవాలా వద్దా అన్నది నిర్ణయించడానికి, పార్ట్నర్లు తమంతట తాము తప్పనిసరిగా సొంతంగా రివ్యూ చేయాలి.
ఆపరేషనల్ ప్రాసెస్‌లో భాగంగా, మేము సంస్థలకు మాన్యువల్ రివ్యూను చేయడానికి ముందు Content Safety APIని ఉపయోగించాలని సిఫార్సు చేస్తున్నాము. దీనివల్ల కంటెంట్‌ను క్లాసిఫై చేయడం, ప్రయారిటీ ఇవ్వడం, క్యూలో ఉన్న వాటిని ఆర్గనైజ్ చేయడం వారికి సులభమవుతుంది. YouTubeకు చెందిన CSAI Match వీడియో హ్యాషింగ్ టూల్‌ లేదా Microsoftకు చెందిన PhotoDNA వంటి ఇతర పరిష్కార పద్ధతులతో పాటు Content Safety APIని ఏకకాలంలో ఉపయోగించవచ్చు. ఈ టూల్స్‌లో ప్రతి ఒక్కటి విభిన్న అవసరాలను నెరవేరుస్తాయి.
Content Safety API
దీని కోసం ఉపయోగిస్తారు: ఇదివరకు చూడని ఇమేజ్‌లను, వీడియోలను క్లాసిఫై చేయడానికి
ఇది ఎలా పని చేస్తుంది?
1. ఫైల్‌ను తిరిగి పొందడం
పార్ట్నర్లు ఫైళ్లను పలు రకాలుగా రిట్రీవ్ చేసుకుంటారు (తిరిగి పొందుతారు). ఉదాహరణకు యూజర్ రిపోర్ట్ చేసినవి, లేదా పార్ట్‌నర్ తన ప్లాట్‌ఫామ్‌లో ఫైళ్లను మోడరేట్ చేయడానికి క్రియేట్ చేసిన క్రాలర్‌ల ద్వారా లేదా ఫిల్టర్‌ల ద్వారా గుర్తించినవి.
పార్ట్‌నర్
యూజర్ రిపోర్ట్ చేసిన ఇమేజ్‌లు, వీడియోలు
క్రాలర్‌లు
ప్రీ-ఫిల్టర్‌లు
(పోర్న్/ఇతర క్లాసిఫయర్‌లు)
2. API రివ్యూ
మీడియా ఫైళ్లు సాధారణ API కాల్ ద్వారా Content Safety APIకి పంపబడతాయి. రివ్యూ ప్రాధాన్యతను నిర్ణయించడానికి అవి క్లాసిఫయర్‌ల ద్వారా రన్ చేయబడతాయి, కంటెంట్ భాగాలలో ప్రతి ఒక్క దాని ప్రయారిటీ వాల్యూ పార్ట్‌నర్‌కు తిరిగి పంపబడుతుంది.
Content Safety API
క్లాసిఫయర్ టెక్నాలజీ
3. మాన్యువల్ రివ్యూ
ఏవైనా ఫైళ్లను తక్షణమే మాన్యువల్ రివ్యూ చేయాల్సిన అవసరం ఉన్నట్లయితే వాటికి ప్రాధాన్యం ఇవ్వడానికి పార్ట్నర్లు ప్రాధాన్యతా విలువను ఉపయోగిస్తారు.
పార్ట్‌నర్
మాన్యువల్ రివ్యూ
4. చర్య తీసుకోండి
ఇమేజ్‌లను, వీడియోలను మాన్యువల్‌గా రివ్యూ చేసిన తర్వాత, పార్ట్‌నర్ స్థానిక చట్టాలు, నియంత్రణలకు అనుగుణంగా కంటెంట్‌పై చర్య తీసుకోవచ్చు.
పార్ట్‌నర్
దానికి అనుగుణంగా తీసుకొనే చర్య
మా టూల్‌కిట్‌ను ఉపయోగించడానికి ఆసక్తి ఉందా?
మీ ఆసక్తిని రిజిస్టర్ చేసుకోవడానికి మీ సంస్థ గురించిన కొన్ని వివరాలను షేర్ చేయండి
ఆసక్తిని తెలియజేసే ఫారమ్‌ను చూడండి
CSAI Match
దీని కోసం ఉపయోగిస్తారు: తెలిసిన దుర్వినియోగ వీడియో విభాగాలను సరిపోల్చడం కోసం
CSAI Match అనేది YouTubeకు చెందిన యాజమాన్య (ప్రొప్రయిటరీ) టెక్నాలజీ. ఇది ఆన్‌లైన్‌లో CSAI (పిల్లల లైంగిక అశ్లీల సంబంధిత అంశాలు) ఉన్న వీడియోలను డీల్ చేయడానికి సహాయపడుతుంది. రూల్స్‌ను ఉల్లంఘించినట్లు తేలిన కంటెంట్‌ను గుర్తించడానికి హాష్-మ్యాచింగ్‌ను ఉపయోగించిన మొట్ట మొదటి టెక్నాలజీ ఇది. "రూల్స్‌ పాటించే వీడియో కంటెంట్" భారీ స్థాయిలో ఉన్నప్పుడు, దాని మధ్యలో ఈ రకమైన ఉల్లంఘనకు పాల్పడే కంటెంట్‌ను గుర్తించడానికి ఈ టెక్నాలజీ మాకు దోహదపడుతంది. ఉల్లంఘించే కంటెంట్ మ్యాచ్ కనబడితే, ఈ హాష్-మ్యాచింగ్, పార్ట్‌నర్‌లకు ఫ్లాగ్ చేస్తుంది. తద్వారా స్థానిక చట్టాలకు, నియంత్రణ వ్యవస్థలకు అనుగుణంగా దానిని రివ్యూ చేయడానికి, నిర్ధారించడానికి, బాధ్యతాయుతంగా రిపోర్ట్ చేయడానికి వీలవుతుంది. CSAI Matchను ఇండస్ట్రీ పార్ట్‌నర్‌లకు, NGOలకు YouTube అందుబాటులో ఉంచుతుంది. తెలిసిన దుర్వినియోగ కంటెంట్‌కు సంబంధించి మా డేటాబేస్‌లో ఉన్న వాటితో మ్యాచ్ అయ్యే వాటిని గుర్తించడానికి, ఫింగర్‌ప్రింట్ సాఫ్ట్‌వేర్‌కు, APIకి యాక్సెస్‌ను అందిస్తాము.
రూల్స్‌ను ఉల్లంఘించే కంటెంట్ డిస్‌ప్లే కాకుండా అడ్డుకోవడానికి ఆన్‌లైన్ ప్లాట్‌ఫామ్‌లు, CSAI Matchను ఉపయోగించవచ్చు. అలాంటి కంటెంట్ తమ సైట్లలో షేర్ కాకుండా కూడా అవి ఆపవచ్చు. CSAI Matchను ఉపయోగించి, తెలిసిన CSAI కంటెంట్‌కు సంబంధించి అతిపెద్ద ఇండెక్స్‌లలో ఒక దానితో కంటెంట్‌ను కంపార్ చేసి ఈ పనులు చేయవచ్చు. CSAI Matchను పార్ట్నర్లు తమ సిస్టమ్‌లోకి ఇంటిగ్రేట్ చేసుకోవడం చాలా సులభం. ఈ ఇంటిగ్రేషన్ ద్వారా ఛాలెంజింగ్ కంటెంట్ భారీ స్థాయిలో ఉన్నప్పుడు దాన్ని సులభంగా మేనేజ్ చేయవచ్చు.
CSAI Match
దీని కోసం ఉపయోగిస్తారు: తెలిసిన దుర్వినియోగ వీడియో విభాగాలను సరిపోల్చడం కోసం
ఇది ఎలా పని చేస్తుంది?
1. వీడియో ఫింగర్‌ప్రింటింగ్
ఒక వీడియో, పార్ట్‌నర్ ప్లాట్‌ఫామ్‌కు అప్‌లోడ్ అయింది. పార్ట్‌నర్ ప్లాట్‌ఫామ్‌లో రన్ అయ్యే CSAI Match Fingerprinter, వీడియో ఫింగర్‌ప్రింట్ ఫైల్‌ను క్రియేట్ చేస్తుంది. ఇది వీడియో ఫైల్ కంటెంట్‌ను ప్రత్యేకంగా సూచించే ఒక డిజిటల్ ID.
పార్ట్‌నర్
వీడియో ఫైల్
ఫింగర్‌ప్రింటర్
ఫింగర్‌ప్రింటర్ ఫైల్
2. API రివ్యూ
YouTube ఫింగర్‌ప్రింట్ స్టోరేజ్ లొకేషన్‌లోని ఇతర ఫైళ్లతో పోల్చడానికి పార్ట్‌నర్ CSAI Match API ద్వారా ఫింగర్‌ప్రింట్ ఫైల్‌ను పంపుతారు. YouTube, Googleల ద్వారా గుర్తించబడిన దుర్వినియోగ కంటెంట్ ఫింగర్‌ప్రింట్‌లు స్టోరేజ్ లొకేషన్‌లో ఉంటాయి.
Youtube
CSAI Match API
CSAI Match టెక్నాలజీ
షేర్ చేసిన CSAI
ఫింగర్‌ప్రింటర్ స్టోరేజ్ లొకేషన్
3. మాన్యువల్ రివ్యూ
APIకి కాల్ పూర్తయిన తర్వాత పార్ట్‌నర్‌కు పాజిటివ్ మ్యాచ్ గానీ, నెగిటివ్ మ్యాచ్ గానీ తిరిగి ఇవ్వబడుతుంది. మ్యాచ్ సమాచారం ఆధారంగా, పార్ట్‌నర్ వీడియో CSAI అని వెరిఫై చేయడానికి మాన్యువల్‌గా రివ్యూ చేస్తారు.
పార్ట్‌నర్
మాన్యువల్ రివ్యూ
4. చర్య తీసుకోండి
ఇమేజ్‌లను రివ్యూ చేసిన తర్వాత, పార్ట్‌నర్ స్థానిక చట్టాలు, నియంత్రణలకు అనుగుణంగా కంటెంట్‌పై చర్య తీసుకోవచ్చు.
పార్ట్‌నర్
దానికి అనుగుణంగా తీసుకొనే చర్య
మా టూల్‌కిట్‌ను ఉపయోగించడానికి ఆసక్తి ఉందా?
మీ ఆసక్తిని రిజిస్టర్ చేసుకోవడానికి మీ సంస్థ గురించిన కొన్ని వివరాలను షేర్ చేయండి
ఆసక్తిని తెలియజేసే ఫారమ్‌ను చూడండి
మా టూల్‌కిట్‌ను ఉపయోగించడానికి ఆసక్తి ఉందా?
మీ ఆసక్తిని రిజిస్టర్ చేసుకోవడానికి మీ సంస్థ గురించిన కొన్ని వివరాలను షేర్ చేయండి
ఆసక్తిని తెలియజేసే ఫారమ్‌ను చూడండిటెస్టిమోనియల్స్
“హ్యాష్ మ్యాచ్ అయ్యేలా రిన్యూవబుల్ ఎనర్జీని కొనుగోలు చేయడం అనే Google పరిష్కారం ద్వారా మా వర్క్‌ఫ్లోలలో విప్లవాత్మక మార్పులు వచ్చాయి; ఇది మెరుగైన, వేగవంతమైన ఫలితాలకు దారితీసింది. National Center for Missing & Exploited Childrenకి Google గణనీయమైన సహకారం అందించినందున, ఆటోమేటెడ్ ప్రాసెస్‌లు మునుపు రిపోర్ట్ చేయబడిన CSAMకి హ్యూమన్ రివ్యూ అవసరాన్ని తగ్గిస్తాయి, ఇది మా సిబ్బంది బహిర్గతం అయ్యే అవకాశాన్ని తగ్గిస్తుంది. ఈ ఇమేజ్‌లను వీలైనంత త్వరగా తీసివేయడం చాలా ముఖ్యం, ఎందుకంటే పిల్లల ఫోటో తిరిగి షేర్ చేయబడిన ప్రతిసారీ, వారు మళ్లీ మళ్లీ బాధితులవుతారు. ఇలా చేయడం వల్ల మేము బాధితులైన, ప్రాణాలతో బయటపడిన కొత్త వారు, తెలియని పిల్లలపై మా దృష్టిని కేంద్రీకరించి పని చేయడానికి కూడా వీలవుతుంది." - National Center for Missing & Exploited Children
“Googleకు సంబంధించిన కంటెంట్ భద్రత APIని ఇంప్లిమెంట్ చేయడం మా ప్లాట్‌ఫామ్‌కు భారీ విజయం, ఇది యూజర్ అప్‌లోడ్ చేసిన కోట్ల కొద్దీ డాక్యుమెంట్‌లను హోస్ట్ చేస్తుంది. మా యూజర్‌ల కోసం సురక్షితమైన డిజిటల్ ఎన్విరాన్మెంట్‌ను అందించడంలో సహాయపడటానికి, అభ్యంతరకరమైన మెటీరియల్‌ను గుర్తించడానికి API పెద్ద మొత్తంలో ఇమేజ్‌లను సమర్ధవంతంగా స్కాన్ చేస్తుంది. రివ్యూ, జోక్యం, అలాగే సపోర్ట్‌పై ఫోకస్ చేయడానికి దానికి సంబంధించిన అధిక త్రూపుట్, ఖచ్చితత్వం మాకు అనుమతినిచ్చాయి. - Scribd, Inc.
"Googleకు సంబంధించిన పిల్లల భద్రత కోసం ఉద్దేశించబడిన టూల్స్‌ను మేము అమలులో ఉన్న భద్రతా చర్యలు పని చేస్తున్నాయని వ్యాలిడేట్ చేయడానికి మాకు సహాయపడింది, అలాగే Nextdoorకు సంబంధించిన పిల్లలను లైంగికంగా వేధించే కంటెంట్‌లో రికార్డు స్థాయిలో తక్కువ సింగిల్ డిజిట్ సంఘటనలను మేము చూస్తూనే ఉన్నాము." - Nextdoor
“Substack తన వీడియో క్యాపబిలిటీలను విస్తరింపజేయడం కొనసాగిస్తున్నందున, మా కమ్యూనిటీకి సంబంధించిన భద్రతను నిర్ధారించడం-ముఖ్యంగా మైనర్‌లను రక్షించడం—ముఖ్యమైన విశ్వాసం, భద్రత ప్రధాన ప్రాధాన్యతలుగా ఉన్నాయి. అధునాతన పిల్లల లైంగిక అశ్లీల సంబంధిత అంశాలు (CSAI) డిటెక్షన్ టెక్నాలజీలను ఉపయోగించడం ఈ క్లిష్టమైన భద్రతా ఛాలెంజ్‌లను ఎదుర్కోవడంలో కీలకమైనది. Googleకు సంబంధించిన టూల్స్ హానికరమైన కంటెంట్‌ను వేగంగా, ఖచ్చితంగా గుర్తించడానికి, తీసివేయడానికి మాకు సహాయపడతాయి, మా ప్లాట్‌ఫామ్ క్రియేటర్, ఆడియన్స్‌కు సురక్షితమైన స్థలంగా ఉండేలా చేస్తుంది. - Substack
“CSAI Match Adobeకు సంబంధించిన పిల్లల భద్రతా ప్రోగ్రామ్‌లో ఒక ముఖ్యమైన భాగంగా ఉండిపోయింది. పిల్లలపై లైంగిక చర్యల వీడియోలను మరింత సమర్ధవంతంగా పెద్ద మొత్తంలో గుర్తించడంలో సహాయపడటానికి ఈ టెక్నాలజీని ఉపయోగించుకోవడం ప్రభావవంతంగా ఉందని నిరూపించబడింది. - Adobe
“పిల్లలను లైంగికంగా వేధించే వీడియో ఆధారితమైన కంటెంట్ ఎక్కువకావడం వల్ల కొత్త సవాళ్లు ఎదురవుతున్నాయి, దీనికి కొత్త టెక్నాలజీ అవసరం. CSAI Match పరిష్కారంలో భాగమని నిరూపించబడింది, ఇది మా ప్లాట్‌ఫామ్‌ల నుండి వీడియో CSAMని మెరుగ్గా గుర్తించి, తీసివేయడానికి మమ్మల్ని ఎనేబుల్ చేస్తుంది. - Yahoo!
“కంటెంట్ భద్రత API, మైనర్‌పై లైంగిక హింసను చూపే ఇమేజ్‌లను గుర్తించడానికి అత్యంత ప్రాముఖ్యతనిస్తూ పని చేసే విశ్లేషకులకు సహాయపడుతుంది. ప్రాసెస్ చేయాల్సిన రిపోర్ట్‌ల సంఖ్య నానాటికీ పెరిగిపోతున్నందున, రివ్యూ కోసం ఆ రిపోర్ట్‌లలో వేటికి ప్రాధాన్యతనివ్వాలో విజయవంతంగా అంచనా వేయడం నిజమైన సవాలు. ఈ టెక్నాలజీ, మైనర్‌లపై లైంగిక హింసను చూపే కంటెంట్‌తో కూడిన రిపోర్ట్‌లను విశ్లేషకులు మరింత వేగంగా చూసేందుకు వీలు కల్పిస్తుంది, తద్వారా బాధితులను రక్షించడానికి, కంటెంట్‌ను తీసివేయడానికి వారు వేగంగా పని చేయగలిగేలా చేస్తుంది." - Point de Contact
"ఇంటిగ్రేట్ చేయడానికి సులభంగా ఉండి, వేగంగా స్పందించగలిగి, స్థిరత్వాన్ని, ఖచ్చితత్వాన్ని కలిగి ఉండే కంటెంట్ భద్రత API, CSAM ఇమేజ్‌లను రివ్యూ చేయడానికి విశ్లేషకులకు పట్టే సమయాన్ని గణనీయంగా తగ్గించింది, విశ్లేషణ ప్రాసెస్‌ను ఆప్టిమైజ్ చేసి, వారి శ్రేయస్సుపై సానుకూల ప్రభావాన్ని చూపింది." - Safernet Brasil
తరచుగా అడిగే ప్రశ్నలు
Content Safety API
Content Safety APIకి పంపే డేటా ఏ ఫార్మాట్‌లో ఉండాలి?
మీడియా ఫైల్స్ నుండి తీసుకున్న ప్రాసెస్ చేయని కంటెంట్ బైట్‌లకు, పొందుపరిచిన కంటెంట్‌లు రెండింటికి సపోర్ట్ అందించే ఆప్షన్‌లను మేము అందిస్తున్నాము. మరిన్ని వివరాల కోసం సంప్రదించండి.
టెక్నాలజీ, Content Safety APIని యాక్సెస్ చేయడానికి ఎవరు సైన్ అప్ చేయవచ్చు?
దుర్వినియోగం నుండి తమ ప్లాట్‌ఫామ్‌ను రక్షించుకోవాలనుకునే పరిశ్రమ, సివిల్ సొసైటీ థర్డ్-పార్టీలు, Content Safety APIని యాక్సెస్ చేయడానికి సైన్ అప్ చేయవచ్చు. దరఖాస్తులు ఆమోదానికి లోబడి ఉంటాయి.
మీరు ఈ టూల్స్‌ను ఎందుకు విస్తృతంగా అందుబాటులో ఉంచారు?
ఆన్‌లైన్‌లో పిల్లలపై దాడిని ఎదుర్కోవటానికి ఇతర కంపెనీలు, NGOలతో కలసి పని చేయడం ఉత్తమ మార్గం అని మేము నమ్ముతున్నాము. కొత్త డేటా ఆధారిత టూల్స్‌ను డెవలప్ చేయడానికి, టెక్నికల్ సామర్థ్యాన్ని పెంపొందించడానికి, అవగాహన పెంచడానికి మేము పరిశ్రమలతో, NGOలతో చాలా కాలంగా పని చేస్తున్నాము. మేము ఈ టూల్స్‌ను విస్తృతంగా అందుబాటులో ఉంచుతున్నామని నమ్ముతున్నాము, కాబట్టి మా పార్ట్నర్లు AIని ఉపయోగించి కంటెంట్‌ను ఎక్కువ మొత్తంలో మెరుగ్గా రివ్యూ చేయవచ్చు, ఇది ఈ పోరాటంలో ముఖ్యమైన భాగం.
CSAI Match
CSAI Match ఇమేజ్‌ల విషయంలో పని చేస్తుందా?
CSAI Match వీడియో కోసం డిజైన్ చేయబడింది, కానీ Googleకు చెందిన Content Safety API ద్వారా, పరిశ్రమకు, NGO పార్ట్‌నర్‌లకు టూల్స్ కలెక్షన్ అందుబాటులో ఉంది, ఈ టూల్స్ ఇమేజ్‌ల విషయంలో మెషిన్ లెర్నింగ్ ఆధారిత క్లాసిఫికేషన్‌ను అందిస్తున్నాయి. మరింత తెలుసుకోండి.
గుర్తించబడిన మ్యాచ్‌తో ఏ సమాచారం అందించబడుతుంది?
మ్యాచ్ అనేది వీడియోలోని ఏ భాగం తెలిసిన CSAIకు మ్యాచ్ అవుతుందో గుర్తిస్తుంది, అలాగే మ్యాచ్ అయిన కంటెంట్ రకం ఏ ప్రామాణిక కేటగిరీకి చెందుతుందో తెలియజేస్తుంది.
CSAI Match టెక్నాలజీ ఎక్కువ సమర్థవంతంగా పని చేయడానికి దోహదపడే అంశాలు ఏమిటి?
CSAI Match, దాదాపు 'తెలిసిన CSAI కంటెంట్' లాగా ఉండే డూప్లికేట్ విభాగాలను గుర్తిస్తుంది. MD5 హాష్ మ్యాచింగ్ ద్వారా గుర్తించగల ఫుల్ డూప్లికేట్‌లు ఇందులోకి వస్తాయి. అలాగే, దాదాపు డూప్లికేట్‌లు కాదగిన రీ-ఎన్‌కోడింగ్‌లు, అబ్‌ఫస్‌కేషన్స్‌ (అస్పష్టమైన), ట్రంకేషన్స్ (కుదించిన) లేదా స్కేలింగ్ (రీసైజ్) చేసిన CSAI వీడియోలు కూడా ఇందులోకి వస్తాయి. ఒక వీడియోలో CSAIలోని కొంత భాగం మాత్రమే ఉండి, అది నాన్-CSAI కంటెంట్‌తో కలిపి ఉన్నా కూడా ఈ పరిధిలోకి వస్తుంది. పార్ట్నర్లు వీడియోకు చెందిన “ఫింగర్‌ప్రింట్”ను రూపొందించడానికి ఫింగర్‌ప్రింట్ బైనరీని రన్ చేస్తారు, ఇది MD5 హ్యాష్‌కు సారూప్యమైన బైట్-సీక్వెన్స్. ఆపై దాన్ని Googleకు చెందిన CSAI Match సర్వీస్‌కు పంపుతారు, ఈ సర్వీస్ తెలిసిన CSAI సంబంధిత YouTube కార్పస్ రెఫరెన్స్‌లకు అనుగుణంగా వీడియోను స్కాన్ చేస్తున్నప్పుడు సమర్థవంతమైన ఫలితాలను అందిచడం కోసం ప్రత్యేకంగా రూపొందించబడింది.