પ્રાધાન્યતા નક્કી કરવા માટેના બહેતર ટૂલ

પ્રાધાન્યતા નક્કી કરવા માટેના બહેતર ટૂલ


APIs, અપમાનજનક કન્ટેન્ટના માનવ દ્વારા કરવામાં આવતા રિવ્યૂને પ્રાધાન્યતા આપીને ઑનલાઇન બાળ શોષણ સામે લડવામાં સહાય કરે છે.

ઝડપભેર ઓળખવાની સુવિધા

ખૂબ જ ઝડપથી ઓળખવાની સુવિધા


કન્ટેન્ટની ઓળખાણ વધુ ઝડપથી થઈ જવાથી પીડિતોને ઓળખી શકવાની અને તેમનું વધુ શોષણ થાય તે પહેલાં તેમને બચાવી શકવાની સંભાવના વધી જાય છે.

કામ કરવાની વધુ સલામત સુવિધા

કામ કરવાની વધુ સલામત સુવિધા


રિવ્યૂ માટેની કતારને વધુ કાર્યક્ષમ અને સરળ બનાવવાથી કન્ટેન્ટમાં ફેરફાર કરનારા લોકોનું કામ પણ સરળ બની જાય છે.

અમારા ટૂલ વિશે જાણો

અમારા ટૂલમાં અન્ય ટૂલ સાથે કામ કરવાની ક્ષમતા પણ છે. વ્યક્તિગત જરૂરિયાતોને આધારે તેનો ઉપયોગ અન્ય ટૂલ અને પદ્ધતિઓ સાથે કરી શકાય છે.

Content Safety API

Content Safety API

અગાઉ ન જોયેલી છબીઓ અને વીડિયોનું વર્ગીકરણ

CSAI Match

CSAI Match

અપમાનજનક કન્ટેન્ટ તરીકે જાણીતા વીડિયોના વિભાગોનો મેળ કરવો

Content Safety API

આના માટે ઉપયોગમાં લેવાય છે: અગાઉ ન જોયેલી છબીઓ અને વીડિયોનું વર્ગીકરણ


Content Safety API ક્લાસિફાયર, અમારા પાર્ટનરને અબજો છબીઓ અને વીડિયોના રિવ્યૂ માટે તેમનું વર્ગીકરણ કરવામાં અને તેમને પ્રાધાન્યતા આપવામાં સહાય કરવા માટે, પ્રોગ્રામૅટિક ઍક્સેસ અને આર્ટિફિશિયલ ઇન્ટેલિજન્સનો ઉપયોગ કરે છે. ક્લાસિફાયર કોઈ મીડિયા ફાઇલને જેટલી વધુ પ્રાધાન્યતા આપે છે, તેમાં તેટલું જ વધુ અયોગ્ય કન્ટેન્ટ હોવાની શક્યતા હોય છે, જેને કારણે પાર્ટનરને માનવ દ્વારા કરવામાં આવતા રિવ્યૂમાં કયા કન્ટેન્ટને પ્રાધાન્યતા આપવી અને તે કન્ટેન્ટ વિશે પોતાનો આગવો નિર્ણય લેવામાં સહાય મળી શકે છે. Content Safety API તેને મોકલવામાં આવેલા કન્ટેન્ટ પર પ્રાધાન્યતા આપવા માટેના ક્રમનો સુઝાવ જારી કરે છે. કન્ટેન્ટ પર કોઈ પગલાં લેવા જોઈએ કે નહીં એ નક્કી કરવા માટે પાર્ટનરે પોતે પોતાનો રિવ્યૂ કરવો આવશ્યક છે.

જ્યારે કામગીરીની વાત આવે છે, ત્યારે અમારો સુઝાવ છે કે રિવ્યૂની મેન્યુઅલ પ્રક્રિયા કરતા પહેલાં જ સંસ્થાઓ દ્વારા તેમની કતારમાંના કન્ટેન્ટનું વર્ગીકરણ કરવા, તેમને પ્રાધાન્યતા આપવા અને તેમને વ્યવસ્થિત રીતે ગોઠવવામાં સહાય માટે Content Safety APIનો ઉપયોગ કરવામાં આવે. Content Safety APIનો ઉપયોગ અન્ય ટૂલ અથવા પદ્ધતિઓ સાથે પણ કરી શકાય છે, જેમ કે YouTubeનું CSAI Match વીડિયો હૅશિંગ ટૂલ અથવા Microsoftનું PhotoDNA, જે દરેક વિવિધ જરૂરિયાતો પૂરી કરે છે.

તે કેવી રીતે કાર્ય કરે છે?

છબીની પુનઃપ્રાપ્તિ

1. ફાઇલની પુનઃપ્રાપ્તિ

પાર્ટનર અનેક પ્રકારે ફાઇલો પાછી મેળવી શકે છે, ઉદાહરણ તરીકે કોઈ વપરાશકર્તા દ્વારા જાણ કરવામાં આવી હોય અથવા ક્રૉલર દ્વારા કે પાર્ટનરે તેમના પ્લૅટફૉર્મ પર ફાઇલોમાં ફેરફાર કરવા માટે બનાવેલા ફિલ્ટર મારફતે ઓળખવામાં આવી હોય.

પાર્ટનર

વપરાશકર્તા દ્વારા જાણ કરવામાં આવેલી છબીઓ અને વીડિયો

ક્રૉલર

પહેલાથી લાગુ કરવામાં આવેલા ફિલ્ટર

(અશ્લીલ/અન્ય ક્લાસિફાયર)

API રિવ્યૂ

2. API રિવ્યૂ

ત્યાર પછી મીડિયા ફાઇલોને એક સરળ API કૉલ મારફતે Content Safety API પર મોકલવામાં આવે છે. રિવ્યૂ માટે કઈ ફાઇલને પ્રાધાન્યતા આપવી તે નક્કી કરવા ક્લાસિફાયર ચલાવવામાં આવે છે અને ત્યાર બાદ દરેક કન્ટેન્ટના અંશનો પ્રાધાન્યતાનો ક્રમ પાર્ટનરને પાછો મોકલવામાં આવે છે.

Google

Content Safety API

ક્લાસિફાયર ટેક્નોલોજી

મેન્યુઅલ રિવ્યૂ

3. મેન્યુઅલ રિવ્યૂ

મેન્યુઅલ રિવ્યૂમાં પહેલા ધ્યાન આપવું જરૂરી હોય એવી ફાઇલોને પ્રાધાન્યતા આપવા માટે પાર્ટનર પ્રાધાન્યતાના ક્રમનો ઉપયોગ કરે છે.

પાર્ટનર

મેન્યુઅલ રિવ્યૂ

પગલું લો

4. પગલું લો

એક વાર છબી અને વીડિયો ફાઇલોનો મેન્યુઅલ રિવ્યૂ પૂરો થઈ જાય, ત્યાર બાદ સ્થાનિક કાયદા અને નિયમનો અનુસાર પાર્ટનર કન્ટેન્ટ પર પગલાં લઈ શકે છે.

પાર્ટનર

રિવ્યૂ અનુસાર યોગ્ય પગલાં લેવા

CSAI Match

આના માટે ઉપયોગમાં લેવાય છે: દુરુપયોગ કરવામાં આવતા જાણીતા વીડિયો સેગ્મેન્ટનો મેળ કરવો


CSAI Match એ CSAI (બાળ શારીરિક શોષણને લગતું કન્ટેન્ટ) ધરાવતા ઑનલાઇન વીડિયો સામે લડવા માટેની YouTubeની ખાનગી માલિકીની ટેક્નોલોજી છે. આ પહેલી એવી ટેક્નોલોજી છે કે જેમાં નિયમોનું ઉલ્લંઘનકારી કન્ટેન્ટને ઓળખવા માટે હૅશ મેચિંગનો ઉપયોગ કરવામાં આવ્યો છે અને તેને કારણે નિયમોનું ઉલ્લંઘન કરતા ન હોય એવા ખૂબ જ મોટી સંખ્યામાં ઉપલબ્ધ વીડિયો કન્ટેન્ટની વચ્ચે અમે આવા પ્રકારના ઉલ્લંઘનકારી કન્ટેન્ટને ઓળખી શકીએ છીએ. જ્યારે નિયમોનું ઉલ્લંઘન કરતા કન્ટેન્ટનો મેળ મળે છે ત્યારે સ્થાનિક કાયદા અને નિયમનો અનુસાર તેનો રિવ્યૂ કરવા, તેને કન્ફર્મ કરવા અને જવાબદારીપૂર્વક તેની જાણ કરવા માટે તેને પાર્ટનરને ચિહ્નિત કરવામાં આવે છે. YouTube આ ઉદ્યોગમાં શામેલ પાર્ટનર અને NGOsને CSAI Match ઉપલબ્ધ કરાવે છે. અમારા ડેટાબેઝમાં શામેલ અપમાનજનક કન્ટેન્ટ તરીકે જાણીતા કન્ટેન્ટ સાથે મેળ ખાતા ઉલ્લંઘનકારી કન્ટેન્ટને ઓળખી કાઢવા માટે અમે તેમને ફિંગરપ્રિન્ટની સુવિધા ધરાવતા સૉફ્ટવેર અને APIનો ઍક્સેસ આપીએ છીએ.

ઑનલાઇન પ્લૅટફૉર્મ, CSAI કન્ટેન્ટ તરીકે જાણીતા કન્ટેન્ટના સૌથી મોટા સૂચકાંકોમાંના કોઈ એક સૂચકાંક સાથે તેમના કન્ટેન્ટની તુલના કરવા માટે CSAI Matchનો ઉપયોગ કરી શકે છે અને તેમની સાઇટ પર ઉલ્લંઘનકારી કન્ટેન્ટને બતાવવા અને તેને શેર થતા અટકાવી શકે છે. પાર્ટનર માટે CSAI Match ટેક્નોલોજીને તેમની સિસ્ટમમાં શામેલ કરવી સરળ છે, જેને કારણે તેઓ પડકારરૂપ કન્ટેન્ટનું મેનેજમેન્ટ ઘણી સારી રીતે કરી શકે છે.

તે કેવી રીતે કાર્ય કરે છે?

વીડિયોની ફિંગરપ્રિન્ટિંગ

1. વીડિયોની ફિંગરપ્રિન્ટિંગ

વીડિયોને પાર્ટનરના પ્લૅટફૉર્મ પર અપલોડ કરવામાં આવે છે. CSAI Matchની ફિંગરપ્રિન્ટ ટેક્નોલોજી, પાર્ટનરના પ્લૅટફૉર્મ પર ચલાવવામાં આવતી વીડિયોની ફિંગરપ્રિન્ટ ફાઇલ બનાવે છે, તે એવું ડિજિટલ ID હોય છે કે જે વીડિયો ફાઇલના કન્ટેન્ટને અનોખી રીતે રજૂ કરે છે.

પાર્ટનર

વીડિયો ફાઇલ

ફિંગરપ્રિન્ટ ટેક્નોલોજી

ફિંગરપ્રિન્ટ ફાઇલ

API રિવ્યૂ

2. API રિવ્યૂ

પાર્ટનર CSAI Match API મારફતે ફિંગરપ્રિન્ટ ફાઇલ મોકલે છે, જેથી YouTubeના ફિંગરપ્રિન્ટના ભંડારમાં સાચવેલી અન્ય ફાઇલો સાથે તેની તુલના કરી શકાય. ભંડારમાં YouTube અને Google દ્વારા ભાળ મેળવવામાં આવેલા અપમાનજનક કન્ટેન્ટની ફિંગરપ્રિન્ટ હોય છે.

YouTube

CSAI Match API

CSAI Match ટેક્નોલોજી

શેર કરેલું CSAI

ફિંગરપ્રિન્ટના ડેટાનો ભંડાર

મેન્યુઅલ રિવ્યૂ

3. મેન્યુઅલ રિવ્યૂ

એક વાર API પર કૉલ પૂરો થઈ જાય પછી પાર્ટનરને સકારાત્મક અથવા નકારાત્મક મેળ પરત કરવામાં આવે છે. વીડિયો CSAI છે કે નહીં તેની ચકાસણી કરવા માટે પાર્ટનર આ મેળની માહિતીના આધારે તેનો મેન્યુઅલી રિવ્યૂ કરે છે.

પાર્ટનર

મેન્યુઅલ રિવ્યૂ

પગલું લો

4. પગલું લો

એક વાર બધી છબીઓનો રિવ્યૂ થઈ જાય પછી પાર્ટનર સ્થાનિક કાયદા અને નિયમનો અનુસાર કન્ટેન્ટ પર પગલાં લઈ શકે છે.

પાર્ટનર

રિવ્યૂ અનુસાર યોગ્ય પગલાં લેવા

Content Safety API

આના માટે ઉપયોગમાં લેવાય છે: અગાઉ ન જોયેલી છબીઓ અને વીડિયોનું વર્ગીકરણ

Content Safety API ક્લાસિફાયર, અમારા પાર્ટનરને અબજો છબીઓ અને વીડિયોના રિવ્યૂ માટે તેમનું વર્ગીકરણ કરવામાં અને તેમને પ્રાધાન્યતા આપવામાં સહાય કરવા માટે, પ્રોગ્રામૅટિક ઍક્સેસ અને આર્ટિફિશિયલ ઇન્ટેલિજન્સનો ઉપયોગ કરે છે. ક્લાસિફાયર કોઈ મીડિયા ફાઇલને જેટલી વધુ પ્રાધાન્યતા આપે છે, તેમાં તેટલું જ વધુ અયોગ્ય કન્ટેન્ટ હોવાની શક્યતા હોય છે, જેને કારણે પાર્ટનરને માનવ દ્વારા કરવામાં આવતા રિવ્યૂમાં કયા કન્ટેન્ટને પ્રાધાન્યતા આપવી અને તે કન્ટેન્ટ વિશે પોતાનો આગવો નિર્ણય લેવામાં સહાય મળી શકે છે. Content Safety API તેને મોકલવામાં આવેલા કન્ટેન્ટ પર પ્રાધાન્યતા આપવા માટેના ક્રમનો સુઝાવ જારી કરે છે. કન્ટેન્ટ પર કોઈ પગલાં લેવા જોઈએ કે નહીં એ નક્કી કરવા માટે પાર્ટનરે પોતે પોતાનો રિવ્યૂ કરવો આવશ્યક છે.

જ્યારે કામગીરીની વાત આવે છે, ત્યારે અમારો સુઝાવ છે કે રિવ્યૂની મેન્યુઅલ પ્રક્રિયા કરતા પહેલાં જ સંસ્થાઓ દ્વારા તેમની કતારમાંના કન્ટેન્ટનું વર્ગીકરણ કરવા, તેમને પ્રાધાન્યતા આપવા અને તેમને વ્યવસ્થિત રીતે ગોઠવવામાં સહાય માટે Content Safety APIનો ઉપયોગ કરવામાં આવે. Content Safety APIનો ઉપયોગ અન્ય ટૂલ અથવા પદ્ધતિઓ સાથે પણ કરી શકાય છે, જેમ કે YouTubeનું CSAI Match વીડિયો હૅશિંગ ટૂલ અથવા Microsoftનું PhotoDNA, જે દરેક વિવિધ જરૂરિયાતો પૂરી કરે છે.

CSAI Match

આના માટે ઉપયોગમાં લેવાય છે: દુરુપયોગ કરવામાં આવતા જાણીતા વીડિયો સેગ્મેન્ટનો મેળ કરવો

CSAI Match એ CSAI (બાળ શારીરિક શોષણને લગતું કન્ટેન્ટ) ધરાવતા ઑનલાઇન વીડિયો સામે લડવા માટેની YouTubeની ખાનગી માલિકીની ટેક્નોલોજી છે. આ પહેલી એવી ટેક્નોલોજી છે કે જેમાં નિયમોનું ઉલ્લંઘનકારી કન્ટેન્ટને ઓળખવા માટે હૅશ મેચિંગનો ઉપયોગ કરવામાં આવ્યો છે અને તેને કારણે નિયમોનું ઉલ્લંઘન કરતા ન હોય એવા ખૂબ જ મોટી સંખ્યામાં ઉપલબ્ધ વીડિયો કન્ટેન્ટની વચ્ચે અમે આવા પ્રકારના ઉલ્લંઘનકારી કન્ટેન્ટને ઓળખી શકીએ છીએ. જ્યારે નિયમોનું ઉલ્લંઘન કરતા કન્ટેન્ટનો મેળ મળે છે ત્યારે સ્થાનિક કાયદા અને નિયમનો અનુસાર તેનો રિવ્યૂ કરવા, તેને કન્ફર્મ કરવા અને જવાબદારીપૂર્વક તેની જાણ કરવા માટે તેને પાર્ટનરને ચિહ્નિત કરવામાં આવે છે. YouTube આ ઉદ્યોગમાં શામેલ પાર્ટનર અને NGOsને CSAI Match ઉપલબ્ધ કરાવે છે. અમારા ડેટાબેઝમાં શામેલ અપમાનજનક કન્ટેન્ટ તરીકે જાણીતા કન્ટેન્ટ સાથે મેળ ખાતા ઉલ્લંઘનકારી કન્ટેન્ટને ઓળખી કાઢવા માટે અમે તેમને ફિંગરપ્રિન્ટની સુવિધા ધરાવતા સૉફ્ટવેર અને APIનો ઍક્સેસ આપીએ છીએ.

ઑનલાઇન પ્લૅટફૉર્મ, CSAI કન્ટેન્ટ તરીકે જાણીતા કન્ટેન્ટના સૌથી મોટા સૂચકાંકોમાંના કોઈ એક સૂચકાંક સાથે તેમના કન્ટેન્ટની તુલના કરવા માટે CSAI Matchનો ઉપયોગ કરી શકે છે અને તેમની સાઇટ પર ઉલ્લંઘનકારી કન્ટેન્ટને બતાવવા અને તેને શેર થતા અટકાવી શકે છે. પાર્ટનર માટે CSAI Match ટેક્નોલોજીને તેમની સિસ્ટમમાં શામેલ કરવી સરળ છે, જેને કારણે તેઓ પડકારરૂપ કન્ટેન્ટનું મેનેજમેન્ટ ઘણી સારી રીતે કરી શકે છે.

બાળકોની સુરક્ષા માટેની ટૂલકિટમાં રુચિ માટેનું ફોર્મ

શું ટૂલકિટ વાપરવામાં રુચિ છે?

તમારી રુચિ નોંધાવવા માટે તમારી સંસ્થાની અમુક વિગતો શેર કરો

રુચિ માટેનું ફોર્મ જુઓ

પ્રશંસાપત્રો

સામાન્ય પ્રશ્નો

Content Safety API

Content Safety APIને મોકલેલા ડેટાનું ફૉર્મેટ શું છે?

અમારી પાસે ફેરફાર કર્યા વિનાના કન્ટેન્ટ બાઇટ અને મીડિયા ફાઇલોમાંથી પ્રાપ્ત શામેલ કરેલા બન્નેને સપોર્ટ કરવાના વિકલ્પો છે. વધુ વિગતો માટે સંપર્ક કરો.

આ ટેક્નોલોજી અને Content Safety APIના ઍક્સેસ માટે કોણ સાઇન અપ કરી શકે છે?

પોતાના પ્લૅટફૉર્મનો દુરુપયોગ થવાથી બચાવવા માગતા ઉદ્યોગ અને નાગરિક સોસાયટી સાથે જોડાયેલા ત્રીજા પક્ષો, Content Safety APIના ઍક્સેસ માટે સાઇન અપ કરી શકે છે. ઍપ્લિકેશન મંજૂરીને આધીન હોય છે.

શા માટે તમે આ ટૂલ તમામ લોકોને ઉપલબ્ધ કરાવવા માગો છો?

અમારું માનવું છે કે ઑનલાઇન બાળકોના શોષણનો સામનો કરવાનો સૌથી શ્રેષ્ઠ અભિગમ છે અન્ય કંપનીઓ અને NGOs સાથે મળીને કામ કરવું. અમે ડેટા આધારિત નવા ટૂલ ડેવલપ કરવા, ટેક્નિકલ ક્ષમતા વધારવા અને જાગરૂકતા ફેલાવવામાં સપોર્ટ કરવા માટે ઘણા સમયથી આ ઉદ્યોગની કંપનીઓ અને NGOs સાથે મળીને કામ કરી રહ્યાં છીએ. અમે આ ટૂલ તમામ લોકોને ઉપલબ્ધ કરાવવા માગીએ છીએ, જેથી અમારા પાર્ટનર કન્ટેન્ટનો રિવ્યૂ વધુ સારી રીતે કરવા માટે મોટા પાયે AIનો ઉપયોગ કરી શકે, જે આ લડાઈ લડવા માટે જરૂરી પણ છે.

CSAI Match

શું CSAI Match છબીઓ પર કામ કરે છે?

આમ તો CSAI Matchની ડિઝાઇન વીડિયો માટે કરવામાં આવી છે, પરંતુ Googleના Content Safety API મારફતે આ ઉદ્યોગની કંપનીઓ અને NGO જેવા પાર્ટનર માટે ટૂલનો આ સંગ્રહ ઉપલબ્ધ છે, જે મશીન લર્નિંગ સંચાલિત છબીઓના વર્ગીકરણની પ્રક્રિયા ઑફર કરે છે. વધુ જાણો.

ઓળખવામાં આવેલા કન્ટેન્ટના મેળ સાથે કઈ માહિતી પરત કરવામાં આવે છે?

આ મેળ એ ઓળખશે કે વીડિયોનો કયો ભાગ CSAI કન્ટેન્ટ તરીકે જાણીતા કન્ટેન્ટ સાથે મેળ ખાય છે, તેમજ તે મેળ ખાતા કન્ટેન્ટનું તેના પ્રકારને આધારે વર્ગીકરણ પણ કરશે.

એવું શું છે જે CSAI Match ટેક્નોલોજીને આટલી કાર્યક્ષમ બનાવે છે?

CSAI Match એવા ડુપ્લિકેટ વિભાગોની ભાળ મેળવે છે, જે CSAI કન્ટેન્ટ તરીકે જાણીતા કન્ટેન્ટ સાથે ઘણે અંશે મેળ ખાતા હોય. આમાં સંપૂર્ણ ડુપ્લિકેટ વિભાગો શામેલ છે, જેને MD5 હૅશ મેચિંગ ટેક્નોલોજીની સહાયથી ઓળખવામાં આવશે તેમજ તેમાં ઘણાં-ખરા અંશે મેળ ખાતા એવા પણ ડુપ્લિકેટ વિભાગો હોઈ શકે છે કે જેમાં CSAI વીડિયોને કદાચ ફરી એન્કોડ કરીને, વાંચવામાં મુશ્કેલ બનાવીને, કાપ-કૂપ કરીને અથવા તો તેના રિઝોલ્યુશનમાં ફેરફાર કરીને અપલોડ કરવામાં આવ્યા હોય – પછી ભલે કોઈ વીડિયોમાં CSAIનો માત્ર નાનકડો ભાગ શામેલ કરવામાં આવ્યો હોય અને બાકીનું કન્ટેન્ટ CSAI ધરાવતું ન હોય તો એવા પ્રકારના કન્ટેન્ટને પણ આ ટેક્નોલોજી ઓળખી લે છે. પાર્ટનર વિડિયોની "ફિંગરપ્રિન્ટ" બનાવવા માટે ફિંગરપ્રિન્ટિંગની સુવિધા ધરાવતો બાઇનરી પ્રોગ્રામ ચલાવે છે, જે MD5 હૅશ જેવી બાઇટ-સિક્વન્સ ધરાવે છે. પછી તેને Googleની CSAI Match સેવાને મોકલવામાં આવે છે, જે ખાસ કરીને અગાઉથી ઓળખી લેવામાં આવ્યા હોય એવા CSAI સંદર્ભો ધરાવતા YouTubeના સંગ્રહ સાથે વીડિયોને અસરકારક રીતે સ્કૅન કરવા માટે ડિઝાઇન કરવામાં આવી છે.