Google અને YouTube પર અમે અપમાનજનક કન્ટેન્ટના રિવ્યૂને વધુ સારી રીતે પ્રાધાન્યતા આપીને બાળકોને સુરક્ષિત રાખવામાં સંસ્થાઓની સહાય કરવા માટે ટૂલ ડેવલપ કર્યા છે.
આ ટૂલકિટમાં બે API સૌથી ખાસ છે, પહેલું છે કન્ટેન્ટ સુરક્ષા API અને બીજું છે CSAI Match, જે પાત્રતા ધરાવતા ભાગીદારોને અમે કોઈ કિંમત વિના ઑફર કરીએ છીએ. અમારા ભાગીદારો અબજો ફાઇલો પર પ્રક્રિયા કરવા માટે આ ટેક્નોલોજીનો ઉપયોગ કરે છે, જે તેમને અપમાનજનક વર્તન ધરાવતા કન્ટેન્ટ માટે દર વર્ષે લાખો છબીઓ અને વીડિયોનું મૂલ્યાંકન કરવાની મંજૂરી આપે છે.
-
પ્રાધાન્યતા નક્કી કરવા માટેના બહેતર ટૂલ
APIs, અપમાનજનક કન્ટેન્ટના માનવ દ્વારા કરવામાં આવતા રિવ્યૂને પ્રાધાન્યતા આપીને ઑનલાઇન બાળ શોષણ સામે લડવામાં સહાય કરે છે.
-
ખૂબ જ ઝડપથી ઓળખવાની સુવિધા
કન્ટેન્ટની ઓળખાણ વધુ ઝડપથી થઈ જવાથી પીડિતોને ઓળખી શકવાની અને તેમનું વધુ શોષણ થાય તે પહેલાં તેમને બચાવી શકવાની સંભાવના વધી જાય છે.
-
કામ કરવાની વધુ સલામત સુવિધા
રિવ્યૂ માટેની કતારને વધુ કાર્યક્ષમ અને સરળ બનાવવાથી કન્ટેન્ટમાં ફેરફાર કરનારા લોકોનું કામ પણ સરળ બની જાય છે.
અમારા ટૂલ વિશે જાણો
અગાઉ ન જોયેલી છબીઓ અને વીડિયોનું વર્ગીકરણ
અપમાનજનક કન્ટેન્ટ તરીકે જાણીતા વીડિયોના વિભાગોનો મેળ કરવો
Content Safety API
આના માટે ઉપયોગમાં લેવાય છે: અગાઉ ન જોયેલી છબીઓ અને વીડિયોનું વર્ગીકરણ
Content Safety API ક્લાસિફાયર, અમારા પાર્ટનરને અબજો છબીઓ અને વીડિયોના રિવ્યૂ માટે તેમનું વર્ગીકરણ કરવામાં અને તેમને પ્રાધાન્યતા આપવામાં સહાય કરવા માટે, પ્રોગ્રામૅટિક ઍક્સેસ અને આર્ટિફિશિયલ ઇન્ટેલિજન્સનો ઉપયોગ કરે છે. ક્લાસિફાયર કોઈ મીડિયા ફાઇલને જેટલી વધુ પ્રાધાન્યતા આપે છે, તેમાં તેટલું જ વધુ અયોગ્ય કન્ટેન્ટ હોવાની શક્યતા હોય છે, જેને કારણે પાર્ટનરને માનવ દ્વારા કરવામાં આવતા રિવ્યૂમાં કયા કન્ટેન્ટને પ્રાધાન્યતા આપવી અને તે કન્ટેન્ટ વિશે પોતાનો આગવો નિર્ણય લેવામાં સહાય મળી શકે છે. Content Safety API તેને મોકલવામાં આવેલા કન્ટેન્ટ પર પ્રાધાન્યતા આપવા માટેના ક્રમનો સુઝાવ જારી કરે છે. કન્ટેન્ટ પર કોઈ પગલાં લેવા જોઈએ કે નહીં એ નક્કી કરવા માટે પાર્ટનરે પોતે પોતાનો રિવ્યૂ કરવો આવશ્યક છે.
જ્યારે કામગીરીની વાત આવે છે, ત્યારે અમારો સુઝાવ છે કે રિવ્યૂની મેન્યુઅલ પ્રક્રિયા કરતા પહેલાં જ સંસ્થાઓ દ્વારા તેમની કતારમાંના કન્ટેન્ટનું વર્ગીકરણ કરવા, તેમને પ્રાધાન્યતા આપવા અને તેમને વ્યવસ્થિત રીતે ગોઠવવામાં સહાય માટે Content Safety APIનો ઉપયોગ કરવામાં આવે. Content Safety APIનો ઉપયોગ અન્ય ટૂલ અથવા પદ્ધતિઓ સાથે પણ કરી શકાય છે, જેમ કે YouTubeનું CSAI Match વીડિયો હૅશિંગ ટૂલ અથવા Microsoftનું PhotoDNA, જે દરેક વિવિધ જરૂરિયાતો પૂરી કરે છે.
તે કેવી રીતે કાર્ય કરે છે?
-
1. ફાઇલની પુનઃપ્રાપ્તિ
પાર્ટનર અનેક પ્રકારે ફાઇલો પાછી મેળવી શકે છે, ઉદાહરણ તરીકે કોઈ વપરાશકર્તા દ્વારા જાણ કરવામાં આવી હોય અથવા ક્રૉલર દ્વારા કે પાર્ટનરે તેમના પ્લૅટફૉર્મ પર ફાઇલોમાં ફેરફાર કરવા માટે બનાવેલા ફિલ્ટર મારફતે ઓળખવામાં આવી હોય.
-
2. API રિવ્યૂ
ત્યાર પછી મીડિયા ફાઇલોને એક સરળ API કૉલ મારફતે Content Safety API પર મોકલવામાં આવે છે. રિવ્યૂ માટે કઈ ફાઇલને પ્રાધાન્યતા આપવી તે નક્કી કરવા ક્લાસિફાયર ચલાવવામાં આવે છે અને ત્યાર બાદ દરેક કન્ટેન્ટના અંશનો પ્રાધાન્યતાનો ક્રમ પાર્ટનરને પાછો મોકલવામાં આવે છે.
-
3. મેન્યુઅલ રિવ્યૂ
મેન્યુઅલ રિવ્યૂમાં પહેલા ધ્યાન આપવું જરૂરી હોય એવી ફાઇલોને પ્રાધાન્યતા આપવા માટે પાર્ટનર પ્રાધાન્યતાના ક્રમનો ઉપયોગ કરે છે.
-
4. પગલું લો
એક વાર છબી અને વીડિયો ફાઇલોનો મેન્યુઅલ રિવ્યૂ પૂરો થઈ જાય, ત્યાર બાદ સ્થાનિક કાયદા અને નિયમનો અનુસાર પાર્ટનર કન્ટેન્ટ પર પગલાં લઈ શકે છે.
|
પાર્ટનર |
|
પાર્ટનર |
પાર્ટનર |
|||
|---|---|---|---|---|---|---|
|
વપરાશકર્તા દ્વારા જાણ કરવામાં આવેલી છબીઓ અને વીડિયો ક્રૉલર પહેલાથી લાગુ કરવામાં આવેલા ફિલ્ટર (અશ્લીલ/અન્ય ક્લાસિફાયર) |
I |
Content Safety API I ક્લાસિફાયર ટેક્નોલોજી |
I |
મેન્યુઅલ રિવ્યૂ |
I |
રિવ્યૂ અનુસાર યોગ્ય પગલાં લેવા |
CSAI Match
આના માટે ઉપયોગમાં લેવાય છે: દુરુપયોગ કરવામાં આવતા જાણીતા વીડિયો સેગ્મેન્ટનો મેળ કરવો
CSAI Match એ CSAI (બાળ શારીરિક શોષણને લગતું કન્ટેન્ટ) ધરાવતા ઑનલાઇન વીડિયો સામે લડવા માટેની YouTubeની ખાનગી માલિકીની ટેક્નોલોજી છે. આ પહેલી એવી ટેક્નોલોજી છે કે જેમાં નિયમોનું ઉલ્લંઘનકારી કન્ટેન્ટને ઓળખવા માટે હૅશ મેચિંગનો ઉપયોગ કરવામાં આવ્યો છે અને તેને કારણે નિયમોનું ઉલ્લંઘન કરતા ન હોય એવા ખૂબ જ મોટી સંખ્યામાં ઉપલબ્ધ વીડિયો કન્ટેન્ટની વચ્ચે અમે આવા પ્રકારના ઉલ્લંઘનકારી કન્ટેન્ટને ઓળખી શકીએ છીએ. જ્યારે નિયમોનું ઉલ્લંઘન કરતા કન્ટેન્ટનો મેળ મળે છે ત્યારે સ્થાનિક કાયદા અને નિયમનો અનુસાર તેનો રિવ્યૂ કરવા, તેને કન્ફર્મ કરવા અને જવાબદારીપૂર્વક તેની જાણ કરવા માટે તેને પાર્ટનરને ચિહ્નિત કરવામાં આવે છે. YouTube આ ઉદ્યોગમાં શામેલ પાર્ટનર અને NGOsને CSAI Match ઉપલબ્ધ કરાવે છે. અમારા ડેટાબેઝમાં શામેલ અપમાનજનક કન્ટેન્ટ તરીકે જાણીતા કન્ટેન્ટ સાથે મેળ ખાતા ઉલ્લંઘનકારી કન્ટેન્ટને ઓળખી કાઢવા માટે અમે તેમને ફિંગરપ્રિન્ટની સુવિધા ધરાવતા સૉફ્ટવેર અને APIનો ઍક્સેસ આપીએ છીએ.
ઑનલાઇન પ્લૅટફૉર્મ, CSAI કન્ટેન્ટ તરીકે જાણીતા કન્ટેન્ટના સૌથી મોટા સૂચકાંકોમાંના કોઈ એક સૂચકાંક સાથે તેમના કન્ટેન્ટની તુલના કરવા માટે CSAI Matchનો ઉપયોગ કરી શકે છે અને તેમની સાઇટ પર ઉલ્લંઘનકારી કન્ટેન્ટને બતાવવા અને તેને શેર થતા અટકાવી શકે છે. પાર્ટનર માટે CSAI Match ટેક્નોલોજીને તેમની સિસ્ટમમાં શામેલ કરવી સરળ છે, જેને કારણે તેઓ પડકારરૂપ કન્ટેન્ટનું મેનેજમેન્ટ ઘણી સારી રીતે કરી શકે છે.
તે કેવી રીતે કાર્ય કરે છે?
-
1. વીડિયોની ફિંગરપ્રિન્ટિંગ
વીડિયોને પાર્ટનરના પ્લૅટફૉર્મ પર અપલોડ કરવામાં આવે છે. CSAI Matchની ફિંગરપ્રિન્ટ ટેક્નોલોજી, પાર્ટનરના પ્લૅટફૉર્મ પર ચલાવવામાં આવતી વીડિયોની ફિંગરપ્રિન્ટ ફાઇલ બનાવે છે, તે એવું ડિજિટલ ID હોય છે કે જે વીડિયો ફાઇલના કન્ટેન્ટને અનોખી રીતે રજૂ કરે છે.
-
2. API રિવ્યૂ
પાર્ટનર CSAI Match API મારફતે ફિંગરપ્રિન્ટ ફાઇલ મોકલે છે, જેથી YouTubeના ફિંગરપ્રિન્ટના ભંડારમાં સાચવેલી અન્ય ફાઇલો સાથે તેની તુલના કરી શકાય. ભંડારમાં YouTube અને Google દ્વારા ભાળ મેળવવામાં આવેલા અપમાનજનક કન્ટેન્ટની ફિંગરપ્રિન્ટ હોય છે.
-
3. મેન્યુઅલ રિવ્યૂ
એક વાર API પર કૉલ પૂરો થઈ જાય પછી પાર્ટનરને સકારાત્મક અથવા નકારાત્મક મેળ પરત કરવામાં આવે છે. વીડિયો CSAI છે કે નહીં તેની ચકાસણી કરવા માટે પાર્ટનર આ મેળની માહિતીના આધારે તેનો મેન્યુઅલી રિવ્યૂ કરે છે.
-
4. પગલું લો
એક વાર બધી છબીઓનો રિવ્યૂ થઈ જાય પછી પાર્ટનર સ્થાનિક કાયદા અને નિયમનો અનુસાર કન્ટેન્ટ પર પગલાં લઈ શકે છે.
|
પાર્ટનર |
YOUTUBE |
પાર્ટનર |
પાર્ટનર |
|||
|---|---|---|---|---|---|---|
|
વીડિયો ફાઇલ I ફિંગરપ્રિન્ટ ટેક્નોલોજી I ફિંગરપ્રિન્ટ ફાઇલ |
I |
CSAI Match API I CSAI Match ટેક્નોલોજી I શેર કરેલું CSAI ફિંગરપ્રિન્ટના ડેટાનો ભંડાર |
I |
મેન્યુઅલ રિવ્યૂ |
I |
રિવ્યૂ અનુસાર યોગ્ય પગલાં લેવા |
પ્રશંસાપત્રો
સામાન્ય પ્રશ્નો
Content Safety API
અમારી પાસે ફેરફાર કર્યા વિનાના કન્ટેન્ટ બાઇટ અને મીડિયા ફાઇલોમાંથી પ્રાપ્ત શામેલ કરેલા બન્નેને સપોર્ટ કરવાના વિકલ્પો છે. વધુ વિગતો માટે સંપર્ક કરો.
પોતાના પ્લૅટફૉર્મનો દુરુપયોગ થવાથી બચાવવા માગતા ઉદ્યોગ અને નાગરિક સોસાયટી સાથે જોડાયેલા ત્રીજા પક્ષો, Content Safety APIના ઍક્સેસ માટે સાઇન અપ કરી શકે છે. ઍપ્લિકેશન મંજૂરીને આધીન હોય છે.
અમારું માનવું છે કે ઑનલાઇન બાળકોના શોષણનો સામનો કરવાનો સૌથી શ્રેષ્ઠ અભિગમ છે અન્ય કંપનીઓ અને NGOs સાથે મળીને કામ કરવું. અમે ડેટા આધારિત નવા ટૂલ ડેવલપ કરવા, ટેક્નિકલ ક્ષમતા વધારવા અને જાગરૂકતા ફેલાવવામાં સપોર્ટ કરવા માટે ઘણા સમયથી આ ઉદ્યોગની કંપનીઓ અને NGOs સાથે મળીને કામ કરી રહ્યાં છીએ. અમે આ ટૂલ તમામ લોકોને ઉપલબ્ધ કરાવવા માગીએ છીએ, જેથી અમારા પાર્ટનર કન્ટેન્ટનો રિવ્યૂ વધુ સારી રીતે કરવા માટે મોટા પાયે AIનો ઉપયોગ કરી શકે, જે આ લડાઈ લડવા માટે જરૂરી પણ છે.
CSAI Match
આમ તો CSAI Matchની ડિઝાઇન વીડિયો માટે કરવામાં આવી છે, પરંતુ Googleના Content Safety API મારફતે આ ઉદ્યોગની કંપનીઓ અને NGO જેવા પાર્ટનર માટે ટૂલનો આ સંગ્રહ ઉપલબ્ધ છે, જે મશીન લર્નિંગ સંચાલિત છબીઓના વર્ગીકરણની પ્રક્રિયા ઑફર કરે છે. વધુ જાણો.
આ મેળ એ ઓળખશે કે વીડિયોનો કયો ભાગ CSAI કન્ટેન્ટ તરીકે જાણીતા કન્ટેન્ટ સાથે મેળ ખાય છે, તેમજ તે મેળ ખાતા કન્ટેન્ટનું તેના પ્રકારને આધારે વર્ગીકરણ પણ કરશે.
CSAI Match એવા ડુપ્લિકેટ વિભાગોની ભાળ મેળવે છે, જે CSAI કન્ટેન્ટ તરીકે જાણીતા કન્ટેન્ટ સાથે ઘણે અંશે મેળ ખાતા હોય. આમાં સંપૂર્ણ ડુપ્લિકેટ વિભાગો શામેલ છે, જેને MD5 હૅશ મેચિંગ ટેક્નોલોજીની સહાયથી ઓળખવામાં આવશે તેમજ તેમાં ઘણાં-ખરા અંશે મેળ ખાતા એવા પણ ડુપ્લિકેટ વિભાગો હોઈ શકે છે કે જેમાં CSAI વીડિયોને કદાચ ફરી એન્કોડ કરીને, વાંચવામાં મુશ્કેલ બનાવીને, કાપ-કૂપ કરીને અથવા તો તેના રિઝોલ્યુશનમાં ફેરફાર કરીને અપલોડ કરવામાં આવ્યા હોય – પછી ભલે કોઈ વીડિયોમાં CSAIનો માત્ર નાનકડો ભાગ શામેલ કરવામાં આવ્યો હોય અને બાકીનું કન્ટેન્ટ CSAI ધરાવતું ન હોય તો એવા પ્રકારના કન્ટેન્ટને પણ આ ટેક્નોલોજી ઓળખી લે છે. પાર્ટનર વિડિયોની "ફિંગરપ્રિન્ટ" બનાવવા માટે ફિંગરપ્રિન્ટિંગની સુવિધા ધરાવતો બાઇનરી પ્રોગ્રામ ચલાવે છે, જે MD5 હૅશ જેવી બાઇટ-સિક્વન્સ ધરાવે છે. પછી તેને Googleની CSAI Match સેવાને મોકલવામાં આવે છે, જે ખાસ કરીને અગાઉથી ઓળખી લેવામાં આવ્યા હોય એવા CSAI સંદર્ભો ધરાવતા YouTubeના સંગ્રહ સાથે વીડિયોને અસરકારક રીતે સ્કૅન કરવા માટે ડિઝાઇન કરવામાં આવી છે.