ઑનલાઇન બાળકોના જાતીય શોષણ સામે લડવું
અમે ઑનલાઇન બાળકોના જાતીય શોષણ અને શોષણની અન્ય રીતો સામે લડવા માટે ઘણી બધી મહેનત કરીએ છીએ અને અમે અમારા પ્લૅટફૉર્મ પર આપત્તિજનક કન્ટેન્ટને રોકવા, તેની ભાળ કાઢવા, તેને કાઢી નાખવા અને તેની જાણ કરવા માટે અમારી ખાનગી માલિકીની ટેક્નોલોજીનો ઉપયોગ કરીએ છીએ.
અમારી ટેક્નિકલ કુશળતા શેર કરવા અને CSAM સામે લડવામાં સંસ્થાઓની સહાય કરવા માટે ટૂલ ડેવલપ કરવા તેમજ તેમને શેર કરવા, અમે NGOs અને ઉદ્યોગની કંપનીઓ સાથે ઘણા પ્રોગ્રામમાં ભાગીદારી કરીએ છીએ.
બાળકોની સુરક્ષા સંબંધિત અમારા ટૂલકિટ વિશે અહીં વધુ જાણો.
અમારા પોતાના પ્લૅટફૉર્મ અને સેવાઓમાં દુરુપયોગ સામે લડવું
Google અમારા શરૂઆતના દિવસોથી જ અમારી સેવાઓ પર બાળકોના જાતીય શોષણ અને શોષણની અન્ય રીતો સામે લડવા પ્રત્યે પ્રતિબદ્ધ છે. અમે બાળકોના જાતીય શોષણ સંબંધિત કન્ટેન્ટ અને વર્તનને રોકવા, તેની ભાળ મેળવવા, તેને કાઢી નાખવા અને તેની જાણ કરવા માટે જરૂરી સંસાધનો—ટેક્નોલોજી, લોકો અને સમય—ફાળવીએ છીએ.
અમે શું કરી રહ્યાં છીએ?
દુરુપયોગ રોકવો
અમારી પ્રોડક્ટ બાળકોના વપરાશ માટે સલામત છે તેની ખાતરી કરીને અમે દુરુપયોગ થતો અટકાવવાનું લક્ષ્ય રાખીએ છીએ. AI વડે જનરેટ કરેલા CSAM કેસમાં ઉદાહરણ તરીકે અમે આવા વધતા જતા જોખમો અને અપમાનની નવી રીતો સમજવા માટે ઉપલબ્ધ તમામ જાણકારીઓ અને સંશોધનનો પણ ઉપયોગ કરીએ છીએ. અમે માત્ર ગેરકાયદેસર CSAM પર જ નહીં, પરંતુ બાળકોના જાતીય શોષણને પ્રોત્સાહન આપતા અને તેમને જોખમમાં મૂકી શકે એવા તમામ કન્ટેન્ટ પર પગલાં લઈએ છીએ.
ભાળ મેળવવી અને જાણ કરવી
અમે પ્રશિક્ષિત નિષ્ણાતોની ટીમ અને મશીન લર્નિંગ ક્લાસિફાયર તેમજ હૅશ મેચિંગ સહિતની અત્યાધુનિક ટેક્નોલોજી વડે CSAMને ઓળખીએ છીએ અને તેની જાણ કરીએ છીએ. આ હૅશ મેચિંગ ટેક્નોલોજી, પહેલેથી જ ઓળખવામાં આવેલી CSAMની હૅશ સાથે મેળ કરી શકાય એ માટે છબી કે વીડિયોની "હૅશ" અથવા વિશિષ્ટ ડિજિટલ ફિંગરપ્રિન્ટ બનાવે છે. જ્યારે અમને CSAM મળે છે, ત્યારે અમે નેશનલ સેન્ટર ફૉર મિસિંગ એન્ડ એક્સપ્લોઇટેડ ચિલ્ડ્રન (NCMEC)ને તેની જાણ કરીએ છીએ, જે બાળકોની સુરક્ષા માટે સમગ્ર વિશ્વમાં ફેલાયેલી કાનૂની અમલીકરણ એજન્સીઓ સાથે મળીને કામ કરે છે.
વૈશ્વિક સ્તરે મળીને કામ કરવું
ઑનલાઇન થતાં બાળકોના જાતીય શોષણ સામે લડવાના અમારા પ્રયાસોમાં અમે NCMEC અને વૈશ્વિક સ્તરે કામ કરતી અન્ય સંસ્થાઓ સાથે મળીને કામ કરીએ છીએ. આ પ્રયાસોના ભાગ તરીકે અમે, વધતા જતા બાળકોના જાતીય શોષણ અને અન્ય શોષણના બદલાતા પ્રકાર પ્રત્યેની અમારી સંયુક્ત સમજણ વિકસાવવા તેમજ તેમાં યોગદાન આપવામાં સહાય માટે, NGOs અને ઉદ્યોગ સંગઠનો સાથે મજબૂત ભાગીદારી કરીએ છીએ.
અમે આ કેવી રીતે કરી રહ્યાં છીએ?
અમે ટેક્નોલોજીકલ અને માનવ સંસાધનોની વિશાળ શ્રેણીનો ઉપયોગ કરીને બાળકોના જાતીય શોષણ સંબંધિત કન્ટેન્ટ, અવપ્રેરિત કરતા કન્ટેન્ટ, જાતીય બળજબરી સંબંધિત કન્ટેન્ટ અને તેના જેવા વધુ કન્ટેન્ટ પર પગલું લઈએ છીએ. તમે અમારા અભિગમનું ઉચ્ચ લેવલનું વર્ણન વાંચી શકો છો અથવા અમારી કેટલીક પ્રોડક્ટ આ પ્રકારના દુરુપયોગ સાથે કેવી રીતે વ્યવહાર કરે છે તે વિશે નીચે ઊંડાણપૂર્વક જાણકારી મેળવી શકો છો.
Search પર બાળકોના જાતીય શોષણ સંબંધિત કન્ટેન્ટ સામે લડવું
Google Search માહિતી શોધવાનું સરળ બનાવે છે, પરંતુ અમે એવું ક્યારેય નથી ઇચ્છતા કે Search એવું કન્ટેન્ટ બતાવે, જે ગેરકાયદેસર હોય અથવા જેને કારણે બાળકોનું જાતીય શોષણ થાય. અમારી પૉલિસી જ છે કે અમે એવા શોધ પરિણામોને બ્લૉક કરીએ કે જે બાળ શારીરિક શોષણને લગતા કન્ટેન્ટ અથવા બાળકોનું જાતીય ઉત્પીડન કરતા, તેમને જોખમમાં મૂકતા અથવા તો તેમનું શોષણ થતું હોય એવો ભાસ કરાવતા કન્ટેન્ટ તરફ દોરી જતા હોય. અમે આવા વધતા જતા જોખમોનો સામનો કરવા માટે નિરંતર અમારા ઍલ્ગોરિધમને અપડેટ કરતા રહીએ છીએ.
અમે એવી શોધ પર વધારાની સુરક્ષા લાગુ કરીએ છીએ, જેમાં અમને એવું લાગતું હોય કે તે CSAM શોધવાના ઉદ્દેશ્યથી કરવામાં આવી છે. જો એવું લાગે કે શોધ ક્વેરીમાં CSAM શોધવામાં આવી રહ્યું છે તો અમે અયોગ્ય જાતીય પરિણામોને ફિલ્ટર કરી નાખીએ છીએ અને પુખ્ત વયના લોકો માટેના અયોગ્ય કન્ટેન્ટની શોધ કરતી ક્વેરી માટે Search, જેમાં બાળકો શામેલ હોય એવું કન્ટેન્ટ શોધ પરિણામોમાં પરત કરશે નહીં, આમ કરવાથી બાળકો અને જાતીય કન્ટેન્ટ વચ્ચેનું જોડાણ તોડવામાં સહાયતા મળે છે. ઘણા દેશોમાં, સ્પષ્ટ રીતે CSAM સંબંધિત ક્વેરી દાખલ કરનારા વપરાશકર્તાઓને મહત્ત્વપૂર્ણ ચેતવણી દેખાય છે કે બાળ શારીરિક શોષણને લગતું કન્ટેન્ટ ગેરકાયદે છે, જેમાં સાથે એ પણ માહિતી આપવામાં આવે છે કે યુકેના ઇન્ટરનેશનલ વૉચ ફાઉન્ડેશન અને કોલંબિયાના કેનેડિયન સેન્ટર ફૉર ચાઇલ્ડ પ્રોટેક્શન અને તે પ્રોતેજો જેવી વિશ્વસનીય સંસ્થાઓને આવા પ્રકારના કન્ટેન્ટની જાણ કેવી રીતે કરી શકાય છે. જ્યારે આવી ચેતવણીઓ બતાવવામાં આવે છે, ત્યારે વપરાશકર્તાઓ દ્વારા આવું મટિરિયલ શોધવાનું ચાલુ રાખવાની શક્યતા ઓછી થઈ જાય છે.
શોષણ કરવાના બદઈરાદાથી બનાવેલા વીડિયો અને મટિરિયલ સામે લડવા માટેની YouTubeની કામગીરી
બાળકોને જાતીય રીતે દર્શાવતા અથવા તેમનું જાતીય શોષણ કરતા YouTube પરના વીડિયો, પ્લેલિસ્ટ, થંબનેલ અને કૉમેન્ટ વિરુદ્ધની અમારી પૉલિસીઓ હંમેશાં ખૂબ જ સ્પષ્ટ રહી છે. આ પૉલિસીઓના ઉલ્લંઘનની ભાળ સક્રિય રીતે મેળવવા માટે, અમે મશીન લર્નિંગ સિસ્ટમનો ઉપયોગ કરીએ છીએ અને પછી અમારી સિસ્ટમ દ્વારા ભાળ મેળવવામાં આવેલા અથવા વપરાશકર્તાઓ અને અમારા ટ્રસ્ટેડ ફ્લૅગર દ્વારા ચિહ્નિત કરવામાં આવેલા ઉલ્લંઘનકારી કન્ટેન્ટને સમગ્ર વિશ્વમાં ફેલાયેલા અમારા માનવ રિવ્યૂઅર ઝડપથી કાઢી નાખે છે.
સગીરોને દર્શાવતા અમુક કન્ટેન્ટમાં કદાચ અમારી પૉલિસીઓનું ઉલ્લંઘન થતું ન હોય તેમ છતાં અમારું માનવું છે કે તેને કારણે ઑનલાઇન કે ઑફલાઇન સગીરોનું શોષણ થવાનું જોખમ હોય છે. આ જ કારણ છે કે અમે આ પૉલિસીઓને લાગુ કરતી વખતે વધુ સાવચેતીનો અભિગમ અપનાવીએ છીએ. અમારી મશીન લર્નિંગ સિસ્ટમ એવા વીડિયોને સક્રિય રીતે ઓળખવામાં સહાય કરે છે કે જે સગીરોને જોખમમાં મૂકી શકે છે અને સાથે જ મોટે પાયે અમારા સંરક્ષણો લાગુ કરે છે, જેમ કે લાઇવ સુવિધાઓને પ્રતિબંધિત કરવી, કૉમેન્ટ કરવાની સુવિધા બંધ કરવી અને વીડિયોના સુઝાવોને મર્યાદિત કરવા.
CSAM પર અમારો પારદર્શિતા રિપોર્ટ
વર્ષ 2021માં, અમે ઑનલાઇન બાળકોના જાતીય શોષણ સંબંધિત કન્ટેન્ટ સામે લડવાના Googleના પ્રયાસો વિશે પારદર્શિતા રિપોર્ટ લૉન્ચ કર્યો હતો, જેમાં અમે NCMECને કેટલા કેસની જાણ કરી, તેની વિગતો આપી હતી. રિપોર્ટમાં એ ડેટા પણ પ્રદાન કરવામાં આવ્યો છે કે YouTube પર અમે આ દિશામાં શું કામ કર્યું, Searchમાંથી અમે CSAMની ભાળ કેવી રીતે મેળવીએ છીએ અને તેના શોધ પરિણામો કેવી રીતે કાઢી નાખીએ છીએ તેમ જ અમારી બધી સેવાઓમાં CSAMના નિયમોનું ઉલ્લંઘન કરનારા કેટલા એકાઉન્ટ બંધ કરવામાં આવ્યા.
આ પારદર્શિતા રિપોર્ટમાં અમે NCMEC સાથે શેર કરેલી CSAMના હૅશની સંખ્યા વિશેની માહિતી પણ શામેલ છે. આ હૅશને કારણે અન્ય પ્લૅટફૉર્મ મોટા પ્રમાણમાં CSAM ઓળખી શકે છે. અમારા અને આ ઉદ્યોગમાં શામેલ અન્ય લોકો માટે NCMECના હૅશ ડેટાબેઝમાં યોગદાન આપવું એ એક એવી મહત્ત્વપૂર્ણ રીત છે, જેના વડે અમે CSAMનો સામનો કરવાના પ્રયાસોમાં સહાય કરી શકીએ છીએ, કારણ કે તેનાથી આવા મટિરિયલનું રીસર્ક્યુલેશન ઘટાડવામાં સહાય મળે છે અને જે બાળકોનું શોષણ થયું હોય, તેમનું ફરી શોષણ થવાની શક્યતા ઘટી જાય છે.
અમારી પ્રોડક્ટ પર અનુચિત વ્યવહારની જાણ કરવી
અમે અમારી પ્રોડક્ટનો ઉપયોગ કરતા બાળકોને અવપ્રેરિત કરવા, જાતીય બળજબરી, તસ્કરી અને અન્ય કોઈ પ્રકારે તેમનું જાતીય શોષણ કરવા જેવા અનુભવથી બચાવવા માગીએ છીએ. અમારી પ્રોડક્ટને બાળકોના વપરાશ માટે સુરક્ષિત બનાવવાના અમારા કામના ભાગ તરીકે, અમે વપરાશકર્તાઓને તેમની સહાય માટે એવી ઉપયોગી માહિતી પ્રદાન કરીએ છીએ કે જેથી તેઓ બાળકોના જાતીય શોષણ સબંધિત કન્ટેન્ટની જાણ યોગ્ય અધિકારીઓને કરી શકે.
જો વપરાશકર્તાઓને શંકા થાય કે Gmail અથવા Hangouts જેવી Googleની પ્રોડક્ટ પર કોઈ બાળક જોખમમાં મૂકાયું છે, તો તેઓ આ ફોર્મ ભરીને તેની જાણ કરી શકે છે. વપરાશકર્તાઓ YouTube પર પણ અનુચિત કન્ટેન્ટ ફ્લૅગ કરી શકે છે અને Google Meetમાં સહાયતા કેન્દ્ર મારફતે અથવા તો સીધા જ પ્રોડક્ટમાં આ દુરુપયોગની જાણ કરી શકે છે. અમે ધમકાવવા અને ઉત્પીડન સંબંધિત સમસ્યાઓનો સામનો કરવામાં તમારી સહાય કરવા માટે પણ માહિતી પ્રદાન કરીએ છીએ, જેમાં કોઈ બાળકનો સંપર્ક કરનારા વપરાશકર્તાઓને કેવી રીતે બ્લૉક કરવા તેની માહિતી શામેલ છે. બાળકની સલામતી સંબંધિત પૉલિસીઓ વિશે વધુ જાણવા માટે, YouTubeના સમુદાયના દિશાનિર્દેશો અને Google સુરક્ષા કેન્દ્ર જુઓ.
બાળકોના જાતીય શોષણ સામે લડવા માટે ટૂલ ડેવલપ કરવા અને તેમને શેર કરવા
અમે બાળકોને સુરક્ષિત રાખવા તેમજ અન્ય લોકોને આ કાર્યમાં સપોર્ટ કરવા માટે, અમારી ટેક્નિકલ કુશળતા અને તેને સંબંધિત નવા ઉપાયોનો ઉપયોગ કરીએ છીએ. યોગ્યતા ધરાવતી સંસ્થાઓનું કામકાજ વધુ સારી રીતે, ઝડપથી અને સલામત રીતે થઈ શકે એ માટે અમે તેમને અમારી અત્યાધુનિક ટેક્નોલોજી કોઈ કિંમત વિના ઑફર કરીએ છીએ સાથે જ અમે તેમાં રુચિ ધરાવતી સંસ્થાઓને પ્રોત્સાહિત કરીએ છીએ કે બાળ સુરક્ષા સંબંધિત અમારા ટૂલનો ઉપયોગ કરવા માટે તેઓ અરજી કરે.
Content Safety API
પહેલાં ન જોવાયેલી છબી અને વીડિયોના કન્ટેન્ટ માટે ઉપયોગમાં લેવાય છે
આપણે પહેલાં ક્યારેય ન જોઈ હોય એવી CSAM ધરાવતી છબીને સક્રિય રીતે ઓળખી શકીએ એ માટે Google, છેલ્લા ઘણા વર્ષોથી મશીન લર્નિંગ ક્લાસિફાયર પર કામ કરી રહ્યું છે, જેથી તેનો રિવ્યૂ કરી શકાય અને જો તે CSAM હોવાનું કન્ફર્મ થઈ જાય તો બને તેટલી ઝડપથી તેને કાઢી શકાય અને તેની જાણ કરી શકાય. આ ટેક્નોલોજી, Content Safety APIને બહેતર બનાવે છે, જેને કારણે સંભવિત અપમાનજનક કન્ટેન્ટના રિવ્યૂ માટે તેમનું વર્ગીકરણ કરવામાં અને તેમને પ્રાધાન્યતા આપવામાં સંસ્થાઓને સહાય મળે છે. દર મહિને અમારા પાર્ટનર Content Safety APIનો ઉપયોગ કરીને કરોડો ફાઇલોનું વર્ગીકરણ કરે છે જેના પરિણામે તેમને ઝડપથી અને વધુ ચોકસાઈથી સમસ્યાઓ ધરાવતું કન્ટેન્ટ ઓળખવામાં સહાય મળે છે, તેથી તેઓ સંબંધિત અધિકારીઓને તેની જાણ કરી શકે છે.
CSAI Match
વીડિયો હૅશ મેચિંગ માટે ઉપયોગમાં લેવાય છે
અમારી સેવાઓમાંથી, CSAM ધરાવતા જાણીતા વીડિયોને ટૅગ કરવા અને તેમને કાઢી નાખવા માટે વર્ષ 2014માં YouTubeના એન્જિનિયર દ્વારા ટેક્નોલોજી ડેવલપ કરવામાં અને અપનાવવામાં આવી. અમે અન્ય લોકો સાથે CSAI Match, મારફતે આ ટેક્નોલોજી શેર કરીએ છીએ, જે એવું API છે કે જે વીડિયોમાં ફરી અપલોડ થયેલા અગાઉ ઓળખી લેવાયેલા બાળકોના જાતીય શોષણ સંબંધિત કન્ટેન્ટને ઓળખવામાં સહાય કરે છે. અમારા ડેટાબેઝમાંના અપમાનજનક કન્ટેન્ટ તરીકે જાણીતા કન્ટેન્ટ સાથે મેળ ખાતા ઉલ્લંઘનકારી કન્ટેન્ટને ઓળખી કાઢવામાં સહાય મળી રહે એ માટે NGOs અને કંપનીઓ CSAI Matchનો ઉપયોગ કરે છે, તેને કારણે તેઓ જરૂરી સ્થાનિક કાયદા અને નિયમનો અનુસાર જવાબદારીપૂર્વક તેના પર પગલાં લઈ શકે.
ભાગીદારી અને પ્રોગ્રામ
અમે ટેક્નોલોજી કંપનીઓના ગઠબંધન, ICT કંપનીઓના ગઠબંધન, WeProtect Global Alliance અને INHOPE તેમજ Fair Play Alliance જેવા ઉદ્યોગ જગતના કેટલાક મોટા ગઠબંધનોના સક્રિય સભ્ય છીએ, જેઓ CSAMના ઑનલાઇન થતા આદાનપ્રદાનને અટકાવવા અને જાતીય શોષણથી બાળકોની સુરક્ષા માટે વિવિધ ટૂલ કે ટેક્નોલોજી ડેવલપ કરવા કંપનીઓ અને NGOsને એકસાથે લાવે છે.
અમે બધા મળીને બાળકોની સુરક્ષા સંબંધિત સંશોધન માટે ભંડોળ આપીએ છીએ અને એક-બીજા સાથે ટૂલ તેમજ તેમના વિશેની જાણકારી શેર કરીએ છીએ, જેમકે પારદર્શિતા રિપોર્ટિંગ વિશેની અમારી જાણકારી, પ્રોડક્ટમાંના ઉલ્લંઘનકારી કન્ટેન્ટની ભાળ મેળવવાની રીતો અને કામકાજની પ્રક્રિયાઓ.
આની સાથે ભાગીદારીમાં
Google.org દ્વારા જાહેરાત બતાવીને અપાતું અનુદાન
Google.org બાળકોના જાતીય શોષણ અને શોષણની અન્ય રીતો સામે લડતી સંસ્થાઓ જેમ કે INHOPE અને ECPAT ઇન્ટરનેશનલને અનુદાન આપે છે. આ ઉપરાંત, વર્ષ 2003થી લઈને આજ સુધી Google.org દ્વારા બાળકોના જાતીય શોષણની જાણ કરવા માટેની હૉટલાઇન ચલાવતી અને આવા કિસ્સાઓમાં જેમને સૌથી વધુ સપોર્ટની જરૂર હોય એવા લોકો સુધી પહોંચીને તેમની સહાય કરતી NGOs અને ધર્માદા સંસ્થાઓની જાહેરાતો મફત બતાવવાના બજેટ તરીકે લગભગ 9 કરોડ ડૉલર આપ્યા છે.
Google Fellow પ્રોગ્રામ
અમે NCMEC અને Thorn જેવી બાળકોના જાતીય શોષણ સામે લડવા માટે સમર્પિત સંસ્થાઓને ટેક્નિકલ ફેલોશિપ તરીકે ભંડોળ પૂરું પાડીએ છીએ. એ સિવાય, બાળકો વિરુદ્ધ ઑનલાઇન થતા ગુનાઓની તપાસ કરતા કાયદાકીય અધિકારીઓને Google દ્વારા ક્રાઇમ અગેન્સ્ટ ચિલ્ડ્રન કૉન્ફરન્સ અને ધ નેશનલ લૉ એન્ફોર્સમેન્ટ ટ્રેનિંગ ઑન ચાઇલ્ડ એક્સપ્લોઇટેશન જેવા વિવિધ ચર્ચામંચો મારફતે પ્રશિક્ષણ પણ આપવામાં આવે છે.