ऑनलाइन बाल लैंगिक अत्याचाराविरोधात लढणे
आम्ही ऑनलाइन बाल लैंगिक अत्याचार आणि शोषणाविरोधात लढण्याकरिता मोठ्या प्रमाणात मेहनत घेतो, तसेच आमच्या प्लॅटफॉर्मवरील गुन्हे प्रतिबंधित करण्यासाठी, डिटेक्ट करण्यासाठी व काढून टाकण्यासाठी तसेच त्यासंबंधी तक्रार नोंदवण्याकरिता आमच्या मालकीचे तंत्रज्ञान वापरतो.
आम्ही प्रोग्रामसाठी आमचे तांत्रिक कौशल्य शेअर करण्यासाठी NGOs आणि उद्योगांसोबत भागीदारी करतो व CSAM च्या विरोधात लढण्याकरिता संस्थांना मदत करण्यासाठी टूल डेव्हलप व शेअर करतो.
आमच्या लहान मुलांच्या सुरक्षिततेशी संबंधित टूलकिटविषयी येथेअधिक जाणून घ्या.
आमच्या प्लॅटफॉर्म आणि सेवांवर गैरवर्तानाच्या विरोधात लढा देणे
Google हे सुरुवातीपासूनच आमच्या सेवांवर, बाल लैंगिक अत्याचार आणि शोषण यांच्याविरुद्ध लढा देण्यासाठी वचनबद्ध आहे. बाल लैंगिक शोषणासंबंधी आशय व वर्तन प्रतिबंधित करणे, डिटेक्ट करणे, काढून टाकणे आणि त्याविरुद्ध तक्रार नोंदवणे यासाठी आम्ही महत्त्वाचे स्रोत, तंत्रज्ञान, लोक व वेळ देतो.
आम्ही काय करत आहोत?
गैरवर्तन प्रतिबंधित करणे
आमची उत्पादने लहान मुलांसाठी वापरण्याकरिता सुरक्षित आहेत याची खात्री करून गैरवर्तन रोखण्याचे आमचे ध्येय आहे. वाढते धोके आणि नव्या पद्धतीच्या आक्षेपार्ह आशयाला समजून घेण्यासाठी आम्ही उपलब्ध असलेली सर्व इनसाइट व संशोधन यांचादेखील वापर करतो जसे, की AI द्वारे जनरेट केलेले CSAM या प्रकरणामध्ये. आम्ही फक्त बेकायदेशीर CSAM वरच नाही, तर लहान मुलांच्या लैंगिक अत्याचाराला प्रोत्साहन देणाऱ्या आणि लहान मुलांना धोक्यात आणणाऱ्या मोठ्या प्रमाणातील आशयावरदेखील कारवाई करतो.
डिटेक्ट करणे आणि त्यासंबंधी तक्रार नोंदवणे
आम्ही मशीन लर्निंग क्लासिफायर आणि हॅश-मॅचिंग तंत्रज्ञानासह प्रशिक्षित तज्ञ टीम व अत्याधुनिक तंत्रज्ञानाचा वापर करून CSAM ओळखतो व त्यासंबंधी तक्रार नोंदवतो, जी इमेज किंवा व्हिडिओसाठी एक "हॅश" किंवा युनिक डिजिटल फिंगरप्रिंट तयार करते, ज्यामुळे त्याची तुलना ओळखल्या गेलेल्या CSAM च्या हॅशशी केली जाऊ शकते. आम्हाला CSAM आढळतो, तेव्हा आम्ही त्याची तक्रार जगभरातील कायद्याची अंमलबजावणी करणार्‍या एजन्सीसोबत काम करणाऱ्या नॅशनल सेंटर फॉर मिसिंग अँड एक्स्प्लॉयटेड चिल्ड्रन (NCMEC) कडे नोंदवतो.
जागतिक स्तरावर सहयोग करणे
ऑनलाइन लहान मुलांसोबतचे लैंगिक गैरवर्तनाचा सामना करण्याचा प्रयत्न म्हणून आम्ही जागतिक स्तरावर NCMEC आणि इतर संस्थांसोबत सहयोग करतो. या प्रयत्नांचा एक भाग म्हणून आम्ही NGOs आणि उद्योगांसोबत एक सक्षम भागीदारी करत असल्यामुळे लहान मुलांसोबतचे लैंगिक गैरवर्तन आणि त्यांचे लैंगिक शोषण व शोषणाबाबतच्या बदलत्या स्वरूपाची आमची एकत्रित समज वाढवण्यात आणि त्यात योगदान देण्यात मदत होते.
आम्ही हे कसे करत आहोत?
आम्ही विविध प्रकारच्या तांत्रिक आणि मानवी संसाधनांचा वापर करून लहान मुलांसोबतच्या लैंगिक गैरवर्तनाशी संबंधित आशय, दुष्प्रेरित करणे, लैंगिक शोषण आणि बरेच काही यासारख्या आशयावर काम करतो. तुम्ही आमचा दृष्टिकोन याचे उच्च पातळीवरील वर्णन वाचू शकता किंवा आमची काही उत्पादने या प्रकारच्या गैरवर्तनाला कशी सामोरी जातात त्याबद्दल सखोल माहिती मिळवू शकता.
Search वर लहान मुलांसोबतच्या लैंगिक गैरवर्तनाविरोधात लढणे
Google Search हे माहिती शोधणे सोपे करते, पण Search ने बेकायदेशीर किंवा लहान मुलांचे लैंगिकदृष्ट्या शोषण करणारा आशय कधीही दाखवू नये असे आम्हाला वाटते. लहान मुलांसोबतच्या लैंगिक गैरवर्तनाशी संबंधित आशय किंवा लहान मुलांना लैंगिकदृष्ट्या लक्ष्यित करणाऱ्या, त्यांना धोका निर्माण करणाऱ्या अथवा इतर प्रकारे त्यांचे शोषण करणाऱ्या आशयाकडे निर्देशित करणारे शोध परिणाम ब्लॉक करणे हे आमचे धोरण आहे या वाढणाऱ्या धोक्यांचा सामना करण्यासाठी आम्ही आमचे अल्गोरिदम सातत्याने अपडेट करत आहोत.
जे शोध CSAM शी संबंधित आशय शोधत आहेत असे आम्हाला वाटते, त्यांना आम्ही अतिरिक्त संरक्षण लागू करतो. शोध क्वेरी CSAM शोधत असल्यास, आम्ही लैंगिकदृष्ट्या भडक परिणामांना फिल्टर करतो आणि प्रौढांशी संबंधित लैंगिकदृष्ट्या भडक आशय शोधणाऱ्या क्वेरीना लहान मुले व लैंगिक आशय यांचा संबंध लावता येऊ नये यासाठी Search हे लहान मुलांचा समावेश असलेली इमेजरी दाखवत नाही. अनेक देशांमध्ये CSAM शी संबंधित थेट क्वेरी एंटर करणाऱ्या वापरकर्त्यांना यूकेमधील इंटरनेट वॉच फाउंडेशन, कॅनेडियन सेंटर फॉर चाइल्ड प्रोटेक्शन आणि कोलंबियातील ते प्रोतेजो या विश्वासू संस्थाकडे तक्रार कशी नोंदवावी याबाबतच्या माहितीसह लहान मुलांसोबतच्या लैंगिक गैरवर्तनाशी संबंधित आशय बेकायदेशीर असल्याची एक ठळक चेतावणी दाखवली जाते. या सूचना दाखवल्या जातात, तेव्हा वापरकर्ते अशा प्रकारचा आशय शोधत राहण्याची शक्यता कमी असते.
शोषणाबाबतच्या व्हिडिओ आणि आशयाचा सामना करण्याच्या संदर्भातील YouTube चे काम
YouTube वरील लहान मुलांशी संबंधित अश्लील किंवा त्यांचे शोषण करणारे व्हिडिओ, प्लेलिस्ट, थंबनेल आणि टिप्पण्या यासंदर्भात आमची नेहमीच स्पष्ट धोरणे आहेत. आम्ही या धोरणांचे उल्लंघन डिटेक्ट करण्यासाठी मशीन लर्निंग सिस्टीमचा वापर करतो आणि जगभरातील आमचे मानवी पुनरावलोकनकर्ते आमच्या सिस्टीमने डिटेक्ट केलेली किंवा वापरकर्त्यांनी व आमच्या विश्वसनीय फ्लॅगरनी फ्लॅग केलेली उल्लंघने त्वरित काढून टाकतात.
अल्पवयीन मुलांचा समावेश असलेला काही आशय आमच्या धोरणांचे उल्लंघन करत नसला, तरीही त्यापासून अल्पवयीन मुलांचे ऑनलाइन किंवा ऑफलाइन शोषण होण्याचा धोका असू शकतो असे आम्हाला वाटते. म्हणूनच या धोरणांची अंमलबजावणी करताना आम्ही अतिरिक्त सावधगिरी बाळगतो. अल्पवयीन मुलांना धोका असू शकतो असे व्हिडिओ प्रोॲक्टिव्हपणे ओळखण्यात आणि त्यासाठी मोठ्या प्रमाणात संरक्षण लागू करण्यात आमची मशीन लर्निंग सिस्टीम मदत करते, जसे की लाइव्ह वैशिष्ट्ये प्रतिबंधित करणे, टिप्पण्या बंद करणे व व्हिडिओ शिफारशी मर्यादित करणे.
आमचा CSAM पारदर्शकता अहवाल
२०२१ मध्ये, ऑनलाइन लहान मुलांसोबतच्या लैंगिक गैरवर्तनाशी संबंधित आशयाविरोधात लढण्यासाठी Google च्या प्रयत्नांच्या संदर्भात एक पारदर्शकता अहवाल आम्ही लाँच केला असून त्यामध्ये NCMEC कडे किती तक्रारी नोंदवल्या याचे तपशील आम्ही दिले आहेत. आम्ही Search वरून CSAM शी संबंधित परिणाम कसे डिटेक्ट करतो आणि काढून टाकतो व आमच्या सर्व सेवांवरून CSAM उल्लंघनाशी संबंधित किती खाती बंद केली यासह हा अहवाल YouTube वरील आमच्या प्रयत्नांचा डेटादेखील पुरवतो.
पारदर्शकता अहवालामध्ये आम्ही NCMEC सह शेअर केलेल्या CSAM च्या हॅशच्या संख्येची माहितीदेखील समाविष्ट आहे. हे हॅश इतर प्लॅटफॉर्मना CSAM ओळखण्यात मोठ्या प्रमाणावर मदत करतात. NCMEC हॅश डेटाबेसमध्ये योगदान देणे हा एक महत्त्वाचा मार्ग आहे, जो आम्हाला आणि उद्योगातील इतरांना CSAM चा सामना करण्याच्या प्रयत्नात मदत करू शकतो, कारण यामुळे आशयाचा पुन्हा प्रसार होण्यास व त्या संबंधित ज्या लहान मुलांशी गैरवर्तन झाले त्यांचे पुन्हा शोषण होण्याची शक्यता कमी होण्यात मदत होते.
आमच्या उत्पादनांच्या संदर्भात अयोग्य वर्तनाबाबत तक्रार नोंदवणे
आम्हाला आमची उत्पादने वापरत असलेल्या लहान मुलांचे त्यांना दुष्प्रेरित करणाऱ्या, लैंगिक शोषण करणाऱ्या, तस्करी करणाऱ्या आणि बाल लैंगिक शोषण करणाऱ्या इतर प्रकारांपासून संरक्षण करायचे आहे. आमची उत्पादने लहान मुलांना वापरण्यासाठी सुरक्षित बनवण्याच्या कामाचा एक भाग म्हणून, लहान मुलांसोबतच्या लैंगिक गैरवर्तनाशी संबंधित आशयाची तक्रार संबंधित अधिकाऱ्यांकडे करण्यात मदत करण्याकरिता आम्ही वापरकर्त्यांना उपयुक्त माहिती पुरवतो.
Gmail किंवा Hangouts सारख्या Google उत्पादनांवर एखादे लहान मूल धोक्यात आल्याचा संशय वापरकर्त्यांना असल्यास, ते हा फॉर्म वापरून तक्रार नोंदवू शकतात. वापरकर्ते YouTube वरील अयोग्य आशय फ्लॅगदेखील करू शकतात आणि Google Meet मध्ये मदत केंद्र याद्वारे तसेच उत्पादनामध्ये थेट गैरवर्तनाची तक्रार नोंदवू शकतात. वापरकर्त्यांना लहान मुलांशी संपर्क साधण्यापासून ब्लॉक कसे करावे यासह गुंडगिरी, छळ यांबद्दलच्या समस्यांचा सामना कसा करावा याबद्दलदेखील आम्ही माहिती देतो. लहान मुलांच्या सुरक्षिततेशी संबंधित आमच्या धोरणांबद्दलच्या अधिक माहितीसाठी, YouTube ची समुदाय मार्गदर्शक तत्त्वे आणि Google सुरक्षितता केंद्र पहा.
लहान मुलांसोबतच्या लैंगिक गैरवर्तनाविरोधात लढण्यासाठी टूल विकसित करणे आणि ती शेअर करणे
लहान मुलांचे संरक्षण करण्यासाठी आणि इतरांनीही तसे करावे याकरिता साहाय्य करण्यासाठी आम्ही आमचे तांत्रिक कौशल्य व इनोव्हेशन वापरतो. पात्र संस्थांना त्यांचे काम चांगल्या पद्धतीने, जलद आणि सुरक्षितपणे करण्यासाठी आम्ही आमचे अत्याधुनिक तंत्रज्ञान निःशुल्क ऑफर करतो व इच्छुक संस्थांनी लहान मुलांशी संबंधित आमच्या सुरक्षितता टूलकरिता अर्ज करणे हे करावे याकरिता आम्ही त्यांना प्रोत्साहन देतो.
Content Safety API
पूर्वी न पाहिलेल्या इमेज आणि व्हिडिओ आशय यासाठी वापरले जाते
आम्हाला याआधी कधीही न पाहिलेली CSAM इमेजरी ओळखता यावी, यासाठी अनेक वर्षांपासून Google हे मशीन लर्निंग क्लासिफायरवर काम करत आहे, जेणेकरून तिचे पुनरावलोकन केले जाऊ शकते आणि ती CSAM असल्याचे कन्फर्म केल्यास, शक्य तितक्या लवकर ती काढून टाकली व त्याबाबत तक्रार नोंदवली जाऊ शकते. हे तंत्रज्ञान Content Safety API ला आणखी चांगले बनवते, ज्यामुळे संस्थांना पुनरावलोकन करण्यासाठी संभाव्य गैरवर्तनासंबंधित आशयाचे वर्गीकरण करण्यास आणि त्याला प्राधान्य देण्याकरिता मदत मिळते. दर महिन्याला, आमच्या भागीदारांनी अब्जावधी फाइलचे वर्गीकरण करण्यासाठी Content Safety API चा वापर केला, ज्यामुळे समस्या असलेला आशय आणखी जलद आणि आणखी अचूकपणे ओळखून अधिकाऱ्यांकडे त्याची तक्रार नोंदवण्यात त्यांना मदत झाली.
CSAI Match
व्हिडिओ हॅश जुळणी साठी वापरले जाते
ओळखल्या गेलेल्या CSAM व्हिडिओना आमच्या सेवांवरून टॅग करून काढून टाकण्यासाठी २०१४ मध्ये, YouTube च्या इंजिनियरनी हे तंत्रज्ञान विकसित केले आणि स्वीकारले. आम्ही हे तंत्रज्ञान इतरांसोबत CSAI Match द्वारे शेअर करतो, या API च्या मदतीमुळे व्हिडिओमध्ये यापूर्वी लहान मुलांसोबतच्या लैंगिक गैरवर्तनाशी संबंधित आशय म्हणून ओळखला गेलेला आशय पुन्हा अपलोड होत असताना तो ओळखण्यात मदत होते. CSAI Match हे तंत्रज्ञान आमच्या डेटाबेसमधील गैरवर्तनाशी संबंधित ओळखल्या गेलेल्या आशयाच्या जुळण्या ओळखण्यात मदत करत असल्यामुळे त्याचा वापर NGOs व कंपनीद्वारे केला जातो, जेणेकरून ते स्थानिक कायदे आणि नियमांनुसार त्यावर योग्य ती कारवाई करू शकतील.
अलायन्स आणि प्रोग्राम
लहान मुलांच्या संदर्भातील लैंगिक अत्याचार रोखण्यासाठी CSAM च्या ऑनलाइन एक्सचेंजमध्ये व्यत्यय आणण्याकरिता निराकरणे डेव्हलप करण्यासाठी कंपनी आणि NGOs ना एकत्र आणणाऱ्या टेक्नोलॉजी कोलिशन, ICT कोलिशन, WeProtect ग्लोबल अलायन्स आणि INHOPE तसेच Fair Play Alliance यांसारख्या अनेक कोलिशनचे आम्ही सक्रिय सदस्य आहोत.
आम्ही एकत्रितपणे लहान मुलांच्या सुरक्षितता संशोधनासाठी निधी देतो आणि टूल व माहिती शेअर करतो, जसे की पारदर्शकता अहवालातील आमच्या इनसाइट, उत्पादनांशी संबंधित डिटेक्शन आणि ऑपरेशनल प्रक्रिया.
यांच्याशी भागीदारीत
Google.org कडून जाहिरात अनुदाने
Google.org हे INHOPE आणि ECPAT इंटरनॅशनल यांसारख्या बाल लैंगिक अत्याचार आणि शोषणाविरोधात लढा देणाऱ्या प्रमुख संस्थांना अनुदाने देते. याव्यतिरिक्त, २००३ पासून Google.org ने NGOs व धर्मदाय संस्थांच्या विनामूल्य जाहिरातींसाठी बजेटमध्ये साधारण $९० कोटींची तरतूद केली आहे, त्यामुळे बाल लैंगिक अत्याचारासंबंधित तक्रार नोंदवण्याकरिता हॉटलाइन चालवणाऱ्या या संस्थांना सर्वाधिक गरजूंपर्यंत पोहोचण्यात मदत होते.
Google फेलो प्रोग्राम
आम्ही NCMEC आणि थॉर्न यांसारख्या बाल लैंगिक अत्याचाराविरोधात लढणाऱ्या संस्थांना तांत्रिक फेलोशिपसाठी फंडही देतो. याव्यतिरिक्त, Google हे लहान मुलांच्या संदर्भात ऑनलाइन गुन्ह्यांचा तपास करताना कायद्याची अंमलबजावणी करणाऱ्या अधिकाऱ्यांना क्राइम अगेंस्ट चिल्ड्रन कॉंफरन्स आणि नॅशनल लॉ इन्फोर्समेंट ट्रेनिंग ऑन चाइल्ड एक्सप्लॉयटेशन यांसारख्या फोरमद्वारे प्रशिक्षणही देते.