Search पर, बच्चों का यौन शोषण दिखाने वाले कॉन्टेंट को रोकना

Google Search, जानकारी ढूंढना आसान बनाता है, लेकिन हम यह नहीं चाहते कि Search ऐसा कॉन्टेंट दिखाए जो गैरकानूनी हो या जिसकी वजह से बच्चों का यौन शोषण हो. अपनी नीति के मुताबिक, हम खोज के ऐसे नतीजे ब्लॉक कर देते हैं जिनमें बच्चों का यौन शोषण दिखाने वाली तस्वीरें और/या वीडियो हों या फिर ऐसा कॉन्टेंट शामिल हो जिसमें इस तरह की गतिविधियां दिखाई गई हों: बच्चों का यौन उत्पीड़न करना, उनके लिए जोखिम वाली स्थिति पैदा करना या उनका शोषण करना. इन बढ़ते हुए खतरों को रोकने के लिए, हम अपने एल्गोरिदम को लगातार अपडेट कर रहे हैं.

उन खोजों पर हम और ज़्यादा सुरक्षा लागू करते हैं जिनके बारे में हमें लगता है कि वे सीएसएएम कॉन्टेंट ढूंढने के मकसद से की गई हैं. अगर हमें लगता है कि खोज क्वेरी सीएसएएम या वयस्कों का अश्लील कॉन्टेंट ढूंढ रही है, तो हम अश्लील यौन कॉन्टेंट वाले नतीजे फ़िल्टर कर देते हैं. ऐसे में, Search वे तस्वीरें नहीं दिखाता जिनमें बच्चे हों. इस तरह, बच्चों और सेक्शुअल कॉन्टेंट के बीच का संबंध तोड़ने में सहायता मिलती है. कई देशों में, सीएसएएम के बारे में सीधे क्वेरी करने वाले उपयोगकर्ताओं को एक अहम चेतावनी दिखती है. इसमें यह बताया जाता है कि बच्चों का यौन शोषण दिखाने वाली तस्वीरें और/या वीडियो गैर-कानूनी होते हैं. इसके अलावा, इसमें यह भी बताया जाता है कि कनेडियन सेंटर फ़ॉर चाइल्ड प्रोटेक्शन, यूनाइटेड किंगडम के इंटरनेट वॉच फ़ाउंडेशन, और कोलंबिया के Te Protejo जैसे भरोसेमंद संगठनों में इस तरह के कॉन्टेंट की शिकायत कैसे की जाए. इन चेतावनियों को दिखाने से, इस बात की आशंका कम हो जाती है कि उपयोगकर्ता ऐसा कॉन्टेंट ढूंढना जारी रखेंगे.

इसी विषय से जुड़े कुछ लिंक

शोषण दिखाने वाले वीडियो और अन्य कॉन्टेंट को रोकने के लिए YouTube की तैयारी

YouTube पर पहले से ही ऐसे वीडियो, प्लेलिस्ट, थंबनेल, और टिप्पणियों के ख़िलाफ़ नीतियां मौजूद हैं जिनमें अश्लील या बच्चों का शोषण दिखाने वाला कॉन्टेंट शामिल होता है. हम इन नीतियों के उल्लंघन का पता लगाने के लिए, मशीन लर्निंग सिस्टम का इस्तेमाल करते हैं. साथ ही, कॉन्टेंट की मैन्युअल तरीके से समीक्षा करने के लिए, हमारे पास समीक्षकों की ग्लोबल टीम मौजूद है. ये समीक्षक, नीतियों का उल्लंघन करने वाले उन वीडियो को तुरंत हटा देते हैं जिनकी पहचान हमारे सिस्टम ने की है या जिनके बारे में लोगों और भरोसेमंद फ़्लैगर ने शिकायत की है.

ऐसा हो सकता है कि नाबालिगों को दिखाने वाला कुछ कॉन्टेंट हमारी नीतियों का उल्लंघन न करता हो. हालांकि, हमारा मानना है कि नाबालिगों के लिए ऑनलाइन या ऑफ़लाइन, दोनों जगह शोषण का खतरा हो सकता है. इसलिए, इन नीतियों को लागू करते समय हम बेहद सावधान रहते हैं. हमारे मशीन लर्निंग सिस्टम, ऐसे कॉन्टेंट का पता लगाने में मदद करते हैं जिनसे नाबालिगों को खतरा हो सकता है. साथ ही, ये सिस्टम बड़े पैमाने पर हमारी सुरक्षा नीतियां लागू करते हैं. जैसे, लाइव स्ट्रीमिंग की सुविधाओं पर पाबंदी लगाना, टिप्पणी करने की सुविधा को बंद करना, और वीडियो के सुझावों को सीमित करना.

इसी विषय से जुड़े कुछ लिंक

सीएसएएम से जुड़ी हमारी पारदर्शिता रिपोर्ट

साल 2021 में, हमने इंटरनेट पर बच्चों का यौन शोषण दिखाने वाले कॉन्टेंट को रोकने से जुड़ी Google की कोशिशों के तहत एक पारदर्शिता रिपोर्ट लॉन्च की. इस रिपोर्ट में यह बताया गया है कि हमने एनसीएमईसी को कितने मामलों की शिकायत की है. रिपोर्ट में यह डेटा भी है कि YouTube पर हमने इस बारे में क्या कदम उठाए हैं और हम किस तरह Search पर सीएसएएम से जुड़े नतीजे पहचानकर उन्हें हटाते हैं. इस रिपोर्ट में यह जानकारी भी दी गई है कि सीएसएएम से जुड़ी नीतियों का उल्लंघन करने की वजह से, हमारी सभी सेवाओं पर कितने खाते बंद किए गए हैं.

इस पारदर्शिता रिपोर्ट में सीएसएएम से जुड़े उन हैश की संख्या भी बताई गई है जो हमने एनसीएमईसी के साथ शेयर किए हैं. इन हैश की मदद से दूसरे प्लैटफ़ॉर्म बड़ी संख्या में सीएसएएम को पहचान सकते हैं. एनसीएमईसी के हैश डेटाबेस में योगदान करना हमारे और इस उद्योग के दूसरे भागीदारों के लिए, सीएसएएम को रोकने का एक अहम तरीका है. इससे ऐसे कॉन्टेंट का फिर से इस्तेमाल होने और जिन बच्चों का शोषण हुआ है उनका दोबारा शोषण होने की आशंका कम हो जाती है.

इसी विषय से जुड़े कुछ लिंक

हमारे प्रॉडक्ट का इस्तेमाल करते समय, आपत्तिजनक व्यवहार की शिकायत करना

हम चाहते हैं कि हमारे प्रॉडक्ट इस्तेमाल करते समय बच्चों को ऐसी चीज़ों का सामना न करना पड़े जो उनके लिए सही नहीं हैं. जैसे, यौन शोषण से पहले उन्हें बहलाना-फुसलाना, सेक्सटॉर्शन, मानव तस्करी, और यौन शोषण के दूसरे तरीके. बच्चे हमारे प्रॉडक्ट का इस्तेमाल सुरक्षित तरीके से कर पाएं, इसके लिए हम उपयोगकर्ताओं को काम की जानकारी उपलब्ध कराते हैं. इससे उन्हें बच्चों का यौन शोषण दिखाने वाले कॉन्टेंट की शिकायत सही संगठनों या अधिकारियों से करने में मदद मिलती है.

अगर उपयोगकर्ताओं को लगता है कि Gmail या Hangouts जैसे Google प्रॉडक्ट की वजह से किसी बच्चे को कोई खतरा है, तो वे इस फ़ॉर्म के ज़रिए इसकी शिकायत कर सकते हैं. उपयोगकर्ता YouTube पर भी आपत्तिजनक कॉन्टेंट को फ़्लैग कर सकते हैं. साथ ही, वे Google Meet पर यौन शोषण की शिकायत, सीधे प्रॉडक्ट में या सहायता केंद्र पर जाकर कर सकते हैं. हम, धमकाने और उत्पीड़न से जुड़ी समस्याओं से निपटने में काम आने वाली जानकारी भी उपलब्ध कराते हैं. इसमें यह जानकारी भी शामिल है कि किसी उपयोगकर्ता को किसी बच्चे से संपर्क करने से कैसे रोका जाए. बच्चों की सुरक्षा से जुड़ी हमारी नीतियों के बारे में ज़्यादा जानने के लिए, YouTube के कम्यूनिटी दिशा-निर्देश पढ़ें और Google सुरक्षा केंद्र पर जाएं.

इसी विषय से जुड़े कुछ लिंक