इंटरनेट परबच्चों के यौन शोषण को रोकना

Google Search, जानकारी ढूंढना आसान बनाता है, लेकिन हम यह नहीं चाहते कि Search ऐसा कॉन्टेंट दिखाए जो गैरकानूनी हो या जिसकी वजह से बच्चों का यौन शोषण हो. अपनी नीति के मुताबिक, हम खोज के ऐसे नतीजे ब्लॉक कर देते हैं जिनमें बच्चों का यौन शोषण दिखाने वाली तस्वीरें हों या ऐसा कॉन्टेंट शामिल हो जो बच्चों का यौन रूप से उत्पीड़न कर सकता हो, उन्हें खतरे में डाल सकता हो या उनका शोषण कर सकता हो. हम इनके बढ़ते हुए खतरे से निपटने के लिए, लगातार अपने एल्गोरिदम अपडेट कर रहे हैं.

उन खोजों पर हम और ज़्यादा सुरक्षा लागू करते हैं जिनके बारे में हमें लगता है कि वे सीएसएएम कॉन्टेंट ढूंढने के मकसद से की गई हैं. अगर हमें लगता है कि खोज क्वेरी सीएसएएम या वयस्कों का अश्लील कॉन्टेंट ढूंढ रही है, तो हम अश्लील यौन कॉन्टेंट वाले नतीजे फ़िल्टर कर देते हैं. ऐसे में, Search वे तस्वीरें नहीं दिखाता जिनमें बच्चे हों. इस तरह, बच्चों और सेक्शुअल कॉन्टेंट के बीच का संबंध तोड़ने में सहायता मिलती है. कई देशों में, सीएसएएम के बारे में सीधे क्वेरी करने वाले उपयोगकर्ताओं को एक अहम चेतावनी दिखती है, जो यह बताती है कि बच्चों का यौन शोषण दिखाने वाली तस्वीरें गैरकानूनी होती हैं. इसके अलावा, इसमें यह भी बताया जाता है कि कनैडियन सेंटर फ़ॉर चाइल्ड प्रोटेक्शन, यूनाइटेड किंगडम के इंटरनेट वॉच फ़ाउंडेशन, और कोलंबिया के Te Protejo जैसे भरोसेमंद संगठनों को इस तरह के कॉन्टेंट की जानकारी कैसे दी जाए. इन चेतावनियों को दिखाने से, इस बात की आशंका कम हो जाती है कि उपयोगकर्ता ऐसा कॉन्टेंट ढूंढना जारी रखेंगे.

YouTube पर, बच्चों से जुड़े अश्लील या उनका यौन शोषण करने वाले वीडियो, प्लेलिस्ट, थंबनेल, और टिप्पणियों के बारे में हमारी नीतियां हमेशा साफ़ रही हैं. हम मशीन लर्निंग सिस्टम का इस्तेमाल करके, खुद से इन नीतियों के उल्लंघन का पता लगाते हैं. साथ ही, इस तरह के जिन वीडियो को हमारे सिस्टम पहचान जाते हैं या हमारे भरोसेमंद फ़्लैगर और उपयोगकर्ता फ़्लैग करते हैं उन्हें दुनिया भर में मौजूद हमारे समीक्षा करने वाले व्यक्ति फटाफट हटा देते हैं.

भले ही, नाबालिगों को दिखाने वाले कुछ वीडियो हमारी नीतियों का उल्लंघन न करते हों, लेकिन हम मानते हैं कि नाबालिगों के लिए ऑनलाइन या ऑफ़लाइन, दोनों जगह शोषण का खतरा ज़्यादा हो सकता है. इसलिए, इन नीतियों को लागू करते समय हम बेहद सावधान रहते हैं. हमारे मशीन लर्निंग सिस्टम हमें खुद से ऐसे वीडियो पहचानने में मदद करते हैं जो नाबालिगों को खतरे में डाल सकते हों. साथ ही, ये सिस्टम बड़े पैमाने पर हमारी सुरक्षा नीतियां लागू करते हैं, जैसे कि लाइव सुविधाओं पर कुछ पाबंदियां लगाना, टिप्पणियां बंद करना, और वीडियो को सुझाव के तौर पर सीमित रूप से दिखाना.

साल 2021 में, हमने इंटरनेट पर बच्चों का यौन शोषण दिखाने वाले कॉन्टेंट से निपटने की Google की कोशिशों से जुड़ी एक Transparency Report लॉन्च की है. इसमें यह बताया गया है कि हमने एनसीएमईसी को कितने मामलों की रिपोर्ट की है. रिपोर्ट में यह डेटा भी है कि YouTube पर हमने इस बारे में क्या काम किया है. इसमें बताया गया है कि हम किस तरह Search पर सीएसएएम से जुड़े नतीजे पहचानते और हटाते हैं. साथ ही, यह जानकारी दी गई है कि सीएसएएम से जुड़ी नीतियों का उल्लंघन करने की वजह से, हमारी सभी सेवाओं पर कितने खाते बंद किए गए हैं.

इस Transparency Report में सीएसएएम से जुड़े उन हैश की संख्या भी बताई गई है जो हमने एनसीएमईसी के साथ शेयर किए हैं. इन हैश की मदद से दूसरे प्लैटफ़ॉर्म बड़ी संख्या में सीएसएएम को पहचान सकते हैं. एनसीएमईसी के हैश डेटाबेस में योगदान करना हमारे और इस उद्योग के दूसरे भागीदारों के लिए, सीएसएएम से निपटने का एक अहम तरीका है. इससे, ऐसे कॉन्टेंट का फिर से इस्तेमाल होने और जिन बच्चों का शोषण हुआ है उनका दोबारा शोषण होने की आशंका कम हो जाती है.

हम चाहते हैं कि हमारे प्रॉडक्ट इस्तेमाल करते समय बच्चों को ऐसी चीज़ों का सामना न करना पड़े जो सही नहीं हैं, जैसे कि यौन शोषण से पहले बहलाना-फुसलाना, यौन शोषण की धमकी वाला कॉन्टेंट, मानव तस्करी, और उनके यौन शोषण के दूसरे तरीके. अपने प्रॉडक्ट को बच्चों के लिए सुरक्षित बनाने के लिए, हम उपयोगकर्ताओं को काम की जानकारी उपलब्ध कराते हैं, ताकि वे बच्चों का यौन शोषण दिखाने वाले कॉन्टेंट की शिकायत सही संगठनों या अधिकारियों से कर सकें.

अगर उपयोगकर्ताओं को लगता है कि किसी बच्चे को Gmail या Hangouts जैसे Google के किसी प्रॉडक्ट पर कोई खतरा है, तो वे इस फ़ॉर्म की मदद से शिकायत कर सकते हैं. उपयोगकर्ता YouTube पर आपत्तिजनक कॉन्टेंट फ़्लैग भी कर सकते हैं. साथ ही, वे Google Meet पर यौन शोषण की शिकायत सीधे प्रॉडक्ट में या सहायता केंद्र पर जाकर कर सकते हैं. हम धमकाने और उत्पीड़न से जुड़ी समस्याओं से निपटने में काम आने वाली जानकारी भी उपलब्ध कराते हैं. इसमें यह जानकारी भी शामिल है कि किसी उपयोगकर्ता को किसी बच्चे से संपर्क करने से कैसे रोका जाए. बच्चों के लिए हमारी सुरक्षा नीतियों के बारे में और जानकारी के लिए, YouTube के कम्यूनिटी दिशा-निर्देश और 'Google सुरक्षा केंद्र' देखें.