उत्तम प्राधान्यक्रम
मानवी पुनरावलोकनासाठी गैरवर्तनासंबंधित आशयाला प्राधान्य देऊन लहान मुलांच्या ऑनलाइन शोषणाविरुद्धच्या लढ्यात APIs मदत करतात.
आणखी झटपट ओळखण्याची सुविधा
आशयाला आणखी झटपट ओळखल्याने, पीडितांना ओळखण्याची शक्यता वाढू शकते आणि त्यांचे भविष्यात होऊ शकणाऱ्या गैरवर्तनापासून संरक्षण केले जाऊ शकते.
आणखी सुरक्षित कारवाईची सुविधा
आशयाच्या पुनरावलोकन क्यूना जास्त प्रभावी आणि सोपे बनवल्याने, आशय नियंत्रकांचे कामही सोपे होते.
आमच्या टूल विषयीजाणून घ्या
आमच्या टूलमध्ये दुसऱ्या टूलसोबत काम करण्याच्या क्षमता आहे. वेगवेगळ्या गरजा पूर्ण करण्यासाठी ती एकत्रितपणे आणि इतर निराकरणांसोबत वापरली जाऊ शकतात.
आशय सुरक्षितता API
आधी न पाहिलेल्या इमेजचे वर्गीकरण करणे
CSAI Match
गैरवर्तनाशी संबंधित ओळखले गेलेले व्हिडिओ सेगमेंट जुळवणे
आशय सुरक्षितता API
यासाठी वापरले जाते: आधी न पाहिलेल्या इमेजचे वर्गीकरण करणे
आमच्या भागीदारांना पुनरावलोकनाच्या अब्जावधी इमेजचे वर्गीकरण करण्यासाठी आणि त्यांचा प्राधान्यक्रम निर्धारित करण्यासाठी आशय सुरक्षितता API क्लासिफायर हा प्रोग्रामॅटिक अॅक्सेस व आर्टिफिशियल इंटेलिजन्स वापरतो. क्लासिफायरने दिलेले अधिकचे प्राधान्य म्हणजेच इमेजमध्ये गैरवर्तनाशी संबंधित आशय असण्याची शक्यता जास्त असते, त्यामुळे भागीदारांना त्यांच्या मानवी पुनरावलोकनातील प्राधान्यक्रम ठरवण्यात आणि आशयाची वर्गवारी निर्धारित करण्यात मदत होते. आशय सुरक्षितता API हे त्यावर पाठवलेल्या आशयानुसार प्राधान्यक्रमाची शिफारस जारी करते. आशयावर कारवाई करावी की नाही हे निर्धारित करण्यासाठी भागीदारांनी स्वतः पुनरावलोकन करणे आवश्यक आहे.
क्यूशी संबंधित वर्गीकरण करणे, प्राधान्यक्रम ठरवणे आणि ती संगतवार लावणे यामध्ये मदत मिळावी यासाठी मॅन्युअल पुनरावलोकन प्रक्रियेआधी आशय सुरक्षितता API वापरावे अशी आम्ही संस्थांना शिफारस करतो. आशय सुरक्षितता API चा वापर इतर टूलसोबतही केला जाऊ शकतो, उदाहरणार्थ, YouTube चे CSAI Match व्हिडिओ हॅशिंग टूल किंवा Microsoft चे PhotoDNA, यांपैकी प्रत्येक टूल वेगवेगळ्या गरजा पूर्ण करते.
हे कसे काम करते?
१. इमेज परत मिळवणे
वापरकर्त्याने नोंदवलेली तक्रार किंवा क्रॉलरनी ओळखणे किंवा भागीदाराने त्यांच्या प्लॅटफॉर्मवर इमेज नियंत्रित करण्यासाठी तयार केलेले फिल्टर यांसारख्या अनेक पद्धतींद्वारे भागीदार इमेज परत मिळवतात.
भागीदार
वापरकर्त्याने तक्रार नोंदवलेल्या इमेज
क्रॉलर
आधीपासून लागू केलेले फिल्टर
(पॉर्न/इतर क्लासिफायर)
२. API पुनरावलोकन
इमेज फाइल त्यानंतर साध्या API कॉलद्वारे, आशय सुरक्षितता API ला पाठवल्या जातात. पुनरावलोकनाचा प्राधान्यक्रम निर्धारित करण्यासाठी त्या क्लासिफायरद्वारे रन केल्या जातात, प्रत्येक इमेजचे प्राधान्य मूल्य नंतर भागीदाराला परत पाठवले जाते.
आशय सुरक्षितता API
क्लासिफायर तंत्रज्ञान
३. मॅन्युअल पुनरावलोकन
मॅन्युअल पुनरावलोकनासाठी सर्वप्रथम लक्ष देण्याची आवश्यकता असलेल्या इमेजना प्राधान्य देण्याकरिता भागीदार प्राधान्य मूल्य वापरतात.
भागीदार
मॅन्युअल पुनरावलोकन
४. कारवाई करा
इमेजचे मॅन्युअली पुनरावलोकन केल्यावर, भागीदार स्थानिक कायदे आणि नियमांनुसार आशयावर कारवाई करू शकतात.
भागीदार
पुनरावलोकनानुसार कारवाई
CSAI Match
यासाठी वापरले जाते: गैरवर्तनाशी संबंधित ओळखले गेलेले व्हिडिओ सेगमेंट जुळवणे
ऑनलाइन असलेल्या CSAI (बाल लैंगिक गैरवर्तन आशय) व्हिडिओचा सामना करण्यासाठी CSAI Match हे YouTube च्या मालकीचे तंत्रज्ञान वापरते. ओळखला गेलेला उल्लंघन करणारा आशय ओळखण्यासाठी हॅश-मॅचिंगचा वापर करणारे हे पहिले तंत्रज्ञान होते आणि यामुळे मोठ्या प्रमाणात उल्लंघने नसलेल्या व्हिडिओमधून आम्हाला नियमांचे उल्लंघन करणारा आशय ओळखता आला. उल्लंघन केलेल्या आशयाची जुळणी आढळल्यानंतर स्थानिक कायदे आणि नियमांनुसार पुनरावलोकन करण्यासाठी, ती कंफर्म करण्यासाठी व त्यासंबंधी तक्रार नोंदवण्यासाठी भागीदारांना फ्लॅग केले जाते. YouTube हे उद्योग आणि NGOs मधील भागीदारांसाठी CSAI Match उपलब्ध करून देते. गैरवर्तनाशी संबंधित ओळखल्या गेलेल्या आशयाशी जुळणाऱ्या आमच्या डेटाबेसमधील जुळण्या ओळखाव्या याकरिता आम्ही फिंगरप्रिंटिंग सॉफ्टवेअर व एका API ला ॲक्सेस देतो.
ओळखल्या गेलेल्या CSAI आशयाच्या सर्वात मोठ्या अनुक्रमणिकांपैकी एकाशी त्यांच्या आशयाची तुलना करण्यासाठी ऑनलाइन प्लॅटफॉर्म CSAI मॅच वापरून उल्लंघन करणारा आशय त्यांच्या साइटवर प्रदर्शित आणि शेअर केला जाण्यापासून रोखू शकतात. CSAI Match हे भागीदारांना त्यांच्या सिस्टीममध्ये इंटिग्रेट करणे सोपे आहे, त्यामुळे त्यांना चांगल्या रीतीने मोठ्या प्रमाणातील आव्हानात्मक आशयाचे व्यवस्थापन करता येते.
हे कसे काम करते?
१. व्हिडिओ फिंगरप्रिंटिंग
व्हिडिओ हा भागीदाराच्या प्लॅटफॉर्मवर अपलोड केला जातो. भागीदाराच्या प्लॅटफॉर्मवरही रन केले जाणारे CSAI Match फिंगरप्रिंटर तंत्रज्ञान हे व्हिडिओची फिंगरप्रिंट फाइल तयार करते, ही फाइल एक डिजिटल आयडी असते जी व्हिडिओ फाइलमधील आशयाला युनिक पद्धतीने प्रेझेंट करते.
भागीदार
व्हिडिओ फाइल
फिंगरप्रिंटर
फिंगरप्रिंटर फाइल
२. API पुनरावलोकन
भागीदार हा YouTube च्या फिंगरप्रिंट रीपॉझिटरीमधील इतर फाइलशी तुलना करण्यासाठी फिंगरप्रिंट फाइल या CSAI Match API द्वारे पाठवतो. रीपॉझिटरीमध्ये YouTube आणि Google द्वारे डिटेक्ट केलेल्या गैरवर्तनासंबंधित ओळखल्या गेलेल्या आशयाच्या फिंगरप्रिंट असतात.
Youtube
CSAI Match API
CSAI Match तंत्रज्ञान
शेअर केलेली CSAI
फिंगरप्रिंटर रीपॉझिटरी
३. मॅन्युअल पुनरावलोकन
API कॉल पूर्ण झाल्यानंतर भागीदाराला पॉझिटिव्ह किंवा निगेटिव्ह जुळणी परत दिली जाते. जुळणीच्या माहितीच्या आधारे, भागीदार हा व्हिडिओ CSAI शी संबंधित असल्याची पडताळणी करण्यासाठी मॅन्युअली पुनरावलोकन करतो.
भागीदार
मॅन्युअल पुनरावलोकन
४. कारवाई करा
इमेजचे पुनरावलोकन केल्यानंतर, भागीदार स्थानिक कायदे आणि नियमांनुसार आशयावर कारवाई करू शकतो.
भागीदार
पुनरावलोकनानुसार कारवाई
आशय सुरक्षितता API
यासाठी वापरले जाते: आधी न पाहिलेल्या इमेजचे वर्गीकरण करणे
आमच्या भागीदारांना पुनरावलोकनाच्या अब्जावधी इमेजचे वर्गीकरण करण्यासाठी आणि त्यांचा प्राधान्यक्रम निर्धारित करण्यासाठी आशय सुरक्षितता API क्लासिफायर हा प्रोग्रामॅटिक अॅक्सेस व आर्टिफिशियल इंटेलिजन्स वापरतो. क्लासिफायरने दिलेले अधिकचे प्राधान्य म्हणजेच इमेजमध्ये गैरवर्तनाशी संबंधित आशय असण्याची शक्यता जास्त असते, त्यामुळे भागीदारांना त्यांच्या मानवी पुनरावलोकनातील प्राधान्यक्रम ठरवण्यात आणि आशयाची वर्गवारी निर्धारित करण्यात मदत होते. आशय सुरक्षितता API हे त्यावर पाठवलेल्या आशयानुसार प्राधान्यक्रमाची शिफारस जारी करते. आशयावर कारवाई करावी की नाही हे निर्धारित करण्यासाठी भागीदारांनी स्वतः पुनरावलोकन करणे आवश्यक आहे.
क्यूशी संबंधित वर्गीकरण करणे, प्राधान्यक्रम ठरवणे आणि ती संगतवार लावणे यामध्ये मदत मिळावी यासाठी मॅन्युअल पुनरावलोकन प्रक्रियेआधी आशय सुरक्षितता API वापरावे अशी आम्ही संस्थांना शिफारस करतो. आशय सुरक्षितता API चा वापर इतर टूलसोबतही केला जाऊ शकतो, उदाहरणार्थ, YouTube चे CSAI Match व्हिडिओ हॅशिंग टूल किंवा Microsoft चे PhotoDNA, यांपैकी प्रत्येक टूल वेगवेगळ्या गरजा पूर्ण करते.
आशय सुरक्षितता API
यासाठी वापरले जाते: आधी न पाहिलेल्या इमेजचे वर्गीकरण करणे
हे कसे काम करते?
भागीदार
वापरकर्त्याने तक्रार नोंदवलेल्या इमेज
क्रॉलर
आधीपासून लागू केलेले फिल्टर
(पॉर्न/इतर क्लासिफायर)
आशय सुरक्षितता API
क्लासिफायर तंत्रज्ञान
भागीदार
मॅन्युअल पुनरावलोकन
भागीदार
पुनरावलोकनानुसार कारवाई
आमची टूलकिट वापरण्यात स्वारस्य आहे का?
तुमच्या स्वारस्याबाबतची नोंदणी करण्यासाठी तुमच्या संस्थेबद्दलचे काही तपशील शेअर करा
स्वारस्य फॉर्म पहाCSAI Match
यासाठी वापरले जाते: गैरवर्तनाशी संबंधित ओळखले गेलेले व्हिडिओ सेगमेंट जुळवणे
ऑनलाइन असलेल्या CSAI (बाल लैंगिक गैरवर्तन आशय) व्हिडिओचा सामना करण्यासाठी CSAI Match हे YouTube च्या मालकीचे तंत्रज्ञान वापरते. ओळखला गेलेला उल्लंघन करणारा आशय ओळखण्यासाठी हॅश-मॅचिंगचा वापर करणारे हे पहिले तंत्रज्ञान होते आणि यामुळे मोठ्या प्रमाणात उल्लंघने नसलेल्या व्हिडिओमधून आम्हाला नियमांचे उल्लंघन करणारा आशय ओळखता आला. उल्लंघन केलेल्या आशयाची जुळणी आढळल्यानंतर स्थानिक कायदे आणि नियमांनुसार पुनरावलोकन करण्यासाठी, ती कंफर्म करण्यासाठी व त्यासंबंधी तक्रार नोंदवण्यासाठी भागीदारांना फ्लॅग केले जाते. YouTube हे उद्योग आणि NGOs मधील भागीदारांसाठी CSAI Match उपलब्ध करून देते. गैरवर्तनाशी संबंधित ओळखल्या गेलेल्या आशयाशी जुळणाऱ्या आमच्या डेटाबेसमधील जुळण्या ओळखाव्या याकरिता आम्ही फिंगरप्रिंटिंग सॉफ्टवेअर व एका API ला ॲक्सेस देतो.
ओळखल्या गेलेल्या CSAI आशयाच्या सर्वात मोठ्या अनुक्रमणिकांपैकी एकाशी त्यांच्या आशयाची तुलना करण्यासाठी ऑनलाइन प्लॅटफॉर्म CSAI मॅच वापरून उल्लंघन करणारा आशय त्यांच्या साइटवर प्रदर्शित आणि शेअर केला जाण्यापासून रोखू शकतात. CSAI Match हे भागीदारांना त्यांच्या सिस्टीममध्ये इंटिग्रेट करणे सोपे आहे, त्यामुळे त्यांना चांगल्या रीतीने मोठ्या प्रमाणातील आव्हानात्मक आशयाचे व्यवस्थापन करता येते.
CSAI Match
यासाठी वापरले जाते: गैरवर्तनाशी संबंधित ओळखले गेलेले व्हिडिओ सेगमेंट जुळवणे
हे कसे काम करते?
भागीदार
व्हिडिओ फाइल
फिंगरप्रिंटर
फिंगरप्रिंटर फाइल
Youtube
CSAI Match API
CSAI Match तंत्रज्ञान
शेअर केलेली CSAI
फिंगरप्रिंटर रीपॉझिटरी
भागीदार
मॅन्युअल पुनरावलोकन
भागीदार
पुनरावलोकनानुसार कारवाई
आमची टूलकिट वापरण्यात स्वारस्य आहे का?
तुमच्या स्वारस्याबाबतची नोंदणी करण्यासाठी तुमच्या संस्थेबद्दलचे काही तपशील शेअर करा
स्वारस्य फॉर्म पहाआमची टूलकिट वापरण्यात स्वारस्य आहे का?
तुमच्या स्वारस्याबाबतची नोंदणी करण्यासाठी तुमच्या संस्थेबद्दलचे काही तपशील शेअर करा
स्वारस्य फॉर्म पहाप्रशस्तिपत्रे
वारंवार विचारले जाणारे प्रश्न (FAQs)
आशय सुरक्षितता API
आशय सुरक्षितता API हे व्हिडिओसाठी काम करते का?
आशय सुरक्षितता API हे इमेजसाठी डिझाइन केले आहे, पण YouTube च्या CSAI Match द्वारे, संस्था ओळखल्या जाणाऱ्या गैरवर्तनाशी संबंधित व्हिडिओ आशयाच्या आमच्या डेटाबेसशी जुळणाऱ्या जुळण्या ओळखण्याकरिता फिंगरप्रिंटिंग सॉफ्टवेअर आणि API अॅक्सेस करू शकतात. अधिक जाणून घ्या.
तंत्रज्ञान आणि आशय सुरक्षितता API ॲक्सेस करण्यासाठी कोण साइन अप करू शकते?
गैरवर्तनापासून त्यांच्या प्लॅटफॉर्मचे संरक्षण करू पाहणारे उद्योग आणि नागरी समाजाशी संबंधित तृतीय पक्ष हे आशय सुरक्षितता API अॅक्सेस करण्यासाठी साइन अप करू शकतात. अर्ज हे मंजुरीच्या अधीन आहेत.
तुम्ही ही टूल मोठ्या प्रमाणावर का उपलब्ध करून देत आहात?
आम्हाला असा विश्वास आहे, की लहान मुलांच्या ऑनलाइन शोषणाचा सामना करण्याचा सर्वोत्तम दृष्टिकोन म्हणजे इतर कंपनी आणि NGOs शी सहयोग करणे. डेटावर आधारित नवीन टूल डेव्हलप करण्यासाठी, तांत्रिक क्षमतेला चालना देण्यासाठी व जागरूकता वाढवण्यासाठी आम्ही उद्योग आणि NGOs ना साहाय्य करण्याकरिता दीर्घकाळ काम केले आहे. आम्हाला असे वाटते, की ही टूल सर्वांना उपलब्ध करून दिल्याने आमचे भागीदार आशयाचे मोठ्या प्रमाणात चांगल्या प्रकारे पुनरावलोकन करण्यासाठी AI वापरू शकतील, हा या लढ्याचा अत्यंत महत्त्वाचा भाग आहे.
CSAI Match
CSAI Match हे इमेजसाठी काम करते का?
CSAI Match हे व्हिडिओसाठी डिझाइन केले आहे, पण मशीन लर्निंग आधारित इमेजचे वर्गीकरण ऑफर करणारे, टूलचा संग्रह असलेले Google चे आशय सुरक्षितता API हे उद्योग आणि NGO च्या भागीदारांकरिता उपलब्ध आहे. अधिक जाणून घ्या.
ओळखल्या गेलेल्या जुळणीशी संबंधित कोणती माहिती मिळते?
ओळखल्या गेलेल्या CSAI व्हिडिओमधील कोणता भाग जुळतो हे जुळणी ओळखेल, तसेच ती जुळलेल्या आशयाच्या प्रकाराची वर्गवारी प्रमाणित करेल.
CSAI Match तंत्रज्ञान इतके प्रभावी कशामुळे होते?
CSAI Match हे ओळखल्या गेलेल्या CSAI आशयाशी जवळपास जुळणारे डुप्लिकेट सेगमेंट डिटेक्ट करते. यामध्ये MD5 हॅश मॅचिंगद्वारे संपूर्ण डुप्लिकेटचा समावेश असतो, तसेच जवळपास जुळणारे डुप्लिकेट सेंगमेंट असतात, ज्यामध्ये पुन्हा एन्कोड केलेले व्हिडिओ, त्यांच्या क्लिष्ट आवृत्त्या, ट्रंकेशन किंवा स्केल केलेले CSAI व्हिडिओ असू शकतात. CSA नसलेल्या आशयामध्ये कदाचित CSAI च्या अगदी छोटाशा भागाचा समावेश असले, असे व्हिडिओदेखील डिटेक्ट केले जाऊ शकतात. भागीदार व्हिडिओची "फिंगरप्रिंट" तयार करण्यासाठी फिंगरप्रिंटिंग बायनरी रन करतात, हा MD5 हॅशसारखा बाइट-सीक्वेन्स असतो. हे त्यानंतर Google च्या CSAI Match सेवेकडे पाठवले जाते, ही सेवा विशेषतः ओळखले गेलेले CSAI चे संदर्भ असलेल्या YouTube च्या संग्रहासोबत व्हिडिओ स्कॅन करणे प्रभावी करण्यासाठी डिझाइन केली गेली आहे.