கொள்கைமீறும் பயன்பாட்டை மதிப்பாய்வு செய்யச் சிறப்பாக முன்னுரிமை கொடுப்பதன் மூலம் சிறுவர்களைப் பாதுகாப்பதற்கு நிறுவனங்களுக்கு உதவ Googleளிலும் YouTubeபிலும் கருவிகளை உருவாக்கியுள்ளோம்.
இந்தக் கருவித்தொகுப்பின் மையமாக Content Safety API, CSAI Match ஆகிய இரண்டு APIகள் உள்ளன. தகுதிபெறும் கூட்டாளர்களுக்கு இவற்றை விலை இல்லாமல் வழங்குகிறோம். கோடிக்கணக்கான ஃபைல்களைச் செயலாக்க இந்தத் தொழில்நுட்பங்களை எங்கள் கூட்டாளர்கள் பயன்படுத்துகின்றனர். ஒவ்வொரு ஆண்டும் லட்சக்கணக்கான படங்களையும் வீடியோக்களையும் மதிப்பீடு செய்ய இவை உதவுகின்றன.
-
சிறப்பான விதத்தில் முன்னுரிமை வழங்குதல்
கொள்கைமீறும் உள்ளடக்கத்தைக் குழுவினரால் மதிப்பாய்வு செய்யப்பட முன்னுரிமை வழங்குவதன் மூலமாக ஆன்லைனில் சிறார் பாலியல் வன்முறையை எதிர்ப்பதற்கு APIகள் உதவுகின்றன.
-
விரைவாக அடையாளப்படுத்துதல்
அதிவிரைவில் உள்ளடக்கத்தை அடையாளம் காண்பது பாதிக்கப்பட்டவர்களை அடையாளம் கண்டு மேலும் பாதிப்புக்குள்ளாவதிலிருந்து பாதுகாப்பளிப்பதை அதிகரிக்கிறது.
-
பாதுகாப்பான செயல்பாடுகள்
மதிப்பாய்வுப் பட்டியல்களின் ஒழுங்குமுறையை மேம்படுத்தி குழப்பங்களைக் குறைப்பதால் உள்ளடக்க மதிப்பீட்டாளர் குழுவினரின் பணிச்சுமையும் குறைகிறது.
எங்கள் கருவிகள் குறித்துத் தெரிந்துகொள்ளுங்கள்
இதுவரை பார்க்காத படங்களையும் வீடியோக்களையும் வகைப்படுத்துதல்
தவறான பயன்பாடாக அறியப்பட்ட வீடியோ பகுதிகளுடன் பொருத்துதல்
Content Safety API
இதற்காகப் பயன்படுத்தப்படுகிறது: இதுவரை பார்க்காத படங்களையும் வீடியோக்களையும் வகைப்படுத்துதல்
நிரலாக்கப்பட்ட அணுகலையும் செயற்கை நுண்ணறிவையும் Content Safety API வகைப்படுத்தி பயன்படுத்துகிறது. இது மதிப்பாய்வுக்காகக் கோடிக்கணக்கான படங்களையும் வீடியோக்களையும் வகைப்படுத்தி முன்னுரிமை அளிக்க எங்கள் கூட்டாளர்களுக்கு உதவுகிறது. வகைப்படுத்தி எந்தளவு அதிக முன்னுரிமை அளிக்கிறதோ அந்தளவு மீடியா ஃபைலில் கொள்கை மீறும் உள்ளடக்கம் இருப்பதற்கு வாய்ப்புள்ளது. இது கூட்டாளர்கள் தங்களின் நிபுணர் மதிப்பாய்வுக்கு முன்னுரிமை அளிக்கவும் உள்ளடக்கத்தைத் தாங்களாகவே தீர்மானிக்கவும் உதவுகிறது. Content Safety API தனக்கு அனுப்பப்பட்ட உள்ளடக்கத்திற்கு முன்னுரிமைப்படுத்தல் பரிந்துரையை வழங்குகிறது. உள்ளடக்கத்தின் மீது நடவடிக்கை எடுக்க வேண்டுமா என்பதைத் தீர்மானிக்க, கூட்டாளர்களே மதிப்பாய்வு செய்துகொள்ள வேண்டும்.
செயல்முறையில், நிறுவனங்கள் உள்ளடக்கத்தை வகைப்படுத்தவும் அவற்றுக்கு முன்னுரிமை அளிக்கவும் தங்கள் வரிசையை ஒருங்கிணைக்க உதவவும் நேரடி மதிப்பாய்வுச் செயல்முறைக்கு முன்பு Content Safety API பயன்படுத்தும்படி பரிந்துரைக்கிறோம். YouTubeன் CSAI Match வீடியோ ஹேஷிங் கருவி, Microsoftடின் PhotoDNA போன்ற பிற தீர்வுகளுக்கு இணையாக Content Safety API பயன்படுத்தலாம். இவை ஒவ்வொன்றும் வெவ்வேறு தேவைகளைப் பூர்த்திசெய்கின்றன.
இது எப்படிச் செயல்படுகிறது?
-
1. ஃபைலை மீட்டெடுத்தல்
ஃபைல்கள் கூட்டாளரால் பல வடிவங்களில் மீட்டெடுக்கப்படுகின்றன. உதாரணமாக, பயனரால் புகாரளிக்கப்பட்டவை, கூட்டாளர் தனது பிளாட்ஃபார்மில் உள்ளடக்கத்தை மதிப்பாய்வு செய்வதற்கென உருவாக்கியுள்ள கிராலர்கள்/ஃபில்டர்கள் மூலம் அடையாளம் காணப்பட்டவை.
-
2. API மதிப்பாய்வு
இதன்பிறகு எளிய API அழைப்பின் வழியாக மீடியா ஃபைல்கள் Content Safety APIக்கு அனுப்பப்படுகின்றன. மதிப்பாய்வு செய்வதற்கான முன்னுரிமையைத் தீர்மானிப்பதற்காக அவை வகைப்படுத்திகளின் மூலம் இயங்குகின்றன. மேலும் உள்ளடக்கத்தின் ஒவ்வொரு பகுதிக்கான முன்னுரிமை மதிப்பும் மீண்டும் கூட்டாளருக்கு அனுப்பப்படுகின்றன.
-
3. நேரடி மதிப்பாய்வு
முதலில் கவனம் செலுத்தி நேரடியாக மதிப்பாய்வு செய்ய வேண்டிய ஃபைல்களுக்கு முக்கியத்துவம் அளிக்க முன்னுரிமை மதிப்பைக் கூட்டாளர்கள் பயன்படுத்துகின்றனர்.
-
4. நடவடிக்கை எடுத்தல்
படம் மற்றும் வீடியோ ஃபைல்கள் நேரடியாக மதிப்பாய்வு செய்யப்பட்டதும், உள்ளடக்கத்தின் மீது உள்ளூர் சட்டங்களுக்கும் ஒழுங்குமுறைகளுக்கும் ஏற்ப கூட்டாளர் நடவடிக்கை எடுக்கலாம்.
|
கூட்டாளர் |
|
கூட்டாளர் |
கூட்டாளர் |
|||
|---|---|---|---|---|---|---|
|
பயனர் புகாரளித்துள்ள படங்கள் அல்லது வீடியோக்கள் கிராலர்கள் ப்ரீ ஃபில்டர்கள் (ஆபாசம்/பிற வகைப்படுத்திகள்) |
I |
Content Safety API I வகைப்படுத்தித் தொழில்நுட்பம் |
I |
நேரடி மதிப்பாய்வு |
I |
உரிய நடவடிக்கை எடுத்தல் |
CSAI Match
இதற்காகப் பயன்படுத்தப்படுகிறது: தவறான பயன்பாடாக அறியப்பட்ட வீடியோ பகுதிகளுடன் பொருத்துதல்
CSAI Match என்பது ஆன்லைனில் CSAI (சிறார் பாலியல் கொடுமை சார்ந்தவை) வீடியோக்களைத் தடுக்க YouTubeக்குச் சொந்தமாக இருக்கும் தொழில்நுட்பமாகும். அறியப்பட்ட கொள்கை மீறும் உள்ளடக்கத்தைக் கண்டறிய ஹேஷ்-மேட்சிங் முறையை முதன்முதலில் பயன்படுத்திய தொழில்நுட்பம் இதுவே ஆகும். கொள்கை மீறாத எண்ணற்ற வீடியோக்களுக்கிடையே ஒளிந்திருக்கும் கொள்கை மீறும் உள்ளடக்கத்தைக் கண்டறிய இது உதவுகிறது. கொள்கை மீறும் உள்ளடக்கத்தின் பொருத்தம் கண்டறியப்பட்டால் மதிப்பாய்வு செய்யவும், உறுதிப்படுத்தவும், உள்ளூர் சட்டங்களுக்கும் ஒழுங்குமுறைகளுக்கும் ஏற்ப பொறுப்புடன் புகாரளிக்கவும் கூட்டாளர்களுக்கு அது கொடியிடப்படும். தொழில்துறை மற்றும் NGO கூட்டாளர்களுக்கு CSAI Match தொழில்நுட்பத்தை YouTube வழங்குகிறது. எங்களின் அறியப்பட்ட கொள்கை மீறும் உள்ளடக்கத்தின் தரவுத்தளத்துடன் பொருந்துபவற்றை அடையாளங்காண கைரேகை மென்பொருள், API ஆகியவற்றுக்கான அணுகலை வழங்குகிறோம்.
CSAI உள்ளடக்கமாக அறியப்பட்டவற்றின் மிகப் பெரிய பட்டியல்களில் ஒன்றுடன் தங்கள் உள்ளடக்கத்தை CSAI Match பயன்படுத்தி ஒப்பிடுவதன் மூலம் தங்கள் தளங்களில் கொள்கை மீறும் உள்ளடக்கம் காட்சிப்படுத்தப்படுவதையும் பகிரப்படுவதையும் ஆன்லைன் பிளாட்ஃபார்ம்கள் தடுக்கலாம். கூட்டாளர்கள் தங்கள் சிஸ்டத்தில் ஒருங்கிணைக்க CSAI Match எளிதானதாகும். உள்ளடக்க நிர்வாகத்திற்கான சவால்களைத் திறம்படச் சமாளிக்க இது உதவுகிறது.
இது எப்படிச் செயல்படுகிறது?
-
1. வீடியோ கைரேகை உருவாக்கம்
கூட்டாளரின் பிளாட்ஃபார்மில் வீடியோ பதிவேற்றப்படுகிறது. கூட்டாளரின் பிளாட்ஃபார்மில் இயங்கும் CSAI Match Fingerprinter வீடியோவின் கைரேகை ஃபைலை உருவாக்குகிறது. இது வீடியோ ஃபைலின் உள்ளடக்கத்தைத் தனித்துவமாக அடையாளப்படுத்தும் டிஜிட்டல் ஐடியாகும்.
-
2. API மதிப்பாய்வு
கைரேகை ஃபைலை YouTubeன் கைரேகைத் தரவுச் சேமிப்பகத்திலுள்ள பிற ஃபைல்களுடன் ஒப்பிட CSAI Match API மூலம் கூட்டாளர் அனுப்புகிறார். தரவுச் சேமிப்பகத்தில் YouTube, Google ஆகியவை கண்டறிந்த அறியப்பட்ட கொள்கை மீறும் உள்ளடக்கத்தின் கைரேகைகள் உள்ளன.
-
3. நேரடி மதிப்பாய்வு
APIக்கான அழைப்பு நிறைவடைந்ததும் நேர்மறை/எதிர்மறைப் பொருத்தம் மீண்டும் கூட்டாளருக்கு அனுப்பப்படுகிறது. பொருத்தம் குறித்த தகவல்களின் அடிப்படையில், வீடியோ CSAI தானா என்பதைச் சரிபார்க்க, அதைக் கூட்டாளர் நேரடியாக மதிப்பாய்வு செய்கிறார்.
-
4. நடவடிக்கை எடுத்தல்
படங்கள் மதிப்பாய்வு செய்யப்பட்டதும், உள்ளூர் சட்டங்களுக்கும் ஒழுங்குமுறைகளுக்கும் ஏற்ப கூட்டாளர் நடவடிக்கை எடுக்கலாம்.
|
கூட்டாளர் |
YOUTUBE |
கூட்டாளர் |
கூட்டாளர் |
|||
|---|---|---|---|---|---|---|
|
வீடியோ ஃபைல் I Fingerprinter I Fingerprinter ஃபைல் |
I |
CSAI Match API I CSAI Match தொழில்நுட்பம் I பகிரப்பட்ட CSAI Fingerprinter தரவுச் சேமிப்பகம் |
I |
நேரடி மதிப்பாய்வு |
I |
உரிய நடவடிக்கை எடுத்தல் |
நற்சான்றுகள்
FAQ
Content Safety API
மீடியா ஃபைல்களில் இருந்து வருவிக்கப்படும் அசல் உள்ளடக்க பைட்டுகளையும் உட்பொதிப்புகளையும் ஆதரிப்பதற்கான விருப்பங்கள் எங்களிடம் உள்ளன. மேலும் விவரங்களுக்கு, தொடர்புகொள்ளுங்கள்.
தங்கள் பிளாட்ஃபார்ம்களைத் தவறான பயன்பாட்டுக்கு எதிராகப் பாதுகாக்க முயல்கிற தொழில்துறை மற்றும் பொதுச் சமூக மூன்றாம் தரப்பினர் Content Safety APIயைப் பயன்படுத்துவதற்குப் பதிவுசெய்யலாம். பரிசீலனைக்குப் பிறகு விண்ணப்பங்கள் ஏற்றுக்கொள்ளப்படும்.
பிற நிறுவனங்களுடனும் NGOக்களுடனும் ஒன்றிணைந்து பணியாற்றுவதே ஆன்லைனில் குழந்தைகளைத் தவறாகப் பயன்படுத்துவதை எதிர்கொள்வதற்கான சிறந்த அணுகுமுறை என நம்புகிறோம். தரவு அடிப்படையிலான புதிய கருவிகளை உருவாக்கவும், தொழில்நுட்பத் திறனை அதிகரிக்கவும், விழிப்புணர்வை ஏற்படுத்தவும் தொழில்துறை நிறுவனங்களுடனும் NGOக்களுடனும் நீண்ட காலமாகப் பணியாற்றி வருகிறோம். எங்கள் கூட்டாளர்களும் AIயைப் பயன்படுத்தி பெரிய அளவில் உள்ளடக்கத்தைச் சிறப்பாக மதிப்பாய்வு செய்யும் வகையில் இந்தக் கருவிகளைப் பரந்த அளவில் கிடைக்கச் செய்வதை இந்த முயற்சியில் முக்கியமான பகுதியாக நாங்கள் கருதுகிறோம்.
CSAI Match
CSAI Match வீடியோவிற்காக வடிவமைக்கப்பட்ட கருவி ஆகும். எனினும் Googleளின் Content Safety API வழியாக மெஷின் லேர்னிங் மூலம் படங்களை வகைப்படுத்தும் கருவிகளின் தொகுப்பை தொழில்துறை நிறுவனங்களும் NGO கூட்டாளர்களும் பயன்படுத்திக் கொள்ளலாம். மேலும் அறிக.
அறியப்பட்ட CSAI உடன் வீடியோவின் எந்தப் பகுதி பொருந்துகிறது என்பதையும் பொருந்தும் உள்ளடக்க வகையின் நிலையான வகைப்பாட்டையும் CSAI Match கண்டறியும்.
அறியப்பட்ட CSAI உள்ளடக்கத்தின் கிட்டத்தட்ட நகல் போல ஒத்திருக்கும் பகுதிகளையும் CSAI Match கண்டறியும். இதில் MD5 ஹேஷ் மேட்சிங் கண்டறியும் முழு நகல்களும், அத்துடன் CSAI வீடியோக்களின் ரீ-என்கோடிங்குகள், கடினமாக்கப்பட்ட என்கோடிங்குகள், துண்டிக்கப்பட்ட அல்லது நீட்டிக்கப்பட்ட வடிவங்கள் போன்ற ஏறக்குறைய நகலாக இருப்பவையும் இதில் அடங்கும் – CSAI அல்லாத உள்ளடக்கத்துடன் சிறு பகுதி மட்டுமே CSAI ஆக இருக்கின்ற வீடியோக்களும் இதில் அடங்கும். வீடியோவின் “கைரேகையை” உருவாக்க கூட்டாளர்கள் கைரேகையை உருவாக்கும் பைனரியைச் செயலாக்குகின்றனர். இது MD5 ஹேஷைப் போலவே இருக்கும் பைட் வரிசையாகும். பிறகு இது Googleளின் CSAI Match சேவைக்கு அனுப்பப்படுகிறது. அது YouTubeன் அறியப்பட்ட CSAI உள்ளடக்கத் தொகுப்புடன் வீடியோவை ஒப்பிட்டு ஸ்கேன் செய்யும்போது சிறப்பாகச் செயல்படுவதற்காகவே வடிவமைக்கப்பட்டுள்ளது.