Google-ലും YouTube-ലും, അവലോകനത്തിനായി അധിക്ഷേപകരമായ ഉള്ളടക്കത്തിന് മുൻഗണന നൽകി കുട്ടികളെ പരിരക്ഷിക്കാൻ സ്ഥാപനങ്ങളെ സഹായിക്കുന്നതിനുള്ള ടൂളുകൾ ഞങ്ങൾ വികസിപ്പിച്ചിട്ടുണ്ട്.
ഉള്ളടക്ക സുരക്ഷാ API, CSAI പൊരുത്തം എന്നീ രണ്ട് API-കളാണ് ഈ ടൂൾകിറ്റിന്റെ പ്രധാന ഭാഗങ്ങൾ, യോഗ്യതയുള്ള പങ്കാളികൾക്ക് ഞങ്ങൾ ഇവ നിരക്കില്ലാതെ നൽകുന്നു. ബില്യൺ കണക്കിന് ഫയലുകൾ പ്രോസസ് ചെയ്യാൻ ഞങ്ങളുടെ പങ്കാളികൾ ഈ സാങ്കേതികവിദ്യകൾ ഉപയോഗിക്കുന്നു, ഓരോ വർഷവും ദുരുപയോഗ സ്വഭാവമുള്ള മില്യൺ കണക്കിന് ചിത്രങ്ങളും വീഡിയോകളും വിലയിരുത്താൻ അവർക്ക് കഴിയുന്നു.
-
മെച്ചപ്പെട്ട മുൻഗണന നൽകൽ
മാനുഷിക അവലോകനത്തിനായി അധിക്ഷേപകരമായ ഉള്ളടക്കത്തിന് മുൻഗണന നൽകിക്കൊണ്ട് ഓൺലൈനിലൂടെ കുട്ടികളെ ചൂഷണം ചെയ്യുന്നതിനെതിരായ പോരാട്ടത്തിൽ API-കൾ സഹായിക്കുന്നു.
-
വേഗത്തിലുള്ള തിരിച്ചറിയൽ
ഉള്ളടക്കം കൂടുതൽ വേഗത്തിൽ തിരിച്ചറിയുന്നത് ഇരകളെ തിരിച്ചറിയാനും കൂടുതൽ ദുരുപയോഗത്തിൽ നിന്ന് സംരക്ഷിക്കാനുമുള്ള സാധ്യത വർദ്ധിപ്പിക്കുന്നു.
-
സുരക്ഷിതമായ പ്രവർത്തനങ്ങൾ
അവലോകന ക്യൂകൾ കൂടുതൽ കാര്യക്ഷമവും നോയ്സ് കുറഞ്ഞതുമാക്കുന്നത് മനുഷ്യ ഉള്ളടക്ക മോഡറേറ്റർമാരുടെ നഷ്ടം കുറയ്ക്കുന്നു.
ഞങ്ങളുടെ ടൂളുകളെക്കുറിച്ച് അറിയുക
മുമ്പ് കണ്ടിട്ടില്ലാത്ത ചിത്രങ്ങളും വീഡിയോകളും തരംതിരിക്കൽ
അറിയപ്പെടുന്ന ദുരുപയോഗ വീഡിയോ സെഗ്മെന്റുകളുമായി പൊരുത്തപ്പെടുത്തുന്നു
ഉള്ളടക്ക സുരക്ഷാ API
ഉപയോഗം: മുമ്പ് കണ്ടിട്ടില്ലാത്ത ചിത്രങ്ങളും വീഡിയോകളും തരംതിരിക്കാൻ
അവലോകനത്തിനായി കോടിക്കണക്കിന് ചിത്രങ്ങളും വീഡിയോകളും തരംതിരിക്കാനും മുൻഗണന നൽകാനും ഞങ്ങളുടെ പങ്കാളികളെ സഹായിക്കുന്നതിന്, പ്രോഗ്രാമാറ്റിക് ആക്സസും ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസും Content Safety API ക്ലാസിഫയർ ഉപയോഗിക്കുന്നു. ക്ലാസിഫയർ നൽകുന്ന മുൻഗണന വർദ്ധിക്കുന്നതിന് അനുസരിച്ച് മീഡിയാ ഫയലിൽ ദുരുപയോഗമുള്ള ഉള്ളടക്കം അടങ്ങിയിരിക്കാൻ സാധ്യത കൂടുന്നു, മനുഷ്യർ ചെയ്യുന്ന അവലോകനത്തിന് മുൻഗണന നൽകാനും ഉള്ളടക്കത്തെക്കുറിച്ച് അവരുടേതായ വിലയിരുത്തലുകൾ നടത്താനും ഇത് പങ്കാളികളെ സഹായിക്കുന്നു. Content Safety API അതിലേക്ക് അയച്ച ഉള്ളടക്കത്തിന് മുൻഗണന നൽകുന്നതിനുള്ള നിർദ്ദേശം നൽകുന്നു. ഉള്ളടക്കത്തിന്മേൽ നടപടി എടുക്കണോ എന്ന് നിർണ്ണയിക്കാൻ പങ്കാളികൾ സ്വന്തം നിലയിൽ അവലോകനം നടത്തണം.
പ്രവർത്തനപരമായി, നേരിട്ടുള്ള അവലോകന പ്രക്രിയയ്ക്ക് തൊട്ടുമുമ്പ് തരംതിരിക്കൽ നടത്താനും മുൻഗണന നൽകാനും തങ്ങളുടെ ക്യൂ ഓർഗനൈസ് ചെയ്യാൻ സഹായിക്കാനും സ്ഥാപനങ്ങൾ Content Safety API ഉപയോഗിക്കാൻ ഞങ്ങൾ നിർദ്ദേശിക്കുന്നു. YouTube-ന്റെ CSAI പൊരുത്തം വീഡിയോ ഹാഷിംഗ് ടൂൾ അല്ലെങ്കിൽ Microsoft-ന്റെ PhotoDNA പോലുള്ള മറ്റ് സൊല്യൂഷനുകൾക്ക് സമാന്തരമായി Content Safety API ഉപയോഗിക്കാനാകും, അവ ഓരോന്നും വ്യത്യസ്ത ആവശ്യങ്ങൾ നിറവേറ്റുന്നു.
ഇതെങ്ങനെ പ്രവർത്തിക്കുന്നു?
-
1. ഫയൽ വീണ്ടെടുക്കൽ
ഫയലുകൾ ഒന്നിലധികം രീതികളിലൂടെ പങ്കാളി വീണ്ടെടുക്കുന്നു, ഉദാഹരണത്തിന് ഒരു ഉപയോക്താവ് റിപ്പോർട്ട് ചെയ്തിരിക്കുന്നതോ പങ്കാളികളുടെ പ്ലാറ്റ്ഫോമിലെ ഉള്ളടക്കം നിരീക്ഷിക്കാൻ അവർ തന്നെ സൃഷ്ടിച്ച ക്രോളറുകളോ ഫിൽട്ടറുകളോ ഉപയോഗിച്ച് തിരിച്ചറിയുന്നതോ ആയ ഫയലുകൾ.
-
2. API അവലോകനം
തുടർന്ന്, മീഡിയാ ഫയലുകൾ ലളിതമായ ഒരു API കോൾ വഴി Content Safety API-ലേക്ക് അയയ്ക്കുന്നു. അവലോകന മുൻഗണന നിർണ്ണയിക്കാൻ അവ ക്ലാസിഫയറുകളിലൂടെ റൺ ചെയ്യുന്നു, തുടർന്ന് ഓരോ ഉള്ളടക്ക ഭാഗങ്ങളുടെയും മുൻഗണനാ മൂല്യം പങ്കാളിക്ക് തിരികെ അയയ്ക്കും.
-
3. സ്വമേധയാലുള്ള അവലോകനം
നേരിട്ടുള്ള അവലോകനങ്ങൾക്കായി ആദ്യം ശ്രദ്ധ ചെലുത്തേണ്ട ഫയലുകൾക്ക് മുൻഗണന നൽകാൻ പങ്കാളികൾ മുൻഗണനാ മൂല്യം ഉപയോഗിക്കുന്നു.
-
4. നടപടിയെടുക്കുക
ചിത്ര, വീഡിയോ ഫയലുകൾ നേരിട്ട് അവലോകനം ചെയ്തുകഴിഞ്ഞാൽ, പങ്കാളിക്ക് പ്രാദേശിക നിയമങ്ങൾക്കും നിയന്ത്രണങ്ങൾക്കും അനുസൃതമായി ഉള്ളടക്കത്തിന്മേൽ നടപടിയെടുക്കാം.
|
പങ്കാളി |
|
പങ്കാളി |
പങ്കാളി |
|||
|---|---|---|---|---|---|---|
|
ഉപയോക്താവ് റിപ്പോർട്ട് ചെയ്ത ചിത്രങ്ങളോ വീഡിയോകളോ ക്രോളറുകൾ പ്രീ-ഫിൽട്ടറുകൾ (പോൺ/മറ്റ് ക്ലാസിഫയറുകൾ) |
I |
ഉള്ളടക്ക സുരക്ഷാ API I ക്ലാസിഫയർ സാങ്കേതികവിദ്യ |
I |
സ്വമേധയാലുള്ള അവലോകനം |
I |
അതനുസരിച്ചുള്ള നടപടി |
CSAI പൊരുത്തം
ഉപയോഗം: അറിയുന്ന ദുരുപയോഗമുള്ള വീഡിയോ സെഗ്മെന്റുകൾ പൊരുത്തപ്പെടുത്തൽ
CSAI (കുട്ടികളെ ലൈംഗികമായി ദുരുപയോഗിക്കുന്ന ഉള്ളടക്കം) വീഡിയോകൾ ഓൺലൈനിൽ ചെറുക്കുന്നതിനുള്ള YouTube-ന്റെ ഉടമസ്ഥതയിലുള്ള സാങ്കേതികവിദ്യയാണ് CSAI പൊരുത്തം. ഈ സാങ്കേതികവിദ്യയാണ് അറിയപ്പെടുന്ന ലംഘനമുള്ള ഉള്ളടക്കം തിരിച്ചറിയാൻ ഹാഷ്-മാച്ചിംഗ് ആദ്യമായി ഉപയോഗിച്ചത്, കൂടാതെ ഉയർന്ന തോതിലുള്ള, ലംഘനമില്ലാത്ത വീഡിയോ ഉള്ളടക്കങ്ങൾക്കിടയിൽ ഇത്തരത്തിലുള്ള ലംഘനമുള്ള ഉള്ളടക്കം തിരിച്ചറിയാൻ ഞങ്ങളെ അനുവദിക്കുന്നു. ലംഘനമുള്ള ഉള്ളടക്കത്തിന്റെ പൊരുത്തം കണ്ടെത്തുമ്പോൾ, പ്രാദേശിക നിയമങ്ങൾക്കും നിയന്ത്രണങ്ങൾക്കും അനുസൃതമായി അവലോകനം ചെയ്യാനും സ്ഥിരീകരിക്കാനും ഉത്തരവാദിത്തത്തോടെ റിപ്പോർട്ട് ചെയ്യാനും അത് പങ്കാളികൾക്ക് ഫ്ലാഗ് ചെയ്യുന്നു. ഇൻഡസ്ട്രിയിലെയും NGO-കളിലെയും പങ്കാളികൾക്ക് YouTube, CSAI പൊരുത്തം ലഭ്യമാക്കുന്നു. അറിയപ്പെടുന്ന അധിക്ഷേപകരമായ ഉള്ളടക്കത്തിന്റെ ഞങ്ങളുടെ ഡാറ്റാബേസിലെ പൊരുത്തങ്ങൾ തിരിച്ചറിയാൻ ഫിംഗർപ്രിൻറിംഗ് സോഫ്റ്റ്വെയറിലേക്കും ഒരു API-യിലേക്കും ഞങ്ങൾ ആക്സസ് നൽകുന്നു.
തിരിച്ചറിഞ്ഞ CSAI ഉള്ളടക്കത്തിന്റെ ഏറ്റവും വലിയ സൂചികകളിലൊന്നുമായി CSAI പൊരുത്തം ഉപയോഗിച്ച് തങ്ങളുടെ ഉള്ളടക്കം താരതമ്യം ചെയ്ത് ഓൺലൈൻ പ്ലാറ്റ്ഫോമുകൾക്ക് അവരുടെ സൈറ്റുകളിൽ ലംഘന ഉള്ളടക്കം പ്രദർശിപ്പിക്കുന്നതും പങ്കിടുന്നതും തടയാനാകും. പങ്കാളികൾക്ക് അവരുടെ സിസ്റ്റത്തിലേക്ക് സംയോജിപ്പിക്കാൻ CSAI പൊരുത്തം ലളിതമായ മാർഗ്ഗമാണ്, വെല്ലുവിളി നിറഞ്ഞ ഉള്ളടക്ക മാനേജ്മെന്റ് മികച്ച രീതിയിൽ കൈകാര്യം ചെയ്യാൻ ഇത് അവരെ അനുവദിക്കുന്നു.
ഇതെങ്ങനെ പ്രവർത്തിക്കുന്നു?
-
1. വീഡിയോ ഫിംഗർപ്രിന്റിംഗ്
പങ്കാളിയുടെ പ്ലാറ്റ്ഫോമിലേക്ക് ഒരു വീഡിയോ അപ്ലോഡ് ചെയ്തു. പങ്കാളിയുടെ പ്ലാറ്റ്ഫോമിൽ പ്രവർത്തിക്കുന്ന CSAI പൊരുത്തം, വീഡിയോ ഫയലിന്റെ ഉള്ളടക്കത്തെ തനതായി പ്രതിനിധീകരിക്കുന്ന ഡിജിറ്റൽ ഐഡിയായ വീഡിയോയുടെ ഫിംഗർപ്രിന്റ് ഫയൽ സൃഷ്ടിക്കുന്നു.
-
2. API അവലോകനം
YouTube-ന്റെ ഫിംഗർപ്രിന്റ് റെപ്പോസിറ്ററിയിലെ മറ്റ് ഫയലുകളുമായി താരതമ്യം ചെയ്യാൻ പങ്കാളി CSAI Match API വഴി ഫിംഗർപ്രിന്റ് ഫയൽ അയയ്ക്കുന്നു. റെപ്പോസിറ്ററിയിൽ YouTube-ഉം Google-ഉം കണ്ടെത്തിയ അറിയപ്പെടുന്ന അധിക്ഷേപകരമായ ഉള്ളടക്കത്തിന്റെ ഫിംഗർപ്രിന്റുകൾ അടങ്ങിയിരിക്കുന്നു.
-
3. സ്വമേധയാലുള്ള അവലോകനം
API-യിലേക്കുള്ള കോൾ പൂർത്തിയായിക്കഴിഞ്ഞാൽ, ഒരു പോസിറ്റീവ് അല്ലെങ്കിൽ നെഗറ്റീവ് പൊരുത്തം പങ്കാളിക്ക് തിരികെ നൽകും. പൊരുത്ത വിവരങ്ങളുടെ അടിസ്ഥാനത്തിൽ, അത് CSAI ആണെന്ന് പരിശോധിച്ചുറപ്പിക്കാൻ പങ്കാളി നേരിട്ട് വീഡിയോ അവലോകനം ചെയ്യുന്നു.
-
4. നടപടിയെടുക്കുക
ചിത്രങ്ങൾ അവലോകനം ചെയ്തുകഴിഞ്ഞാൽ, പ്രാദേശിക നിയമങ്ങൾക്കും നിയന്ത്രണങ്ങൾക്കും അനുസൃതമായി പങ്കാളിക്ക് ഉള്ളടക്കത്തിന്മേൽ നടപടിയെടുക്കാനാകും.
|
പങ്കാളി |
YOUTUBE |
പങ്കാളി |
പങ്കാളി |
|||
|---|---|---|---|---|---|---|
|
വീഡിയോ ഫയൽ I ഫിംഗർപ്രിന്റർ I ഫിംഗർപ്രിന്റർ ഫയൽ |
I |
CSAI Match API I CSAI പൊരുത്തം സാങ്കേതികവിദ്യ I പങ്കിട്ട CSAI ഫിംഗർപ്രിന്റർ റെപ്പോസിറ്ററി |
I |
സ്വമേധയാലുള്ള അവലോകനം |
I |
അതനുസരിച്ചുള്ള നടപടി |
സാക്ഷ്യപത്രങ്ങൾ
പതിവ് ചോദ്യങ്ങൾ
ഉള്ളടക്ക സുരക്ഷാ API
മീഡിയാ ഫയലുകളിൽ നിന്ന് ലഭിച്ച റോ ഉള്ളടക്ക ബൈറ്റുകളും ഉൾച്ചേർക്കലുകളും പിന്തുണയ്ക്കാനുള്ള ഓപ്ഷനുകൾ ഞങ്ങൾക്കുണ്ട്. കൂടുതൽ വിശദാംശങ്ങൾക്ക് ബന്ധപ്പെടുക.
ദുരുപയോഗത്തിൽ നിന്ന് തങ്ങളുടെ പ്ലാറ്റ്ഫോം പരിരക്ഷിക്കാൻ ആഗ്രഹിക്കുന്ന ഇൻഡസ്ട്രിക്കും സിവിൽ സൊസൈറ്റി മൂന്നാം കക്ഷികൾക്കും ഉള്ളടക്ക സുരക്ഷാ API ആക്സസ് ചെയ്യാൻ സൈൻ അപ്പ് ചെയ്യാവുന്നതാണ്. അപേക്ഷകൾ അംഗീകാരത്തിന് വിധേയമാണ്.
ഓൺലൈനിലൂടെ കുട്ടികളെ ചൂഷണം ചെയ്യുന്നത് കൈകാര്യം ചെയ്യാനുള്ള ഏറ്റവും നല്ല സമീപനം മറ്റ് കമ്പനികളുമായും NGO-കളുമായും സഹകരിക്കുക എന്നതാണ്. പുതിയ ഡാറ്റാധിഷ്ഠിത ടൂളുകളുടെ വികസനത്തെ പിന്തുണയ്ക്കാനും സാങ്കേതിക ശേഷി വർദ്ധിപ്പിക്കാനും അവബോധം വളർത്താനും ഞങ്ങൾ ഇൻഡസ്ട്രിയിലുടനീളം NGO-കൾക്കൊപ്പം ദീർഘകാലമായി പ്രവർത്തിച്ചിട്ടുണ്ട്. ഈ ടൂളുകൾ എല്ലാവർക്കും ലഭ്യമാണെന്ന് ഞങ്ങൾ വിശ്വസിക്കുന്നു, അതുവഴി ഞങ്ങളുടെ പങ്കാളികൾക്ക് ഉള്ളടക്കം മികച്ച രീതിയിൽ അവലോകനം ചെയ്യാൻ AI വിപുലമായി ഉപയോഗിക്കാനാകും, ഇത് ഈ പോരാട്ടത്തിന്റെ ഒരു പ്രധാന ഭാഗമാണ്.
CSAI പൊരുത്തം
CSAI പൊരുത്തം വീഡിയോയ്ക്കായി രൂപകൽപ്പന ചെയ്തതാണ്, എന്നാൽ Google-ന്റെ ഉള്ളടക്ക സുരക്ഷാ API വഴി, ഉപകരണങ്ങളുടെ ഒരു ശേഖരം ഇൻഡസ്ട്രിക്കും NGO പങ്കാളികൾക്കും ലഭ്യമാണ്, ഇത് ചിത്രങ്ങൾക്കായുള്ള മെഷീൻ ലേണിംഗ് നൽകുന്ന തരംതിരിക്കൽ ഓഫർ ചെയ്യുന്നു. കൂടുതലറിയുക.
അറിയപ്പെടുന്ന CSAI-യുമായി വീഡിയോയുടെ ഏത് ഭാഗമാണ് പൊരുത്തപ്പെടുന്നതെന്നും പൊരുത്തമുള്ള ഉള്ളടക്ക തരത്തിന്റെ വിഭാഗീകരണവും ഈ പൊരുത്തം തിരിച്ചറിയും.
അറിയപ്പെടുന്ന CSAI ഉള്ളടക്കവുമായി വളരെ സാമ്യമുള്ള ഡ്യൂപ്ലിക്കേറ്റ് സെഗ്മെന്റുകൾ CSAI പൊരുത്തം തിരിച്ചറിയുന്നു. ഇതിൽ MD5 ഹാഷ് പൊരുത്തപ്പെടുത്തലിന് ലഭിക്കുന്ന മുഴുവൻ ഡ്യൂപ്ലിക്കേറ്റുകളും ഉൾപ്പെടുന്നു, കൂടാതെ CSAI വീഡിയോകളുടെ റീഎൻകോഡിംഗുകൾ, സ്പഷ്ടമല്ലാതാക്കൽ, വെട്ടിച്ചുരുക്കൽ അല്ലെങ്കിൽ സ്കെയിലിംഗ് പോലുള്ള വളരെ സാമ്യമുള്ള ഡ്യൂപ്ലിക്കേറ്റ് സെഗ്മെന്റുകളും ഉൾപ്പെടുന്നു - ഒരു വീഡിയോയിൽ CSAI-യുടെ ഒരു ചെറിയ ഭാഗം മാത്രമേ അടങ്ങിയിട്ടുള്ളൂവെങ്കിലും, CSAI ഇതര ഉള്ളടക്കവുമായി അവ കലർന്നിരിക്കാം. വീഡിയോയുടെ "ഫിംഗർപ്രിന്റ്" നിർമ്മിക്കാൻ പങ്കാളികൾ MD5 ഹാഷിന് സമാനമായ ഒരു ബൈറ്റ്-സീക്വൻസ് ആയ ഫിംഗർപ്രിൻറിംഗ് ബൈനറി റൺ ചെയ്യുന്നു. ഇത് പിന്നീട് YouTube-ന്റെ മുമ്പ് തിരിച്ചറിഞ്ഞ CSAI റഫറൻസുകളുടെ ശേഖരം ഉപയോഗിച്ച് വീഡിയോകൾ ഫലപ്രദമായി സ്കാൻ ചെയ്യുന്നതിനായി പ്രത്യേകം രൂപകൽപ്പന ചെയ്ത Google-ന്റെ CSAI പൊരുത്തം എന്ന സേവനത്തിലേക്ക് അയയ്ക്കും.