সংস্থাগুলি যাতে আরও ভালভাবে অগ্রাধিকারের ভিত্তিতে আপত্তিজনক কন্টেন্ট পর্যালোচনা করার জন্য সাজিয়ে রাখতে পারে সেজন্য জন্য আমরা Google এবং YouTube-এ কিছু টুল ডেভেলপ করেছি।
এই টুলকিটের কেন্দ্রে আছে দুটি এপিআই কন্টেন্ট সুরক্ষা এপিআই এবং CSAI Matchযেটা আমরা বিনামূল্য়ে যোগ্য পার্টনারদের অফার করে থাকি। আমাদের পার্টনাররা এই টেকনোলজি ব্যবহার করে প্রতি বছর কোটি কোটি ফাইল প্রসেস করেন এবং প্রতি বছর লক্ষ লক্ষ ছবি এবং ভিডিও চেক করে দেখেন তাতে আপত্তিজনক আচরণ আছে কিনা।
-
আরও ভালভাবে অগ্রাধিকারের ভিত্তিতে বেছে নেওয়ার সুবিধা
এই এপিআই ব্যবহার করে সহজেই অনলাইনে হওয়া বাচ্চাদের শোষণের বিরুদ্ধে লড়াই করতে পর্যালোচকদের দিয়ে পর্যালোচনার জন্য অগ্রাধিকারের ভিত্তিতে আপত্তিজনক কন্টেন্ট বেছে নেওয়া যাবে।
-
আরও দ্রুত শনাক্তকরণ
এই ধরনের কন্টেন্ট চটপট শনাক্ত করলে পীড়িতদের সুরক্ষিত করা যায় যাতে তারা নতুন করে শোষণের শিকার না হয়।
-
নিরাপদে অপারেট করার সুবিধা
পর্যালোচনার সারিকে আরও কার্যকরী ও সহজ করলে, যেসব পর্যালোচক কন্টেন্ট মডারেট করেন তাদের পরিশ্রম একটু কমবে।
আমাদের টুল সম্পর্কে জানুন
আগে দেখা হয়নি এমন ছবি এবং ভিডিও ক্লাসিফাই করা
মিলে যাওয়া পরিচিত আপত্তিজনক ভিডিও সেগমেন্ট
কন্টেন্ট সুরক্ষা এপিআই
এর জন্য ব্যবহার করা হয়: আগে দেখা হয়নি এমন ছবি এবং ভিডিও ক্লাসিফাই করা
কন্টেন্ট সুরক্ষা এপিআই ক্লাসিফায়ার প্রোগ্রাম্যাটিক অ্যাক্সেস এবং আর্টিফিশিয়াল ইন্টেলিজেন্স ব্যবহার করে আমাদের পার্টনারদের কোটি কোটি ছবি ও ভিডিও রিভিউ করার জন্য ক্লাসিফাই করতে এবং সেগুলি অগ্রাধিকারের ভিত্তিতে বেছে নিতে সাহায্য করে। যে মিডিয়া ফাইলে আপত্তিজনক কন্টেন্ট থাকার সম্ভবনা খুব বেশি, ক্লাসিফায়ার সেই ফাইল বেশি গুরুত্ব দিয়ে রিভিউ করে, এর ফলে কোন কন্টেন্ট হিউম্যান রিভিউ করা হবে তা পার্টনাররা সহজেই অগ্রাধিকারের ভিত্তিতে বেছে নিতে পারেন এবং কন্টেন্ট নিয়ে কী ব্যবস্থা নেবেন তা স্থির করতে পারেন। কন্টেন্ট সুরক্ষা এপিআই-তে যে কন্টেন্ট পাঠানো হয়, এই এপিআই সেটি অগ্রাধিকারের ভিত্তিতে বেছে নেওয়ার জন্য সাজেস্ট করে। কন্টেন্টের ক্ষেত্রে কী ব্যবস্থা নেওয়া হবে তা স্থির করতে পার্টনাররা যেন নিজেরাই সেটি অবশ্যই রিভিউ করেন।
অপারেট করার পরিপ্রেক্ষিতে, আমরা সাজেস্ট করব ছবি ক্লাসিফাই করা, অগ্রাধিকারের ভিত্তিতে বেছে নেওয়া এবং এগুলি একই লাইনে সারিবদ্ধ করার জন্য রিভিউয়াররা রিভিউ শুরু করার আগেই সংস্থাগুলিতে যেন কন্টেন্ট সুরক্ষা এপিআই ব্যবহার করা হয়। অন্যান্য সমস্যা সমাধানকারী টুলের সাথে কন্টেন্ট সুরক্ষা এপিআই ব্যবহার করা যাবে, যেমন YouTube-এর CSAI Match ভিডিও হ্যাশিং টুল বা Microsoft-এর PhotoDNA, প্রত্যেকটিই আলাদা আলাদা প্রয়োজনে ব্যবহার করা হয়।
এটি কীভাবে কাজ করে?
-
১. ফাইল ফিরিয়ে আনা
পার্টনার একাধিক ক্ষেত্রে ফাইল ফিরিয়ে আনে, যেমন ব্যবহারকারী কোনও ফাইলের বিষয়ে অভিযোগ জানালে অথবা পার্টনারের প্ল্যাটফর্মে কন্টেন্ট মডারেট করার জন্য তৈরি ক্রলার বা ফিল্টার কোনও ছবি শনাক্ত করলে।
-
২. API রিভিউ
এরপর মিডিয়া ফাইলগুলি সাধারণ এপিআই কলের মাধ্যমে কন্টেন্ট সুরক্ষা এপিআই-তে পাঠানো হয়। এই ছবির ফাইলগুলি কত আগে রিভিউ করতে হবে তা নির্ধারণ করার জন্য এগুলি ক্লাসিফায়ারের মাধ্যমে চেক করা হয় এবং প্রতিটি ছবির অগ্রাধিকার-ভিত্তিক মান আবার পার্টনারকে পাঠানো হয়।
-
৩. ম্যানুয়াল রিভিউ
যেসব ফাইল গুরুত্ব দিয়ে বিবেচনা করতে হবে সেগুলির মধ্যে কোন কোন ফাইল রিভিউয়ারদের রিভিউ করতে হবে তা পার্টনাররা অগ্রাধিকার-ভিত্তিক মান অনুসারে নির্ধারণ করেন।
-
৪. অ্যাকশন নিন
রিভিউয়াররা ছবি ও ভিডিও ফাইলগুলি রিভিউ করার পরে পার্টনার স্থানীয় আইন ও বিধি অনুসারে কন্টেন্টের বিষয়ে কোনও ব্যবস্থা নিতে পারেন।
|
পার্টনার |
|
পার্টনার |
পার্টনার |
|||
|---|---|---|---|---|---|---|
|
ব্যবহারকারীর অভিযোগ জানানো ছবি বা ভিডিও ক্রলার প্রি-ফিল্টার (পর্ন/অন্যান্য ক্লাসিফায়ার) |
I |
কন্টেন্ট সুরক্ষা এপিআই I ক্লাসিফায়ার টেকনোলজি |
I |
ম্যানুয়াল রিভিউ |
I |
প্রয়োজন অনুসারে ব্যবস্থা |
CSAI Match
এর জন্য ব্যবহার করা হয়: পরিচিত আপত্তিজনক ভিডিও সেগমেন্টের সাথে মেলানো
CSAI (শিশু যৌন নিগ্রহ সংক্রান্ত ছবি)- অনলাইন ভিডিওর বিরুদ্ধে লড়াই করার জন্য CSAI Match হল YouTube-এর নিজস্ব টেকনোলজি। পরিচিত বিধি লঙ্ঘনকারী কন্টেন্ট শনাক্ত করতে এই টেকনোলজি প্রথম হ্যাশ-ম্যাচিং পদ্ধতি ব্য়বহার করে এবং এই টুল ব্যবহার করে আমরা বিধি লঙ্ঘন করে না এমন অসংখ্য ভিডিও কন্টেন্টের মধ্যে বিধি লঙ্ঘনকারী কন্টেন্ট শনাক্ত করতে পারি। বিধি লঙ্ঘনকারী কন্টেন্টের মতো কোনও কন্টেন্ট পাওয়া গেলে, পার্টনারদের সতর্ক করে দেওয়া হয় যাতে তারা এই ধরনের কন্টেন্ট পর্যালোচনা করে ব্যবহারযোগ্য় কিনা কনফার্ম করেন এবং দায়িত্ব নিয়ে স্থানীয় আইন ও বিধি অনুসারে এটির বিষয়ে রিপোর্ট করেন। YouTube, ইন্ডাস্ট্রি পার্টনার এবং NGO-র জন্য CSAI Match টেকনোলজি উপলভ্য করেছে। পরিচিত আপত্তিজনক কন্টেন্টের ডেটাবেসে নীতি লঙ্ঘনকারী কন্টেন্ট শনাক্ত করতে আমরা ফিঙ্গারপ্রিন্টিং সফ্টওয়্যার এবং এপিআই অ্যাক্সেস করার সুযোগ দিই।
অনলাইন প্ল্যাটফর্মগুলি CSAI Match ব্যবহার করে নিজেদের সাইটে নীতি লঙ্ঘনকারী কন্টেন্ট দেখানো বা শেয়ার করার কাজটি বন্ধ করতে পারে, পরিচিত CSAI কন্টেন্টের সবচেয়ে বড় ডেটাবেসের সাথে নিজেদের কন্টেন্টের তুলনা করতে পারে। পার্টনাররা সহজেই CSAI Match নিজেদের সিস্টেমে ইন্টিগ্রেট করতে এবং এটি ব্যবহার করে তারা সমস্যাযুক্ত কন্টেন্ট ভালোভাবে ম্যানেজ করতে পারবেন।
এটি কীভাবে কাজ করে?
-
১. ভিডিও ফিঙ্গারপ্রিন্টিং
একটি ভিডিও পার্টনারের প্ল্যাটফর্মে আপলোড করা হয়। পার্টনারের প্ল্যাটফর্মে চালানো CSAI Match ফিঙ্গারপ্রিন্টারটি ভিডিওর একটি ফিঙ্গারপ্রিন্ট ফাইল তৈরি করে। এটি একটি ডিজিটাল আইডি যা ভিডিও ফাইলে থাকা কন্টেন্টের স্যাম্পেল হিসেবে কাজ করে।
-
২. API রিভিউ
YouTube-এর ফিঙ্গারপ্রিন্ট স্টোরেজে থাকা অন্যান্য ফাইলের সাথে এই ফিঙ্গারপ্রিন্ট ফাইলের তুলনা করতে, পার্টনার CSAI Match API ব্যবহার করে ফিঙ্গারপ্রিন্ট ফাইল পাঠিয়ে দেন। এই স্টোরেজে YouTube এবং Google-এর শনাক্ত করা আপত্তিজনক কন্টেন্টের ফিঙ্গারপ্রিন্ট থাকে।
-
৩. ম্যানুয়াল রিভিউ
API-কে করা কল সম্পন্ন হলেই পজিটিভ বা নেগেটিভ ম্যাচ সংক্রান্ত তথ্য পার্টনারকে দেওয়া হয়। মিল পাওয়া গেল কিনা সেই সংক্রান্ত তথ্যের ভিত্তিতে, ভিডিওতে CSAI আছে কিনা তা জানতে, পার্টনার ভিডিওর ম্যানুয়াল রিভিউ করে।
-
৪. অ্যাকশন নিন
ছবিটি রিভিউ করা হয়ে গেলেই, পার্টনার স্থানীয় আইন ও বিধি অনুসারে কন্টেন্টের ক্ষেত্রে ব্যবস্থা নিতে পারেন।
|
পার্টনার |
YOUTUBE |
পার্টনার |
পার্টনার |
|||
|---|---|---|---|---|---|---|
|
ভিডিও ফাইল I ফিঙ্গারপ্রিন্টার I ফিঙ্গারপ্রিন্টার ফাইল |
I |
CSAI Match API I CSAI Match টেকনোলজি I শেয়ার করা CSAI ফিঙ্গারপ্রিন্টার রিপোজিটরি |
I |
ম্যানুয়াল রিভিউ |
I |
প্রয়োজন অনুসারে ব্যবস্থা |
টেস্টিমোনিয়াল
প্রায়শই জিজ্ঞাসিত প্রশ্ন
কন্টেন্ট সুরক্ষা এপিআই
আমাদের কাছে 'র' কন্টেন্ট বাইট এবং মিডিয়া ফাইল থেকে পাওয়া এম্বেড করা কন্টেন্ট দুটির সাথে কাজ করার বিকল্প আমাদের কাছে আছে। আরও বিবরণের জন্য সঙ্গে থাকুন।
যেসব ইন্ডাস্ট্রি এবং সিভিল সোসাইটি থার্ড-পার্টি পার্টনাররা তাদের প্ল্যাটফর্ম অপব্যবহার থেকে সুরক্ষিত রাখতে চাইছেন তারা সাইন-আপ করে কন্টেন্ট সুরক্ষা এপিআই অ্যাক্সেস করতে পারবেন। অ্যাপ্লিকেশনগুলি অনুমোদন সাপেক্ষ।
আমরা মনে করি যে অনলাইনে বাচ্চাদের সাথে হওয়া যৌন শোষণের সাথে লড়াই করার সবচেয়ে ভালো উপায় হল অন্যান্য কোম্পানি ও এনজিওর সাথে একযোগে কাজ করা। ডেটা ভিত্তিক নতুন টুল তৈরি করা, প্রযুক্তিগত দক্ষতা ও সচেতনতা বৃদ্ধি করার জন্য আমরা অনেকদিন ধরে ইন্ডাস্ট্রি এবং এনজিওর সাথে কাজ করছি। আমরা বিশ্বাস করি এই টুল সকলের জন্য উপলভ্য করলে সবাই উপকৃত হবেন, আমাদের পার্টনাররা আর্টিফিশিয়াল ইন্টেলিজেন্স ব্যবহার করে আরও বেশি পরিমাণ কন্টেন্ট পর্যালোচনা করতে পারবেন যা এই লড়াইয়ের জন্য খুব গুরুত্বপূর্ণ।
CSAI Match
CSAI Match ভিডিওর জন্য তৈরি করা হলেও, ইন্ডাস্ট্রি ও এনজিও পার্টনাররা Google-এর কন্টেন্ট সুরক্ষা এপিআই-এর মাধ্যমে কিছু টুল ব্যবহার করতে পারবে যা ছবিগুলিকে মেশিন লার্নিং চালিত টেকনোলজির মাধ্যমে ক্ল্যাসিফিকেশনের জন্য ব্যবহার করা যাবে। আরও জানুন।
Match টেকনোলজি, ভিডিওর কোন অংশের পরিচিত CSAI-এর সাথে মিল আছে তা শনাক্ত করবে, এছাড়া যে ধরনের কন্টেন্টের সাথে মিলছে সে অনুযায়ী স্ট্যান্ডার্ড শ্রেণীবিভাগ করবে।
CSAI Match পরিচিত CSAI কন্টেন্টের মতো অনেকটা একই রকমের সেগমেন্ট শনাক্ত করে। এতে আছে MD5 হ্যাশ ম্যাচিংয়ের হুবহু ডুপ্লিকেট, এছাড়া, একই রকমের থাকতে পারে আবার-এনকোড করা, অস্পষ্ট করা, ছাঁচাই বা CSAI ভিডিওর স্কেলিং - যদি ভিডিওতে থাকে CSAI-এর কিছুটা অংশ যাতে সম্ভবত CSAI নয় এমন কন্টেন্ট থাকতে পারে। ভিডিওর “ফিঙ্গারপ্রিন্ট”, MD5 হ্যাশের মতো বাইট-সিকোয়েন্স, তৈরি করতে পার্টনাররা ফিঙ্গারপ্রিন্টিং বাইনারি রান করে। তারপর এটি Google-এর CSAI Match পরিষেবাতে পাঠানো হয় যা বিশেষ করে YouTube-এর পরিচিত CSAI স্টকের সাথে কার্যকরভাবে ম্যাচ করার জন্য কোনও ভিডিও স্ক্যান করার জন্য তৈরি।