আরও ভালভাবে অগ্রাধিকারের ভিত্তিতে বেছে নেওয়ার সুবিধা
এই এপিআই ব্যবহার করে সহজেই অনলাইনে হওয়া বাচ্চাদের শোষণের বিরুদ্ধে লড়াই করতে পর্যালোচকদের দিয়ে পর্যালোচনার জন্য অগ্রাধিকারের ভিত্তিতে আপত্তিজনক কন্টেন্ট বেছে নেওয়া যাবে।
আরও দ্রুত শনাক্তকরণ
এই ধরনের কন্টেন্ট চটপট শনাক্ত করলে পীড়িতদের সুরক্ষিত করা যায় যাতে তারা নতুন করে শোষণের শিকার না হয়।
নিরাপদে অপারেট করার সুবিধা
পর্যালোচনার সারিকে আরও কার্যকরী ও সহজ করলে, যেসব পর্যালোচক কন্টেন্ট মডারেট করেন তাদের পরিশ্রম একটু কমবে।
আমাদের টুল সম্পর্কে আরও জানুন
যে কাজের জন্য আমাদের এই টুল ডিজাইন করা হয়েছে, সেটি ছাড়াও এইসব টুল আরও অনেক পরিপূরক কাজ করা যাবে। বিভিন্ন প্রয়োজনে সেগুলি একসাথে অথবা অন্যান্য সমস্যা সমাধানকারী টুলের সাথে ব্যবহার করা যাবে।
কন্টেন্ট সুরক্ষা এপিআই
আগে না দেখা ছবি শ্রেণীবদ্ধ করা
CSAI Match
মিলে যাওয়া পরিচিত আপত্তিজনক ভিডিওর সেগমেন্ট
কন্টেন্ট সুরক্ষা এপিআই
এই কাজে ব্যবহার করা হয়: আগে না দেখা ছবি শ্রেণীবদ্ধ করা
কন্টেন্ট সুরক্ষা এপিআই প্রোগ্রাম্যাটিক অ্যাক্সেস এবং আর্টিফিশিয়াল ইন্টেলিজেন্স ব্যবহার করে আমাদের পার্টনারদের কোটি কোটি ছবি পর্যালোচনা করার জন্য শ্রেণীবদ্ধ করতে এবং অগ্রাধিকারের ভিত্তিতে বেছে নিতে সাহায্য করে। যে ছবিতে আপত্তিজনক কন্টেন্ট থাকার সম্ভবনা খুব বেশি ক্লাসিফায়ার সেই ছবি বেশি গুরুত্ব দিয়ে পর্যালোচনা করে, এর ফলে কোন কন্টেন্ট পর্যালোচকরা পর্যালোচনা করবেন পার্টনাররা তা সহজেই অগ্রাধিকারের ভিত্তিতে বেছে নিতে পারেন এবং কন্টেন্ট নিয়ে কী ব্যবস্থা নেবেন তা স্থির করতে পারেন। যে কন্টেন্ট সুরক্ষা এপিআইতে পাঠানো হয় এই এপিআই সেই কন্টেন্ট অগ্রাধিকারের ভিত্তিতে বেছে নেওয়ার জন্য় সাজেস্ট করে। কন্টেন্টের ক্ষেত্রে কী ব্যবস্থা নেওয়া হবে তা স্থির করতে পার্টনাররা নিজেরাই যেন পর্যালোচনা করেন।
অপারেট করার পরিপ্রেক্ষিতে, আমরা সাজেস্ট করব ছবি শ্রেণীবদ্ধ করা, অগ্রাধিকারের ভিত্তিতে বেছে নেওয়া এবং এগুলি একই লাইনে সারিবদ্ধ করার জন্য পর্যালোচকরা পর্যালোচনা শুরু করার আগেই সংস্থাগুলিতে যেন কন্টেন্ট সুরক্ষা এপিআই ব্যবহার করা হয়। অন্যান্য সমস্যা সমাধানকারী টুলের সাথে সাথে কন্টেন্ট সুরক্ষা এপিআই ব্যবহার করা যাবে, যেমন YouTube-এর CSAI Match ভিডিও হ্যাশিং টুল বা Microsoft-এর PhotoDNA, প্রত্যেকটিই আলাদা আলাদা প্রয়োজনে ব্যবহার করা হয়।
এটি কীভাবে কাজ করে?
১. ছবি ফিরিয়ে আনা
পার্টনার বিভিন্ন সোর্সের মাধ্যমে ছবিগুলি ফিরিয়ে আনে, যেমন ব্যবহারকারী কোনও ছবির বিষয়ে রিপোর্ট করলে অথবা পার্টনারের প্ল্যাটফর্মে ছবি মডারেট করার জন্য তৈরি ক্রলার বা ফিল্টার কোনও ছবি শনাক্ত করলে।
পার্টনার
ব্যবহারকারী যেসব ছবি সম্পর্কে রিপোর্ট করেছেন
ক্রলার
প্রি-ফিল্টার
(পর্ন/অন্যান্য ক্লাসিফায়ার)
২. API পর্যালোচনা
এরপর ছবির ফাইলগুলি সাধারণ এপিআই কলের মাধ্যমে কন্টেন্ট সুরক্ষা এপিআইতে পাঠানো হয়। এই ছবির ফাইলগুলি কত আগে পর্যালোচনা করতে হবে তা নির্ধারণ করার জন্য এগুলি ক্লাসিফায়ারের মাধ্যমে চেক করা হয় এবং প্রতিটি ছবির অগ্রাধিকার ভিত্তিক মান আবার পার্টনারকে পাঠানো হয়।
কন্টেন্ট সুরক্ষা এপিআই
ক্লাসিফায়ার টেকনোলজি
৩. পর্যালোচকের করা পর্যালোচনা
যেসব ছবিগুলিকে গুরুত্ব দিয়ে বিবেচনা করতে হবে সেগুলির মধ্যে কোন কোন ছবি পর্যালোচকদের পর্যালোচনা করতে হবে তা পার্টনাররা অগ্রাধিকার ভিত্তিক মান অনুসারে নির্ধারণ করেন।
পার্টনার
পর্যালোচকের করা পর্যালোচনা
৪. ব্যবস্থা নিন
পর্যালোচকরা ছবিগুলি পর্যালোচনা করার পরে পার্টনার স্থানীয় আইন ও বিধি অনুসারে কন্টেন্টের বিষয়ে কোনও ব্যবস্থা নিতে পারেন।
পার্টনার
প্রয়োজন অনুসারে ব্যবস্থা
CSAI Match
এই কাজে ব্যবহার করা হয়: মিলে যাওয়া পরিচিত আপত্তিজনক ভিডিওর সেগমেন্ট
CSAI (বাচ্চাদের যৌন নির্যাতন সংক্রান্ত ছবি)- অনলাইন ভিডিওর বিরুদ্ধে লড়াই করার জন্য CSAI Match হল YouTube-এর নিজস্ব টেকনোলজি। পরিচিত বিধি লঙ্ঘনকারী কন্টেন্ট শনাক্ত করতে এই টেকনোলজি প্রথম হ্যাশ-ম্যাচিং পদ্ধতি ব্য়বহার করে এবং এই টুল ব্যবহার করে আমরা বিধি লঙ্ঘন করে না এমন অসংখ্য ভিডিও কন্টেন্টের মধ্যে বিধি লঙ্ঘনকারী কন্টেন্ট শনাক্ত করতে পারি। বিধি লঙ্ঘনকারী কন্টেন্টের মতো কোনও কন্টেন্ট পাওয়া গেলে, পার্টনারদের সতর্ক করে দেওয়া হয় যাতে তারা এই ধরনের কন্টেন্ট পর্যালোচনা করে ব্যবহারযোগ্য় কিনা কনফর্ম করেন এবং দায়িত্ব নিয়ে স্থানীয় আইন ও বিধি অনুসারে এটির বিষয়ে রিপোর্ট করেন। YouTube ইন্ডাস্ট্রি পার্টনার এবং এনজিওগুলির জন্য CSAI Match টেকনোলজি উপলভ্য করেছে। পরিচিত আপত্তিজনক কন্টেন্টের ডেটাবেসে বিধি লঙ্ঘনকারী কন্টেন্ট শনাক্ত করতে আমরা ফিঙ্গারপ্রিন্টিং সফ্টওয়্যার এবং এপিআই অ্যাক্সেস করার সুযোগ দিই।
অনলাইন প্ল্যাটফর্ম CSAI Match ব্যবহার করে নিজেদের সাইটে বিধি লঙ্ঘনকারী কন্টেন্ট দেখানো বা শেয়ার করার কাজটি বন্ধ করতে পারে, পরিচিত CSAI কন্টেন্টের সবচেয়ে বড় ডেটাবেসের সাথে নিজেদের কন্টেন্টের তুলনা করতে পারে। পার্টনাররা সহজেই CSAI Match নিজেদের সিস্টেমে ইন্টিগ্রেট করতে পারবেন, এছাড়া, এটি ব্যবহার করে তারা সমস্যাযুক্ত কন্টেন্ট ভালভাবে ম্যানেজ করতে পারবেন।
এটি কীভাবে কাজ করে?
১. ভিডিও ফিঙ্গারপ্রিন্টিং
একটি ভিডিও পার্টনারের প্ল্যাটফর্মে আপলোড করা হয়। CSAI Match ফিঙ্গারপ্রিন্টার যা পার্টনারের প্ল্যাটফর্মে চালানো হয়, ভিডিওর একটি ফিঙ্গারপ্রিন্ট ফাইল তৈরি করে, এটি একটি ডিজটাল আইডি যা ভিডিও ফাইলে থাকা কন্টেন্টের স্যাম্পেল হিসেবে কাজ করে।
পার্টনার
ভিডিও ফাইল
ফিঙ্গারপ্রিন্টার
ফিঙ্গারপ্রিন্টার ফাইল
২. API পর্যালোচনা
YouTube-এর ফিঙ্গারপ্রিন্ট স্টোরেজে থাকা অন্যান্য ফাইলের সাথে এই ফিঙ্গারপ্রিন্ট ফাইলের তুলনা করতে, পার্টনার CSAI Match API ব্যবহার করে ফিঙ্গারপ্রিন্ট ফাইল পাঠিয়ে দেন। এই স্টোরেজে YouTube এবং Google-এর শনাক্ত করা আপত্তিজনক কন্টেন্টের ফিঙ্গারপ্রিন্ট থাকে।
YouTube
CSAI Match API
CSAI Match টেকনোলজি
শেয়ার করা CSAI
ফিঙ্গারপ্রিন্টার স্টোরেজ
৩. পর্যালোচকের করা পর্যালোচনা
API-কে করা কল সম্পন্ন হলেই পজিটিভ বা নেগেটিভ ম্যাচ সংক্রান্ত তথ্য পার্টনারকে দেওয়া হয়। মেল পাওয়া গেল কিনা সেই সংক্রান্ত তথ্যের ভিডিওতে CSAI আছে কিনা তা জানতে পার্টনার নিজে ভিডিও পর্যালোচনা করেন।
পার্টনার
পর্যালোচকের করা পর্যালোচনা
৪. ব্যবস্থা নিন
ছবিটি পর্যালোচনা করা হয়ে গেলেই, পার্টনার স্থানীয় আইন ও বিধি অনুসারে কন্টেন্টের ক্ষেত্রে ব্যবস্থা নিতে পারেন।
পার্টনার
প্রয়োজন অনুসারে ব্যবস্থা
কন্টেন্ট সুরক্ষা এপিআই
এই কাজে ব্যবহার করা হয়: আগে না দেখা ছবি শ্রেণীবদ্ধ করা
কন্টেন্ট সুরক্ষা এপিআই প্রোগ্রাম্যাটিক অ্যাক্সেস এবং আর্টিফিশিয়াল ইন্টেলিজেন্স ব্যবহার করে আমাদের পার্টনারদের কোটি কোটি ছবি পর্যালোচনা করার জন্য শ্রেণীবদ্ধ করতে এবং অগ্রাধিকারের ভিত্তিতে বেছে নিতে সাহায্য করে। যে ছবিতে আপত্তিজনক কন্টেন্ট থাকার সম্ভবনা খুব বেশি ক্লাসিফায়ার সেই ছবি বেশি গুরুত্ব দিয়ে পর্যালোচনা করে, এর ফলে কোন কন্টেন্ট পর্যালোচকরা পর্যালোচনা করবেন পার্টনাররা তা সহজেই অগ্রাধিকারের ভিত্তিতে বেছে নিতে পারেন এবং কন্টেন্ট নিয়ে কী ব্যবস্থা নেবেন তা স্থির করতে পারেন। যে কন্টেন্ট সুরক্ষা এপিআইতে পাঠানো হয় এই এপিআই সেই কন্টেন্ট অগ্রাধিকারের ভিত্তিতে বেছে নেওয়ার জন্য় সাজেস্ট করে। কন্টেন্টের ক্ষেত্রে কী ব্যবস্থা নেওয়া হবে তা স্থির করতে পার্টনাররা নিজেরাই যেন পর্যালোচনা করেন।
অপারেট করার পরিপ্রেক্ষিতে, আমরা সাজেস্ট করব ছবি শ্রেণীবদ্ধ করা, অগ্রাধিকারের ভিত্তিতে বেছে নেওয়া এবং এগুলি একই লাইনে সারিবদ্ধ করার জন্য পর্যালোচকরা পর্যালোচনা শুরু করার আগেই সংস্থাগুলিতে যেন কন্টেন্ট সুরক্ষা এপিআই ব্যবহার করা হয়। অন্যান্য সমস্যা সমাধানকারী টুলের সাথে সাথে কন্টেন্ট সুরক্ষা এপিআই ব্যবহার করা যাবে, যেমন YouTube-এর CSAI Match ভিডিও হ্যাশিং টুল বা Microsoft-এর PhotoDNA, প্রত্যেকটিই আলাদা আলাদা প্রয়োজনে ব্যবহার করা হয়।
কন্টেন্ট সুরক্ষা এপিআই
এই কাজে ব্যবহার করা হয়: আগে না দেখা ছবি শ্রেণীবদ্ধ করা
এটি কীভাবে কাজ করে?
পার্টনার
ব্যবহারকারী যেসব ছবি সম্পর্কে রিপোর্ট করেছেন
ক্রলার
প্রি-ফিল্টার
(পর্ন/অন্যান্য ক্লাসিফায়ার)
কন্টেন্ট সুরক্ষা এপিআই
ক্লাসিফায়ার টেকনোলজি
পার্টনার
পর্যালোচকের করা পর্যালোচনা
পার্টনার
প্রয়োজন অনুসারে ব্যবস্থা
আমাদের টুলকিট ব্যবহার করতে চান?
আপনার আগ্রহ রেজিস্টার করতে আপনার প্রতিষ্ঠানের কিছু বিবরণ শেয়ার করুন
আগ্রহের ফর্মটি দেখুনCSAI Match
এই কাজে ব্যবহার করা হয়: মিলে যাওয়া পরিচিত আপত্তিজনক ভিডিওর সেগমেন্ট
CSAI (বাচ্চাদের যৌন নির্যাতন সংক্রান্ত ছবি)- অনলাইন ভিডিওর বিরুদ্ধে লড়াই করার জন্য CSAI Match হল YouTube-এর নিজস্ব টেকনোলজি। পরিচিত বিধি লঙ্ঘনকারী কন্টেন্ট শনাক্ত করতে এই টেকনোলজি প্রথম হ্যাশ-ম্যাচিং পদ্ধতি ব্য়বহার করে এবং এই টুল ব্যবহার করে আমরা বিধি লঙ্ঘন করে না এমন অসংখ্য ভিডিও কন্টেন্টের মধ্যে বিধি লঙ্ঘনকারী কন্টেন্ট শনাক্ত করতে পারি। বিধি লঙ্ঘনকারী কন্টেন্টের মতো কোনও কন্টেন্ট পাওয়া গেলে, পার্টনারদের সতর্ক করে দেওয়া হয় যাতে তারা এই ধরনের কন্টেন্ট পর্যালোচনা করে ব্যবহারযোগ্য় কিনা কনফর্ম করেন এবং দায়িত্ব নিয়ে স্থানীয় আইন ও বিধি অনুসারে এটির বিষয়ে রিপোর্ট করেন। YouTube ইন্ডাস্ট্রি পার্টনার এবং এনজিওগুলির জন্য CSAI Match টেকনোলজি উপলভ্য করেছে। পরিচিত আপত্তিজনক কন্টেন্টের ডেটাবেসে বিধি লঙ্ঘনকারী কন্টেন্ট শনাক্ত করতে আমরা ফিঙ্গারপ্রিন্টিং সফ্টওয়্যার এবং এপিআই অ্যাক্সেস করার সুযোগ দিই।
অনলাইন প্ল্যাটফর্ম CSAI Match ব্যবহার করে নিজেদের সাইটে বিধি লঙ্ঘনকারী কন্টেন্ট দেখানো বা শেয়ার করার কাজটি বন্ধ করতে পারে, পরিচিত CSAI কন্টেন্টের সবচেয়ে বড় ডেটাবেসের সাথে নিজেদের কন্টেন্টের তুলনা করতে পারে। পার্টনাররা সহজেই CSAI Match নিজেদের সিস্টেমে ইন্টিগ্রেট করতে পারবেন, এছাড়া, এটি ব্যবহার করে তারা সমস্যাযুক্ত কন্টেন্ট ভালভাবে ম্যানেজ করতে পারবেন।
CSAI Match
এই কাজে ব্যবহার করা হয়: মিলে যাওয়া পরিচিত আপত্তিজনক ভিডিওর সেগমেন্ট
এটি কীভাবে কাজ করে?
পার্টনার
ভিডিও ফাইল
ফিঙ্গারপ্রিন্টার
ফিঙ্গারপ্রিন্টার ফাইল
YouTube
CSAI Match API
CSAI Match টেকনোলজি
শেয়ার করা CSAI
ফিঙ্গারপ্রিন্টার স্টোরেজ
পার্টনার
পর্যালোচকের করা পর্যালোচনা
পার্টনার
প্রয়োজন অনুসারে ব্যবস্থা
আমাদের টুলকিট ব্যবহার করতে চান?
আপনার আগ্রহ রেজিস্টার করতে আপনার প্রতিষ্ঠানের কিছু বিবরণ শেয়ার করুন
আগ্রহের ফর্মটি দেখুনআমাদের টুলকিট ব্যবহার করতে চান?
আপনার আগ্রহ রেজিস্টার করতে আপনার প্রতিষ্ঠানের কিছু বিবরণ শেয়ার করুন
আগ্রহের ফর্মটি দেখুনটেস্টিমোনিয়াল
প্রায়শই জিজ্ঞাসিত প্রশ্ন
কন্টেন্ট সুরক্ষা এপিআই
কন্টেন্ট সুরক্ষা এপিআই কি ভিডিওর জন্য কাজ করে?
কন্টেন্ট সুরক্ষা এপিআই ছবির জন্য তৈরি করা হলেও বিভিন্ন সংস্থা YouTube-এর CSAI Match ব্যবহার করে আমাদের ডেটাবেসে আগে থেকেই থাকা বাচ্চাদের উপর যৌন নির্যাতনের কন্টেন্ট শনাক্ত করতে ফিঙ্গারপ্রিন্টিং সফ্টওয়্যার ও এপিআই অ্যাক্সেস করতে পারবে। আরও জানুন।
কন্টেন্ট সুরক্ষা এপিআই ও টেকনোলজি অ্যাক্সেস করার জন্য কে সাইন-আপ করতে পারে?
যেসব ইন্ডাস্ট্রি এবং সিভিল সোসাইটি থার্ড-পার্টি পার্টনাররা তাদের প্ল্যাটফর্ম ব্য়বহারকারী বাচ্চাদের যৌন নির্যাতন থেকে সুরক্ষিত রাখতে চাইছেন তারা সাইন-আপ করে কন্টেন্ট সুরক্ষা এপিআই অ্যাক্সেস করতে পারবেন। আবেদনগুলি অনুমোদন সাপেক্ষ।
এই টুল কেন আপনারা সর্বজনীনভাবে উপলভ্য করেছেন?
আমরা মনে করি যে অনলাইনে হওয়া বাচ্চাদের উপর নির্যাতন বা উৎপীড়নের সাথে লড়াই করার সবচেয়ে ভাল উপায় হল অন্যান্য কোম্পানি ও এনজিওর সাথে একযোগে কাজ করা। ডেটা ভিত্তিক নতুন টুল তৈরি করা, প্রযুক্তিগত দক্ষতা ও সচেতনতা বৃদ্ধি করার জন্য আমরা অনেকদিন ধরে ইন্ডাস্ট্রি এবং এনজিওর সাথে কাজ করছি। আমরা বিশ্বাস করি এই টুল সর্বজনীনভাবে উপলভ্য করলে সবাই উপকৃত হবেন, আমাদের পার্টনাররা আর্টিফিশিয়াল ইন্টেলিজেন্স ব্যবহার করে আরও বেশি পরিমাণ কন্টেন্ট পর্যালোচনা করতে পারবেন যা এই লড়াইয়ের জন্য খুব গুরুত্বপূর্ণ।
CSAI Match
CSAI Match কি ছবির জন্য কাজ করে?
CSAI Match ভিডিওর জন্য তৈরি করা হলেও, ইন্ডাস্ট্রি ও এনজিও পার্টনাররা Google-এর কন্টেন্ট সুরক্ষা এপিআই-এর মাধ্যমে কিছু টুল ব্যবহার করতে পারবে যা ছবিগুলিকে মেশিন লার্নিং চালিত টেকনোলজির মাধ্য়মে শ্রেণীবদ্ধকরণের জন্য ব্যবহার করা যাবে। আরও জানুন।
শনাক্ত করা মিলে যাওয়া ভিডিওর সাথে কী তথ্য প্রদান করা হয়?
Match টেকনোলজি, ভিডিওর কোন অংশের পরিচিত CSAI-এর সাথে মিল আছে তা শনাক্ত করবে, এছাড়া যে ধরনের কন্টেন্টের সাথে মিলছে সে অনুযায়ী স্ট্যান্ডার্ড শ্রেণীবিভাগ করবে।
কী কারণে CSAI Match টেকনোলজি এত কার্যকর?
CSAI Match পরিচিত CSAI কন্টেন্টের মতো অনেকটা একই রকমের সেগমেন্ট শনাক্ত করে। এতে আছে MD5 হ্যাশ ম্যাচিংয়ের হুবহু ডুপ্লিকেট, এছাড়া, একই রকমের থাকতে পারে আবার-এনকোড করা, অস্পষ্ট করা, ছাঁচাই বা CSAI ভিডিওর স্কেলিং - যদি ভিডিওতে থাকে CSAI-এর কিছুটা অংশ যাতে সম্ভবত CSAI নয় এমন কন্টেন্ট থাকতে পারে। ভিডিওর “ফিঙ্গারপ্রিন্ট”, MD5 হ্যাশের মতো বাইট-সিকোয়েন্স, তৈরি করতে পার্টনাররা ফিঙ্গারপ্রিন্টিং বাইনারি রান করে। তারপর এটি Google-এর CSAI Match পরিষেবাতে পাঠানো হয় যা বিশেষ করে YouTube-এর পরিচিত CSAI স্টকের সাথে কার্যকরভাবে ম্যাচ করার জন্য কোনও ভিডিও স্ক্যান করার জন্য তৈরি।