ನಮ್ಮ ಮಕ್ಕಳ ಸುರಕ್ಷತೆಯ ಟೂಲ್‌ಕಿಟ್ ಅನ್ನು ಅನ್ವೇಷಿಸಿ
ಆದ್ಯತೆ ನೀಡುವಿಕೆಯ ಉತ್ತಮ ನಿರ್ವಹಣೆ
ದೌರ್ಜನ್ಯದ ಕಂಟೆಂಟ್ ಅನ್ನು ವ್ಯಕ್ತಿಯೊಬ್ಬರು ಪರಿಶೀಲಿಸಲು ಆದ್ಯತೆ ನೀಡುವುದರ ಮೂಲಕ, ಆನ್‌ಲೈನ್‌ನಲ್ಲಿ ಮಕ್ಕಳ ಶೋಷಣೆಯ ವಿರುದ್ಧ ಹೋರಾಡಲು API ಗಳು ಸಹಾಯ ಮಾಡುತ್ತವೆ.
ಇನ್ನಷ್ಟು ವೇಗವಾದ ಗುರುತಿಸುವಿಕೆ
ಕಂಟೆಂಟ್ ಅನ್ನು ಹೆಚ್ಚು ವೇಗವಾಗಿ ಗುರುತಿಸುವ ಮೂಲಕ, ಬಲಿಪಶುಗಳನ್ನು ಗುರುತಿಸುವ ಮತ್ತು ಹೆಚ್ಚಿನ ಶೋಷಣೆಯಿಂದ ರಕ್ಷಿಸುವ ಸಾಧ್ಯತೆಯೂ ಹೆಚ್ಚಾಗುತ್ತದೆ.
ಸುರಕ್ಷಿತ ಕಾರ್ಯಾಚರಣೆಗಳು
ಪರಿಶೀಲನೆಯ ಸರದಿಗಳನ್ನು ಹೆಚ್ಚು ದಕ್ಷಗೊಳಿಸುವುದು ಮತ್ತು ಅಡಚಣೆಗಳನ್ನು ಕಡಿಮೆಗೊಳಿಸುವುದರಿಂದ ಮಾನವ ಕಂಟೆಂಟ್ ಮಾಡರೇಟರ್‌ನ ಮೇಲಿನ ಹೊರೆಯೂ ಕಡಿಮೆಯಾಗುತ್ತದೆ.
ನಮ್ಮ ಟೂಲ್‌ಗಳ ಕುರಿತು ತಿಳಿದುಕೊಳ್ಳಿ
ನಮ್ಮ ಟೂಲ್‌ಗಳು ಪೂರಕ ಸಾಮರ್ಥ್ಯಗಳನ್ನು ಹೊಂದಿವೆ. ವಿವಿಧ ಅವಶ್ಯಕತೆಗಳಿಗೆ ಸರಿಹೊಂದುವ ಹಾಗೆ, ಅವುಗಳನ್ನು ಜಂಟಿಯಾಗಿ ಮತ್ತು ಇತರ ಪರಿಹಾರಗಳೊಂದಿಗೆ ಬಳಸಬಹುದು.
Content Safety API
ಈ ಹಿಂದೆ ನೋಡಿರದ ಚಿತ್ರಗಳು ಮತ್ತು ವೀಡಿಯೊಗಳನ್ನು ವರ್ಗೀಕರಿಸುವುದು
CSAI Match
ತಿಳಿದಿರುವ ದೌಜನ್ಯದ ವೀಡಿಯೊ ಸೆಗ್ಮೆಂಟ್‌ಗಳನ್ನು ಹೋಲಿಸುವುದು
Content Safety API
ಇದಕ್ಕೆ ಬಳಸಲಾಗುತ್ತದೆ: ಈ ಹಿಂದೆ ನೋಡಿರದ ಚಿತ್ರಗಳು ಮತ್ತು ವೀಡಿಯೊಗಳನ್ನು ವರ್ಗೀಕರಿಸುವುದು
ಪರಿಶೀಲನೆಗೆ ಬರುವ ಬಿಲಿಯನ್‌ಗಟ್ಟಲೆ ಚಿತ್ರಗಳು ಮತ್ತು ವೀಡಿಯೊಗಳನ್ನು ವರ್ಗೀಕರಿಸಲು ಮತ್ತು ಆದ್ಯತೆಯನ್ನು ತೀರ್ಮಾನಿಸಲು ನಮ್ಮ ಪಾಲುದಾರರಿಗೆ ಸಹಾಯ ಮಾಡುವುದಕ್ಕಾಗಿ, Content Safety API ಕ್ಲಾಸಿಫೈಯರ್, ಪ್ರೊಗ್ರಾಮ್ಯಾಟಿಕ್ ಆ್ಯಕ್ಸೆಸ್ ಹಾಗೂ ಆರ್ಟಿಫಿಶಿಯಲ್ ಇಂಟೆಲಿಜೆನ್ಸ್ ಅನ್ನು ಬಳಸುತ್ತದೆ. ಕ್ಲಾಸಿಫೈಯರ್ ನೀಡಿದ ಆದ್ಯತೆಯ ಮೌಲ್ಯ ಅಧಿಕವಾಗುತ್ತಾ ಹೋದ ಹಾಗೆ, ಮೀಡಿಯಾ ಫೈಲ್ ದೌರ್ಜನ್ಯದ ಸಾಮಗ್ರಿಯನ್ನು ಹೊಂದಿರುವ ಸಾಧ್ಯತೆಯೂ ಹೆಚ್ಚಾಗಿರುತ್ತದೆ, ಇದರಿಂದ ಪಾಲುದಾರರು ಅವರ ಮಾನವ ರಿವ್ಯೂ ನಡೆಸುವುದಕ್ಕಾಗಿ ಆದ್ಯತೆ ನೀಡಲು ಮತ್ತು ಕಂಟೆಂಟ್ನ ಕುರಿತಾಗಿ ತಾವೇ ತೀರ್ಮಾನಿಸಲು ಸಹಾಯವಾಗುತ್ತದೆ. Content Safety API, ತನಗೆ ಕಳುಹಿಸಲಾದ ಕಂಟೆಂಟ್ನ ಕುರಿತು ಆದ್ಯತೆ ತೀರ್ಮಾನದ ಶಿಫಾರಸನ್ನು ಒದಗಿಸುತ್ತದೆ. ಕಂಟೆಂಟ್ಗೆ ಸಂಬಂಧಿಸಿದಂತೆ ತಾವು ಕ್ರಮ ತೆಗೆದುಕೊಳ್ಳಬೇಕೇ ಎಂಬುದನ್ನು ತೀರ್ಮಾನಿಸಲು, ಪಾಲುದಾರರು ತಮ್ಮದೇ ಆದ ಪರಿಶೀಲನೆಯನ್ನು ನಡೆಸಬೇಕಾಗುತ್ತದೆ.
ಕಾರ್ಯಾಚರಣೆಯ ವಿಷಯಕ್ಕೆ ಬಂದಾಗ, ವರ್ಗೀಕರಿಸಲು, ಆದ್ಯತೆ ತೀರ್ಮಾನಿಸಲು ಮತ್ತು ತಮ್ಮ ಸರದಿಯನ್ನು ವ್ಯವಸ್ಥಿತಗೊಳಿಸಲು ಸಂಸ್ಥೆಗಳಿಗೆ ಸಹಾಯ ಮಾಡುವುದಕ್ಕಾಗಿ, ವ್ಯಕ್ತಿಯೊಬ್ಬರು ಪರಿಶೀಲನೆ ನಡೆಸುವುದಕ್ಕಿಂತ ಮೊದಲು, ಸಂಸ್ಥೆಗಳು Content Safety API ಅನ್ನು ಬಳಸಬೇಕೆಂದು ನಾವು ಶಿಫಾರಸು ಮಾಡುತ್ತೇವೆ. ವಿಭಿನ್ನ ಅವಶ್ಯಕತೆಗಳನ್ನು ಪೂರೈಸುವ, YouTube ನ CSAI Match ವೀಡಿಯೊ ಹ್ಯಾಶಿಂಗ್ ಟೂಲ್ ಅಥವಾ Microsoft ನ PhotoDNA ರೀತಿಯ ಇತರ ಪರಿಹಾರಗಳೊಂದಿಗೆ ಸಮಾನಾಂತರವಾಗಿ Content Safety API ಅನ್ನು ಬಳಸಬಹುದು.
ಇದು ಹೇಗೆ ಕೆಲಸ ಮಾಡುತ್ತದೆ?
1. ಫೈಲ್ ಪಡೆದುಕೊಳ್ಳುವಿಕೆ
ಪಾಲುದಾರರು ಅನೇಕ ವಿಧಗಳಲ್ಲಿ ಫೈಲ್‌ಗಳನ್ನು ಪಡೆದುಕೊಳ್ಳುತ್ತಾರೆ, ಉದಾಹರಣೆಗೆ, ಬಳಕೆದಾರರು ವರದಿ ಮಾಡಿರುವುದು ಅಥವಾ ತಮ್ಮ ಪ್ಲ್ಯಾಟ್‌ಫಾರ್ಮ್‌ನಲ್ಲಿ ಕಂಟೆಂಟ್ ಅನ್ನು ಮಾಡರೇಟ್ ಮಾಡಲು ಪಾಲುದಾರರು ರಚಿಸಿರುವ ಕ್ರಾಲರ್‌ಗಳು ಅಥವಾ ಫಿಲ್ಟರ್‌ಗಳು ಗುರುತಿಸಿರುವುದು.
ಪಾಲುದಾರರು
ಬಳಕೆದಾರರು ವರದಿಮಾಡಿದ ಚಿತ್ರಗಳು ಮತ್ತು ವೀಡಿಯೊಗಳು
ಕ್ರಾಲರ್‌ಗಳು
ಪ್ರೀ-ಫಿಲ್ಟರ್‌ಗಳು
(ಪೋರ್ನ್/ಇತರ ಕ್ಲಾಸಿಫೈಯರ್‌ಗಳು)
2. API ಪರಿಶೀಲನೆ
ಸರಳ API ಕರೆಯ ಮೂಲಕ, ಮೀಡಿಯಾ ಫೈಲ್‌ಗಳನ್ನು Content Safety API ಗೆ ಕಳುಹಿಸಲಾಗುತ್ತದೆ. ಪರಿಶೀಲನೆಯ ಆದ್ಯತೆಯನ್ನು ತೀರ್ಮಾನಿಸಲು, ಅವುಗಳನ್ನು ಕ್ಲಾಸಿಫೈಯರ್‌ಗಳ ಮೂಲಕ ರನ್ ಮಾಡಲಾಗುತ್ತದೆ ಮತ್ತು ಪ್ರತಿ ಕಂಟೆಂಟ್ನ ಭಾಗಗಳ ಆದ್ಯತೆಯ ಮೌಲ್ಯವನ್ನು ಪಾಲುದಾರರಿಗೆ ಮರಳಿ ಕಳುಹಿಸಲಾಗುತ್ತದೆ.
Content Safety API
ಕ್ಲಾಸಿಫೈಯರ್ ತಂತ್ರಜ್ಞಾನ
3. ವ್ಯಕ್ತಿಯೊಬ್ಬರಿಂದ ಪರಿಶೀಲನೆ
ವ್ಯಕ್ತಿಯೊಬ್ಬರು ಪರಿಶೀಲನೆ ನಡೆಸುವುದಕ್ಕಾಗಿ ಮೊದಲು ಗಮನ ನೀಡಬೇಕಾದ ಫೈಲ್‌ಗಳಿಗೆ ಅದ್ಯತೆ ನೀಡಲು ಪಾಲುದಾರರು ಆದ್ಯತೆಯ ಮೌಲ್ಯವನ್ನು ಬಳಸುತ್ತಾರೆ.
ಪಾಲುದಾರರು
ವ್ಯಕ್ತಿಯೊಬ್ಬರಿಂದ ಪರಿಶೀಲನೆ
4. ಕ್ರಮ ತೆಗೆದುಕೊಳ್ಳಿ
ಚಿತ್ರ ಮತ್ತು ವೀಡಿಯೊ ಫೈಲ್‌ಗಳನ್ನು ವ್ಯಕ್ತಿಯೊಬ್ಬರು ಪರಿಶೀಲಿಸಿದ ಬಳಿಕ, ಸ್ಥಳೀಯ ಕಾನೂನುಗಳು ಮತ್ತು ನಿಯಮಗಳ ಅನುಸಾರ ಪಾಲುದಾರರು ಕಂಟೆಂಟ್ನ ಮೇಲೆ ಕ್ರಮ ಕೈಗೊಳ್ಳಬಹುದು.
ಪಾಲುದಾರರು
ಸೂಕ್ತ ಕ್ರಮ ಕೈಗೊಳ್ಳಿ
CSAI Match
ಇದಕ್ಕಾಗಿ ಬಳಸಲಾಗುತ್ತದೆ: ತಿಳಿದಿರುವ ದೌಜನ್ಯದ ವೀಡಿಯೊ ಸೆಗ್ಮೆಂಟ್‌ಗಳನ್ನು ಹೋಲಿಸುವುದು
CSAI Match ಎಂಬುದು ಆನ್‌ಲೈನ್‌ನಲ್ಲಿ CSAI (ಮಕ್ಕಳ ಮೇಲಿನ ಲೈಂಗಿಕ ದೌರ್ಜನ್ಯದ ಚಿತ್ರಣ) ವೀಡಿಯೊಗಳ ವಿರುದ್ಧ ಹೋರಾಡುವುದಕ್ಕಗಿ ಇರುವ, YouTube ಒಡೆತನದ ತಂತ್ರಜ್ಞಾನವಾಗಿದೆ. ಉಲ್ಲಂಘನೀಯವೆಂದು ತಿಳಿದಿರುವ ಕಂಟೆಂಟ್ ಅನ್ನು ಗುರುತಿಸಲು, ಹ್ಯಾಶ್-ಮ್ಯಾಚಿಂಗ್ ಅನ್ನು ಈ ತಂತ್ರಜ್ಞಾನವು ಮೊತ್ತಮೊದಲು ಬಳಸಿತು ಮತ್ತು ಉಲ್ಲಂಘನೀಯವಲ್ಲದ ಅಧಿಕ-ಪ್ರಮಾಣದ ವೀಡಿಯೊ ಕಂಟೆಂಟ್ನ ನಡುವೆ ಈ ರೀತಿಯ ಉಲ್ಲಂಘನೀಯ ಕಂಟೆಂಟ್ ಅನ್ನು ಗುರುತಿಸಲು ನಮಗೆ ಅವಕಾಶ ನೀಡುತ್ತದೆ. ಉಲ್ಲಂಘನೀಯ ಕಂಟೆಂಟ್ಗೆ ಹೊಂದಾಣಿಕೆ ಕಂಡುಬಂದಾಗ, ಪಾಲುದಾರರು ಅದನ್ನು ಪರಿಶೀಲಿಸಲು, ಖಚಿತಪಡಿಸಲು ಮತ್ತು ಸಂಭಾವ್ಯವಾಗಿ, ಸ್ಥಳೀಯ ಕಾನೂನುಗಳು ಮತ್ತು ನಿಯಮಗಳ ಅನುಸಾರ ವರದಿ ಮಾಡಲು, ಅದನ್ನು ಫ್ಲ್ಯಾಗ್ ಮಾಡಲಾಗುತ್ತದೆ. CSAI Match ಅನ್ನು ಉದ್ಯಮದಲ್ಲಿನ ಪಾಲುದಾರರಿಗೆ ಮತ್ತು NGO ಗಳಿಗೆ YouTube ಲಭ್ಯಗೊಳಿಸುತ್ತದೆ. ನಮ್ಮ ಡೇಟಾಬೇಸ್‌ನಲ್ಲಿರುವ, ತಿಳಿದಿರುವ ದೌರ್ಜನ್ಯದ ಕಂಟೆಂಟ್‌ನೊಂದಿಗೆ ಹೊಂದಾಣಿಕೆಗಳನ್ನು ಗುರುತಿಸುವುದಕ್ಕಾಗಿ ಫಿಂಗರ್‌ಪ್ರಿಂಟಿಂಗ್ ಸಾಫ್ಟ್‌ವೇರ್ ಹಾಗೂ API ಗೆ ನಾವು ಆ್ಯಕ್ಸೆಸ್ ಒದಗಿಸುತ್ತೇವೆ.
ತಿಳಿದಿರುವ CSAI ಕಂಟೆಂಟ್ನ ಒಂದು ಅತಿದೊಡ್ಡ ಸೂಚಿಕೆಗಳ ವಿರುದ್ಧ ತಮ್ಮ ಕಂಟೆಂಟ್ ಅನ್ನು ಹೋಲಿಸಿ ನೋಡುವುದಕ್ಕಾಗಿ CSAI Match ಅನ್ನು ಬಳಸುವ ಮೂಲಕ, ಆನ್‌ಲೈನ್ ಪ್ಲ್ಯಾಟ್‌ಫಾರ್ಮ್‌ಗಳು ತಮ್ಮ ಸೈಟ್‌ನಲ್ಲಿ ಉಲ್ಲಂಘನೆ ಮಾಡುತ್ತಿರುವ ಕಂಟೆಂಟ್ ಅನ್ನು ಪ್ರದರ್ಶಿಸುವುದನ್ನು ಮತ್ತು ಹಂಚುವುದನ್ನು ತಡೆಗಟ್ಟಬಹುದು. ಪಾಲುದಾರರು ತಮ್ಮ ಸಿಸ್ಟಂನಲ್ಲಿ ಅಳವಡಿಸಿಕೊಳ್ಳಲು CSAI Match ಸರಳವಾಗಿದೆ ಮತ್ತು ಸವಾಲಾಗಿರುವ ಕಂಟೆಂಟ್ ಮ್ಯಾನೇಜ್‌ಮೆಂಟ್‌ನಲ್ಲಿ ಮೇಲುಗೈ ಸಾಧಿಸಲು ಅನುವು ಮಾಡಿಕೊಡುತ್ತದೆ.
ಇದು ಹೇಗೆ ಕೆಲಸ ಮಾಡುತ್ತದೆ?
1. ವೀಡಿಯೊ ಫಿಂಗರ್‌ಪ್ರಿಂಟಿಂಗ್
ಪಾಲುದಾರರ ಪ್ಲ್ಯಾಟ್‌ಫಾರ್ಮ್‌ಗೆ ಒಂದು ವೀಡಿಯೊವನ್ನು ಅಪ್‌ಲೋಡ್ ಮಾಡಲಾಗುತ್ತದೆ. ಪಾಲುದಾರರ ಪ್ಲ್ಯಾಟ್‌ಫಾರ್ಮ್‌ನಲ್ಲಿ ರನ್ ಮಾಡಲಾಗುವ CSAI Match ಫಿಂಗರ್‌ಪ್ರಿಂಟರ್, ವೀಡಿಯೊದ ಫಿಂಗರ್‌ಪ್ರಿಂಟ್ ಫೈಲ್ ಅಂದರೆ ವೀಡಿಯೊ ಫೈಲ್‌ನ ಕಂಟೆಂಟ್ ಅನ್ನು ಅನನ್ಯವಾಗಿ ಪ್ರತಿನಿಧಿಸುವ ಡಿಜಿಟಲ್ ಐಡಿಯನ್ನು ರಚಿಸುತ್ತದೆ.
ಪಾಲುದಾರರು
ವೀಡಿಯೊ ಫೈಲ್
ಫಿಂಗರ್‌ಪ್ರಿಂಟರ್
ಫಿಂಗರ್‌ಪ್ರಿಂಟರ್ ಫೈಲ್
2. API ಪರಿಶೀಲನೆ
YouTube ನ ಫಿಂಗರ್‌ಪ್ರಿಂಟ್ ಸಂಗ್ರಹಣೆಯಲ್ಲಿರುವ ಇತರ ಫೈಲ್‌ಗಳೊಂದಿಗೆ ಹೋಲಿಸುವುದಕ್ಕಾಗಿ CSAI Match API ಮೂಲಕ ಪಾಲುದಾರರು ಫಿಂಗರ್‌ಪ್ರಿಂಟ್ ಫೈಲ್ ಅನ್ನು ಕಳುಹಿಸುತ್ತಾರೆ. ಈ ಸಂಗ್ರಹಣೆಯು, YouTube ಹಾಗೂ Google ಪತ್ತೆಹಚ್ಚಿರುವ, ತಿಳಿದಿರುವ ದೌರ್ಜನ್ಯದ ಕಂಟೆಂಟ್ನ ಫಿಂಗರ್‌ಪ್ರಿಂಟ್‌ಗಳನ್ನು ಹೊಂದಿರುತ್ತದೆ.
YouTube
CSAI Match API
CSAI Match ತಂತ್ರಜ್ಞಾನ
ಹಂಚಿಕೊಂಡ CSAI
ಫಿಂಗರ್‌ಪ್ರಿಂಟರ್ ಸಂಗ್ರಹಣೆ
3. ವ್ಯಕ್ತಿಯೊಬ್ಬರಿಂದ ಪರಿಶೀಲನೆ
API ಗೆ ಸಲ್ಲಿಸಿದ ಕರೆಯು ಪೂರ್ಣಗೊಂಡಾಗ, ಪಾಲುದಾರರಿಗೆ ಸಕಾರಾತ್ಮಕ ಅಥವಾ ನಕಾರಾತ್ಮಕ ಹೊಂದಾಣಿಕೆಯನ್ನು ಮರಳಿಸಲಾಗುತ್ತದೆ. ಹೊಂದಾಣಿಕೆ ಮಾಹಿತಿಯ ಆಧಾರದಲ್ಲಿ, ವೀಡಿಯೊ, CSAI ಆಗಿದೆಯೇ ಎಂಬುದನ್ನು ದೃಢೀಕರಿಸಲು, ಪಾಲುದಾರರು ವೀಡಿಯೊವನ್ನು ವ್ಯಕ್ತಿಗತವಾಗಿ ಪರಿಶೀಲಿಸುತ್ತಾರೆ.
ಪಾಲುದಾರರು
ವ್ಯಕ್ತಿಯೊಬ್ಬರಿಂದ ಪರಿಶೀಲನೆ
4. ಕ್ರಮ ತೆಗೆದುಕೊಳ್ಳಿ
ಚಿತ್ರಗಳನ್ನು ಪರಿಶೀಲಿಸಿದ ಬಳಿಕ, ಸ್ಥಳಿಯ ಕಾನೂನುಗಳು ಮತ್ತು ನಿಯಮಗಳ ಅನುಸಾರ ಪಾಲುದಾರರು ಕಂಟೆಂಟ್ನ ಮೇಲೆ ಕ್ರಮ ಕೈಗೊಳ್ಳಬಹುದು.
ಪಾಲುದಾರರು
ಸೂಕ್ತ ಕ್ರಮ ಕೈಗೊಳ್ಳಿ
Content Safety API
ಇದಕ್ಕೆ ಬಳಸಲಾಗುತ್ತದೆ: ಈ ಹಿಂದೆ ನೋಡಿರದ ಚಿತ್ರಗಳು ಮತ್ತು ವೀಡಿಯೊಗಳನ್ನು ವರ್ಗೀಕರಿಸುವುದು
ಪರಿಶೀಲನೆಗೆ ಬರುವ ಬಿಲಿಯನ್‌ಗಟ್ಟಲೆ ಚಿತ್ರಗಳು ಮತ್ತು ವೀಡಿಯೊಗಳನ್ನು ವರ್ಗೀಕರಿಸಲು ಮತ್ತು ಆದ್ಯತೆಯನ್ನು ತೀರ್ಮಾನಿಸಲು ನಮ್ಮ ಪಾಲುದಾರರಿಗೆ ಸಹಾಯ ಮಾಡುವುದಕ್ಕಾಗಿ, Content Safety API ಕ್ಲಾಸಿಫೈಯರ್, ಪ್ರೊಗ್ರಾಮ್ಯಾಟಿಕ್ ಆ್ಯಕ್ಸೆಸ್ ಹಾಗೂ ಆರ್ಟಿಫಿಶಿಯಲ್ ಇಂಟೆಲಿಜೆನ್ಸ್ ಅನ್ನು ಬಳಸುತ್ತದೆ. ಕ್ಲಾಸಿಫೈಯರ್ ನೀಡಿದ ಆದ್ಯತೆಯ ಮೌಲ್ಯ ಅಧಿಕವಾಗುತ್ತಾ ಹೋದ ಹಾಗೆ, ಮೀಡಿಯಾ ಫೈಲ್ ದೌರ್ಜನ್ಯದ ಸಾಮಗ್ರಿಯನ್ನು ಹೊಂದಿರುವ ಸಾಧ್ಯತೆಯೂ ಹೆಚ್ಚಾಗಿರುತ್ತದೆ, ಇದರಿಂದ ಪಾಲುದಾರರು ಅವರ ಮಾನವ ರಿವ್ಯೂ ನಡೆಸುವುದಕ್ಕಾಗಿ ಆದ್ಯತೆ ನೀಡಲು ಮತ್ತು ಕಂಟೆಂಟ್ನ ಕುರಿತಾಗಿ ತಾವೇ ತೀರ್ಮಾನಿಸಲು ಸಹಾಯವಾಗುತ್ತದೆ. Content Safety API, ತನಗೆ ಕಳುಹಿಸಲಾದ ಕಂಟೆಂಟ್ನ ಕುರಿತು ಆದ್ಯತೆ ತೀರ್ಮಾನದ ಶಿಫಾರಸನ್ನು ಒದಗಿಸುತ್ತದೆ. ಕಂಟೆಂಟ್ಗೆ ಸಂಬಂಧಿಸಿದಂತೆ ತಾವು ಕ್ರಮ ತೆಗೆದುಕೊಳ್ಳಬೇಕೇ ಎಂಬುದನ್ನು ತೀರ್ಮಾನಿಸಲು, ಪಾಲುದಾರರು ತಮ್ಮದೇ ಆದ ಪರಿಶೀಲನೆಯನ್ನು ನಡೆಸಬೇಕಾಗುತ್ತದೆ.
ಕಾರ್ಯಾಚರಣೆಯ ವಿಷಯಕ್ಕೆ ಬಂದಾಗ, ವರ್ಗೀಕರಿಸಲು, ಆದ್ಯತೆ ತೀರ್ಮಾನಿಸಲು ಮತ್ತು ತಮ್ಮ ಸರದಿಯನ್ನು ವ್ಯವಸ್ಥಿತಗೊಳಿಸಲು ಸಂಸ್ಥೆಗಳಿಗೆ ಸಹಾಯ ಮಾಡುವುದಕ್ಕಾಗಿ, ವ್ಯಕ್ತಿಯೊಬ್ಬರು ಪರಿಶೀಲನೆ ನಡೆಸುವುದಕ್ಕಿಂತ ಮೊದಲು, ಸಂಸ್ಥೆಗಳು Content Safety API ಅನ್ನು ಬಳಸಬೇಕೆಂದು ನಾವು ಶಿಫಾರಸು ಮಾಡುತ್ತೇವೆ. ವಿಭಿನ್ನ ಅವಶ್ಯಕತೆಗಳನ್ನು ಪೂರೈಸುವ, YouTube ನ CSAI Match ವೀಡಿಯೊ ಹ್ಯಾಶಿಂಗ್ ಟೂಲ್ ಅಥವಾ Microsoft ನ PhotoDNA ರೀತಿಯ ಇತರ ಪರಿಹಾರಗಳೊಂದಿಗೆ ಸಮಾನಾಂತರವಾಗಿ Content Safety API ಅನ್ನು ಬಳಸಬಹುದು.
Content Safety API
ಇದಕ್ಕೆ ಬಳಸಲಾಗುತ್ತದೆ: ಈ ಹಿಂದೆ ನೋಡಿರದ ಚಿತ್ರಗಳು ಮತ್ತು ವೀಡಿಯೊಗಳನ್ನು ವರ್ಗೀಕರಿಸುವುದು
ಇದು ಹೇಗೆ ಕೆಲಸ ಮಾಡುತ್ತದೆ?
1. ಫೈಲ್ ಪಡೆದುಕೊಳ್ಳುವಿಕೆ
ಪಾಲುದಾರರು ಅನೇಕ ವಿಧಗಳಲ್ಲಿ ಫೈಲ್‌ಗಳನ್ನು ಪಡೆದುಕೊಳ್ಳುತ್ತಾರೆ, ಉದಾಹರಣೆಗೆ, ಬಳಕೆದಾರರು ವರದಿ ಮಾಡಿರುವುದು ಅಥವಾ ತಮ್ಮ ಪ್ಲ್ಯಾಟ್‌ಫಾರ್ಮ್‌ನಲ್ಲಿ ಕಂಟೆಂಟ್ ಅನ್ನು ಮಾಡರೇಟ್ ಮಾಡಲು ಪಾಲುದಾರರು ರಚಿಸಿರುವ ಕ್ರಾಲರ್‌ಗಳು ಅಥವಾ ಫಿಲ್ಟರ್‌ಗಳು ಗುರುತಿಸಿರುವುದು.
ಪಾಲುದಾರರು
ಬಳಕೆದಾರರು ವರದಿಮಾಡಿದ ಚಿತ್ರಗಳು ಮತ್ತು ವೀಡಿಯೊಗಳು
ಕ್ರಾಲರ್‌ಗಳು
ಪ್ರೀ-ಫಿಲ್ಟರ್‌ಗಳು
(ಪೋರ್ನ್/ಇತರ ಕ್ಲಾಸಿಫೈಯರ್‌ಗಳು)
2. API ಪರಿಶೀಲನೆ
ಸರಳ API ಕರೆಯ ಮೂಲಕ, ಮೀಡಿಯಾ ಫೈಲ್‌ಗಳನ್ನು Content Safety API ಗೆ ಕಳುಹಿಸಲಾಗುತ್ತದೆ. ಪರಿಶೀಲನೆಯ ಆದ್ಯತೆಯನ್ನು ತೀರ್ಮಾನಿಸಲು, ಅವುಗಳನ್ನು ಕ್ಲಾಸಿಫೈಯರ್‌ಗಳ ಮೂಲಕ ರನ್ ಮಾಡಲಾಗುತ್ತದೆ ಮತ್ತು ಪ್ರತಿ ಕಂಟೆಂಟ್ನ ಭಾಗಗಳ ಆದ್ಯತೆಯ ಮೌಲ್ಯವನ್ನು ಪಾಲುದಾರರಿಗೆ ಮರಳಿ ಕಳುಹಿಸಲಾಗುತ್ತದೆ.
Content Safety API
ಕ್ಲಾಸಿಫೈಯರ್ ತಂತ್ರಜ್ಞಾನ
3. ವ್ಯಕ್ತಿಯೊಬ್ಬರಿಂದ ಪರಿಶೀಲನೆ
ವ್ಯಕ್ತಿಯೊಬ್ಬರು ಪರಿಶೀಲನೆ ನಡೆಸುವುದಕ್ಕಾಗಿ ಮೊದಲು ಗಮನ ನೀಡಬೇಕಾದ ಫೈಲ್‌ಗಳಿಗೆ ಅದ್ಯತೆ ನೀಡಲು ಪಾಲುದಾರರು ಆದ್ಯತೆಯ ಮೌಲ್ಯವನ್ನು ಬಳಸುತ್ತಾರೆ.
ಪಾಲುದಾರರು
ವ್ಯಕ್ತಿಯೊಬ್ಬರಿಂದ ಪರಿಶೀಲನೆ
4. ಕ್ರಮ ತೆಗೆದುಕೊಳ್ಳಿ
ಚಿತ್ರ ಮತ್ತು ವೀಡಿಯೊ ಫೈಲ್‌ಗಳನ್ನು ವ್ಯಕ್ತಿಯೊಬ್ಬರು ಪರಿಶೀಲಿಸಿದ ಬಳಿಕ, ಸ್ಥಳೀಯ ಕಾನೂನುಗಳು ಮತ್ತು ನಿಯಮಗಳ ಅನುಸಾರ ಪಾಲುದಾರರು ಕಂಟೆಂಟ್ನ ಮೇಲೆ ಕ್ರಮ ಕೈಗೊಳ್ಳಬಹುದು.
ಪಾಲುದಾರರು
ಸೂಕ್ತ ಕ್ರಮ ಕೈಗೊಳ್ಳಿ
ನಮ್ಮ ಟೂಲ್‌ಕಿಟ್ ಬಳಸಲು ನಿಮಗೆ ಆಸಕ್ತಿ ಇದೆಯೇ?
ನಿಮ್ಮ ಆಸಕ್ತಿಯನ್ನು ನೋಂದಾಯಿಸಲು, ನಿಮ್ಮ ಸಂಸ್ಥೆಯ ಕುರಿತು ಒಂದಿಷ್ಟು ವಿವರಗಳನ್ನು ಹಂಚಿಕೊಳ್ಳಿ
ಆಸಕ್ತಿ ಕುರಿತಾದ ಫಾರ್ಮ್ ಅನ್ನು ವೀಕ್ಷಿಸಿ
CSAI Match
ಇದಕ್ಕಾಗಿ ಬಳಸಲಾಗುತ್ತದೆ: ತಿಳಿದಿರುವ ದೌಜನ್ಯದ ವೀಡಿಯೊ ಸೆಗ್ಮೆಂಟ್‌ಗಳನ್ನು ಹೋಲಿಸುವುದು
CSAI Match ಎಂಬುದು ಆನ್‌ಲೈನ್‌ನಲ್ಲಿ CSAI (ಮಕ್ಕಳ ಮೇಲಿನ ಲೈಂಗಿಕ ದೌರ್ಜನ್ಯದ ಚಿತ್ರಣ) ವೀಡಿಯೊಗಳ ವಿರುದ್ಧ ಹೋರಾಡುವುದಕ್ಕಗಿ ಇರುವ, YouTube ಒಡೆತನದ ತಂತ್ರಜ್ಞಾನವಾಗಿದೆ. ಉಲ್ಲಂಘನೀಯವೆಂದು ತಿಳಿದಿರುವ ಕಂಟೆಂಟ್ ಅನ್ನು ಗುರುತಿಸಲು, ಹ್ಯಾಶ್-ಮ್ಯಾಚಿಂಗ್ ಅನ್ನು ಈ ತಂತ್ರಜ್ಞಾನವು ಮೊತ್ತಮೊದಲು ಬಳಸಿತು ಮತ್ತು ಉಲ್ಲಂಘನೀಯವಲ್ಲದ ಅಧಿಕ-ಪ್ರಮಾಣದ ವೀಡಿಯೊ ಕಂಟೆಂಟ್ನ ನಡುವೆ ಈ ರೀತಿಯ ಉಲ್ಲಂಘನೀಯ ಕಂಟೆಂಟ್ ಅನ್ನು ಗುರುತಿಸಲು ನಮಗೆ ಅವಕಾಶ ನೀಡುತ್ತದೆ. ಉಲ್ಲಂಘನೀಯ ಕಂಟೆಂಟ್ಗೆ ಹೊಂದಾಣಿಕೆ ಕಂಡುಬಂದಾಗ, ಪಾಲುದಾರರು ಅದನ್ನು ಪರಿಶೀಲಿಸಲು, ಖಚಿತಪಡಿಸಲು ಮತ್ತು ಸಂಭಾವ್ಯವಾಗಿ, ಸ್ಥಳೀಯ ಕಾನೂನುಗಳು ಮತ್ತು ನಿಯಮಗಳ ಅನುಸಾರ ವರದಿ ಮಾಡಲು, ಅದನ್ನು ಫ್ಲ್ಯಾಗ್ ಮಾಡಲಾಗುತ್ತದೆ. CSAI Match ಅನ್ನು ಉದ್ಯಮದಲ್ಲಿನ ಪಾಲುದಾರರಿಗೆ ಮತ್ತು NGO ಗಳಿಗೆ YouTube ಲಭ್ಯಗೊಳಿಸುತ್ತದೆ. ನಮ್ಮ ಡೇಟಾಬೇಸ್‌ನಲ್ಲಿರುವ, ತಿಳಿದಿರುವ ದೌರ್ಜನ್ಯದ ಕಂಟೆಂಟ್‌ನೊಂದಿಗೆ ಹೊಂದಾಣಿಕೆಗಳನ್ನು ಗುರುತಿಸುವುದಕ್ಕಾಗಿ ಫಿಂಗರ್‌ಪ್ರಿಂಟಿಂಗ್ ಸಾಫ್ಟ್‌ವೇರ್ ಹಾಗೂ API ಗೆ ನಾವು ಆ್ಯಕ್ಸೆಸ್ ಒದಗಿಸುತ್ತೇವೆ.
ತಿಳಿದಿರುವ CSAI ಕಂಟೆಂಟ್ನ ಒಂದು ಅತಿದೊಡ್ಡ ಸೂಚಿಕೆಗಳ ವಿರುದ್ಧ ತಮ್ಮ ಕಂಟೆಂಟ್ ಅನ್ನು ಹೋಲಿಸಿ ನೋಡುವುದಕ್ಕಾಗಿ CSAI Match ಅನ್ನು ಬಳಸುವ ಮೂಲಕ, ಆನ್‌ಲೈನ್ ಪ್ಲ್ಯಾಟ್‌ಫಾರ್ಮ್‌ಗಳು ತಮ್ಮ ಸೈಟ್‌ನಲ್ಲಿ ಉಲ್ಲಂಘನೆ ಮಾಡುತ್ತಿರುವ ಕಂಟೆಂಟ್ ಅನ್ನು ಪ್ರದರ್ಶಿಸುವುದನ್ನು ಮತ್ತು ಹಂಚುವುದನ್ನು ತಡೆಗಟ್ಟಬಹುದು. ಪಾಲುದಾರರು ತಮ್ಮ ಸಿಸ್ಟಂನಲ್ಲಿ ಅಳವಡಿಸಿಕೊಳ್ಳಲು CSAI Match ಸರಳವಾಗಿದೆ ಮತ್ತು ಸವಾಲಾಗಿರುವ ಕಂಟೆಂಟ್ ಮ್ಯಾನೇಜ್‌ಮೆಂಟ್‌ನಲ್ಲಿ ಮೇಲುಗೈ ಸಾಧಿಸಲು ಅನುವು ಮಾಡಿಕೊಡುತ್ತದೆ.
CSAI Match
ಇದಕ್ಕಾಗಿ ಬಳಸಲಾಗುತ್ತದೆ: ತಿಳಿದಿರುವ ದೌಜನ್ಯದ ವೀಡಿಯೊ ಸೆಗ್ಮೆಂಟ್‌ಗಳನ್ನು ಹೋಲಿಸುವುದು
ಇದು ಹೇಗೆ ಕೆಲಸ ಮಾಡುತ್ತದೆ?
1. ವೀಡಿಯೊ ಫಿಂಗರ್‌ಪ್ರಿಂಟಿಂಗ್
ಪಾಲುದಾರರ ಪ್ಲ್ಯಾಟ್‌ಫಾರ್ಮ್‌ಗೆ ಒಂದು ವೀಡಿಯೊವನ್ನು ಅಪ್‌ಲೋಡ್ ಮಾಡಲಾಗುತ್ತದೆ. ಪಾಲುದಾರರ ಪ್ಲ್ಯಾಟ್‌ಫಾರ್ಮ್‌ನಲ್ಲಿ ರನ್ ಮಾಡಲಾಗುವ CSAI Match ಫಿಂಗರ್‌ಪ್ರಿಂಟರ್, ವೀಡಿಯೊದ ಫಿಂಗರ್‌ಪ್ರಿಂಟ್ ಫೈಲ್ ಅಂದರೆ ವೀಡಿಯೊ ಫೈಲ್‌ನ ಕಂಟೆಂಟ್ ಅನ್ನು ಅನನ್ಯವಾಗಿ ಪ್ರತಿನಿಧಿಸುವ ಡಿಜಿಟಲ್ ಐಡಿಯನ್ನು ರಚಿಸುತ್ತದೆ.
ಪಾಲುದಾರರು
ವೀಡಿಯೊ ಫೈಲ್
ಫಿಂಗರ್‌ಪ್ರಿಂಟರ್
ಫಿಂಗರ್‌ಪ್ರಿಂಟರ್ ಫೈಲ್
2. API ಪರಿಶೀಲನೆ
YouTube ನ ಫಿಂಗರ್‌ಪ್ರಿಂಟ್ ಸಂಗ್ರಹಣೆಯಲ್ಲಿರುವ ಇತರ ಫೈಲ್‌ಗಳೊಂದಿಗೆ ಹೋಲಿಸುವುದಕ್ಕಾಗಿ CSAI Match API ಮೂಲಕ ಪಾಲುದಾರರು ಫಿಂಗರ್‌ಪ್ರಿಂಟ್ ಫೈಲ್ ಅನ್ನು ಕಳುಹಿಸುತ್ತಾರೆ. ಈ ಸಂಗ್ರಹಣೆಯು, YouTube ಹಾಗೂ Google ಪತ್ತೆಹಚ್ಚಿರುವ, ತಿಳಿದಿರುವ ದೌರ್ಜನ್ಯದ ಕಂಟೆಂಟ್ನ ಫಿಂಗರ್‌ಪ್ರಿಂಟ್‌ಗಳನ್ನು ಹೊಂದಿರುತ್ತದೆ.
YouTube
CSAI Match API
CSAI Match ತಂತ್ರಜ್ಞಾನ
ಹಂಚಿಕೊಂಡ CSAI
ಫಿಂಗರ್‌ಪ್ರಿಂಟರ್ ಸಂಗ್ರಹಣೆ
3. ವ್ಯಕ್ತಿಯೊಬ್ಬರಿಂದ ಪರಿಶೀಲನೆ
API ಗೆ ಸಲ್ಲಿಸಿದ ಕರೆಯು ಪೂರ್ಣಗೊಂಡಾಗ, ಪಾಲುದಾರರಿಗೆ ಸಕಾರಾತ್ಮಕ ಅಥವಾ ನಕಾರಾತ್ಮಕ ಹೊಂದಾಣಿಕೆಯನ್ನು ಮರಳಿಸಲಾಗುತ್ತದೆ. ಹೊಂದಾಣಿಕೆ ಮಾಹಿತಿಯ ಆಧಾರದಲ್ಲಿ, ವೀಡಿಯೊ, CSAI ಆಗಿದೆಯೇ ಎಂಬುದನ್ನು ದೃಢೀಕರಿಸಲು, ಪಾಲುದಾರರು ವೀಡಿಯೊವನ್ನು ವ್ಯಕ್ತಿಗತವಾಗಿ ಪರಿಶೀಲಿಸುತ್ತಾರೆ.
ಪಾಲುದಾರರು
ವ್ಯಕ್ತಿಯೊಬ್ಬರಿಂದ ಪರಿಶೀಲನೆ
4. ಕ್ರಮ ತೆಗೆದುಕೊಳ್ಳಿ
ಚಿತ್ರಗಳನ್ನು ಪರಿಶೀಲಿಸಿದ ಬಳಿಕ, ಸ್ಥಳಿಯ ಕಾನೂನುಗಳು ಮತ್ತು ನಿಯಮಗಳ ಅನುಸಾರ ಪಾಲುದಾರರು ಕಂಟೆಂಟ್ನ ಮೇಲೆ ಕ್ರಮ ಕೈಗೊಳ್ಳಬಹುದು.
ಪಾಲುದಾರರು
ಸೂಕ್ತ ಕ್ರಮ ಕೈಗೊಳ್ಳಿ
ನಮ್ಮ ಟೂಲ್‌ಕಿಟ್ ಬಳಸಲು ನಿಮಗೆ ಆಸಕ್ತಿ ಇದೆಯೇ?
ನಿಮ್ಮ ಆಸಕ್ತಿಯನ್ನು ನೋಂದಾಯಿಸಲು, ನಿಮ್ಮ ಸಂಸ್ಥೆಯ ಕುರಿತು ಒಂದಿಷ್ಟು ವಿವರಗಳನ್ನು ಹಂಚಿಕೊಳ್ಳಿ
ಆಸಕ್ತಿ ಕುರಿತಾದ ಫಾರ್ಮ್ ಅನ್ನು ವೀಕ್ಷಿಸಿ
ನಮ್ಮ ಟೂಲ್‌ಕಿಟ್ ಬಳಸಲು ನಿಮಗೆ ಆಸಕ್ತಿ ಇದೆಯೇ?
ನಿಮ್ಮ ಆಸಕ್ತಿಯನ್ನು ನೋಂದಾಯಿಸಲು, ನಿಮ್ಮ ಸಂಸ್ಥೆಯ ಕುರಿತು ಒಂದಿಷ್ಟು ವಿವರಗಳನ್ನು ಹಂಚಿಕೊಳ್ಳಿ
ಆಸಕ್ತಿ ಕುರಿತಾದ ಫಾರ್ಮ್ ಅನ್ನು ವೀಕ್ಷಿಸಿಪ್ರಶಂಸಾಪತ್ರಗಳು
“Google ನ ಹ್ಯಾಶ್ ಮ್ಯಾಚಿಂಗ್ ಪರಿಹಾರವು ನಮ್ಮ ವರ್ಕ್‌ಫ್ಲೋ ಮೇಲೆ ಅಗಾಧ ಪರಿಣಾಮ ಬೀರಿದೆ ಮತ್ತು ಉತ್ತಮ, ವೇಗವಾದ ಫಲಿತಾಂಶಗಳಿಗೆ ಕಾರಣವಾಗಿದೆ. ನ್ಯಾಶನಲ್ ಸೆಂಟರ್ ಫಾರ್ ಮಿಸ್ಸಿಂಗ್ ಆ್ಯಂಡ್ ಎಕ್ಸ್‌ಪ್ಲಾಯ್ಟೆಡ್ ಚಿಲ್ಡ್ರೆನ್‌ಗೆ Google ನ ಗಣನೀಯ ಕೊಡುಗೆಯಿಂದಾಗಿ, ಸ್ವಯಂಚಾಲಿತ ಪ್ರಕ್ರಿಯೆಗಳು ಹಿಂದೆ ವರದಿ ಮಾಡಲಾದ CSAM ಅನ್ನು ಮಾನವ ರಿವ್ಯೂ ಮಾಡುವುದರ ಅವಶ್ಯಕತೆಯನ್ನು ಕಡಿಮೆಗೊಳಿಸುತ್ತವೆ, ಇದರಿಂದಾಗಿ ನಮ್ಮ ಸಿಬ್ಬಂದಿಯು ಈ ಕಂಟೆಂಟ್ನ ಸಂಪರ್ಕಕ್ಕೆ ಬರುವುದು ಕಡಿಮೆಯಾಗುತ್ತದೆ. ಈ ಚಿತ್ರಗಳನ್ನು ಆದಷ್ಟು ಬೇಗನೆ ತೆಗೆದುಹಾಕುವುದು ಅತ್ಯಂತ ನಿರ್ಣಾಯಕವಾಗಿದೆ ಏಕೆಂದರೆ ಮಗುವಿನ ಫೋಟೋವನ್ನು ಪ್ರತಿ ಬಾರಿ ಮರುಹಂಚಿಕೊಂಡಾಗ, ಅವರು ಪುನಃ ಬಲಿಪಶುಗಳಾಗುತ್ತಾರೆ. ಹೊಸ ಮತ್ತು ಅಪರಿಚಿತ ಬಾಲ-ಸಂತ್ರಸ್ತರು ಹಾಗೂ ದೌರ್ಜನ್ಯಕ್ಕೊಳಗಾದವರಿಗಾಗಿ ಕೆಲಸ ಮಾಡುವತ್ತ ನಮ್ಮ ಗಮನವನ್ನು ಕೇಂದ್ರೀಕರಿಸಲು ಸಹ ಇದು ನಮಗೆ ಅನುವು ಮಾಡಿಕೊಡುತ್ತದೆ.” - ನ್ಯಾಶನಲ್ ಸೆಂಟರ್ ಫಾರ್ ಮಿಸ್ಸಿಂಗ್ ಆ್ಯಂಡ್ ಎಕ್ಸ್‌ಪ್ಲಾಯ್ಟೆಡ್ ಚಿಲ್ಡ್ರೆನ್
“Google ನ ಕಂಟೆಂಟ್ ಸುರಕ್ಷತೆ API ಅನ್ನು ಕಾರ್ಯಗತಗೊಳಿಸಿರುವುದು, ನೂರಾರು ಮಿಲಿಯನ್ ಬಳಕೆದಾರರು-ಅಪ್‌ಲೋಡ್ ಮಾಡಿದ ಡಾಕ್ಯುಮೆಂಟ್‌ಗಳನ್ನು ಹೋಸ್ಟ್ ಮಾಡುವ ನಮ್ಮ ಪ್ಲಾಟ್‌ಫಾರ್ಮ್‌ನ ಮಟ್ಟಿಗೆ ಒಂದು ದೊಡ್ಡ ಗೆಲುವಾಗಿದೆ. ಸಂಭಾವ್ಯ ಆಕ್ಷೇಪಾರ್ಹ ವಿಷಯವಸ್ತುವನ್ನು ಪತ್ತೆಹಚ್ಚಲು API ದೊಡ್ಡ ಪ್ರಮಾಣದ ಚಿತ್ರಗಳನ್ನು ಪರಿಣಾಮಕಾರಿಯಾಗಿ ಸ್ಕ್ಯಾನ್ ಮಾಡುತ್ತದೆ, ಆ ಮೂಲಕ ನಮ್ಮ ಬಳಕೆದಾರರಿಗಾಗಿ ಸುರಕ್ಷಿತ ಡಿಜಿಟಲ್ ಪರಿಸರವನ್ನು ಖಚಿತಪಡಿಸಿಕೊಳ್ಳಲು ಸಹಾಯ ಮಾಡುತ್ತದೆ. ಇದರ ಅಧಿಕ ಥ್ರೂಪುಟ್ ಮತ್ತು ನಿಖರತೆಯು ಪರಿಶೀಲನೆ, ಮಧ್ಯಸ್ಥಿಕೆ ಮತ್ತು ಬೆಂಬಲದ ಮೇಲೆ ಗಮನ ಕೇಂದ್ರೀಕರಿಸಲು ನಮಗೆ ಅನುವು ಮಾಡಿಕೊಟ್ಟಿತು. - Scribd, Inc.
"Google ನ ಮಕ್ಕಳ ಸುರಕ್ಷತಾ ಟೂಲ್‌ಗಳು ನಾವು ಕಾರ್ಯಗತಗೊಳಿಸಿರುವ ಸುರಕ್ಷತಾ ಕ್ರಮಗಳು ಕೆಲಸ ಮಾಡುತ್ತಿವೆಯೇ ಎಂಬುದನ್ನು ಪ್ರಮಾಣೀಕರಿಸಲು ನಮಗೆ ಅನುವು ಮಾಡಿಕೊಟ್ಟಿವೆ ಮತ್ತು Nextdoor ನಲ್ಲಿ ಮಕ್ಕಳ ಮೇಲಿನ ಲೈಂಗಿಕ ದೌರ್ಜನ್ಯದ ಕಂಟೆಂಟ್ ಕಂಡುಬಂದ ನಿದರ್ಶನಗಳು ದಾಖಲೆಯ ಕನಿಷ್ಠ ಒಂದಂಕಿಯ ಮಟ್ಟದಲ್ಲೇ ಉಳಿದುಕೊಂಡಿರುವುದನ್ನು ನಾವು ನೋಡುತ್ತಿದ್ದೇವೆ." - Nextdoor
"Substack ತನ್ನ ವೀಡಿಯೊ ಸಾಮರ್ಥ್ಯಗಳ ವಿಸ್ತರಣೆಯನ್ನು ಮುಂದುವರೆಸುತ್ತಾ ಹೋದಂತೆ, ನಮ್ಮ ಸಮುದಾಯದ ಸುರಕ್ಷತೆಯನ್ನು ಖಚಿತಪಡಿಸಿಕೊಳ್ಳುವುದು—ವಿಶೇಷವಾಗಿ ಅಪ್ರಾಪ್ತ ವಯಸ್ಕರನ್ನು ರಕ್ಷಿಸುವುದು—ಮೊಟ್ಟಮೊದಲ ವಿಶ್ವಾಸ ಮತ್ತು ಸುರಕ್ಷತೆಯ ಆದ್ಯತೆಯಾಗಿ ಉಳಿದುಕೊಂಡಿದೆ. ಸುಧಾರಿತ ಮಕ್ಕಳ ಮೇಲಿನ ಲೈಂಗಿಕ ದೌರ್ಜನ್ಯದ ಚಿತ್ರಣವನ್ನು (CSAI) ಪತ್ತೆಹಚ್ಚುವ ತಂತ್ರಜ್ಞಾನಗಳನ್ನು ಸದುಪಯೋಗಪಡಿಸಿಕೊಂಡಿರುವುದು, ಈ ನಿರ್ಣಾಯಕ ಸುರಕ್ಷತಾ ಸವಾಲುಗಳನ್ನು ಎದುರಿಸುವಲ್ಲಿ ಪ್ರಮುಖ ಪಾತ್ರವಹಿಸಿದೆ. Google ನ ಟೂಲ್‌ಗಳು ಅಪಾಯಕಾರಿ ಕಂಟೆಂಟ್ ಅನ್ನು ತ್ವರಿತವಾಗಿ ಮತ್ತು ನಿಖರವಾಗಿ ಗುರುತಿಸಲು ಮತ್ತು ತೆಗೆದುಹಾಕಲು ನಮಗೆ ಅನುವು ಮಾಡಿಕೊಡುತ್ತವೆ, ಆ ಮೂಲಕ ನಮ್ಮ ಪ್ಲಾಟ್‌ಫಾರ್ಮ್ ರಚನೆಕಾರರು ಮತ್ತು ಪ್ರೇಕ್ಷಕರು, ಇಬ್ಬರಿಗಾಗಿಯೂ ಸುರಕ್ಷಿತ ತಾಣವಾಗಿ ಉಳಿದುಕೊಳ್ಳುವುದನ್ನು ಖಚಿತಪಡಿಸುತ್ತವೆ. - Substack
“CSAI Match, Adobe ನ ಮಕ್ಕಳ ಸುರಕ್ಷತಾ ಕಾರ್ಯಕ್ರಮದ ಪ್ರಮುಖ ಆಧಾರಸ್ತಂಭವಾಗಿ ಉಳಿದುಕೊಂಡಿದೆ. ಈ ತಂತ್ರಜ್ಞಾನದ ಸದುಪಯೋಗವು ಮಕ್ಕಳ ಮೇಲಿನ ಲೈಂಗಿಕ ದೌರ್ಜನ್ಯದ ವೀಡಿಯೊಗಳನ್ನು ಹೆಚ್ಚು ಪರಿಣಾಮಕಾರಿಯಾಗಿ ಪತ್ತೆಹಚ್ಚಲು ಸಹಾಯ ಮಾಡುವ ಪರಿಣಾಮಕಾರಿ ಸಾಧನ ಎಂಬುದು ಸಾಬೀತಾಗಿದೆ. - Adobe
“ವೀಡಿಯೊ-ಆಧಾರಿತ ಮಕ್ಕಳ ಮೇಲಿನ ಲೈಂಗಿಕ ದೌರ್ಜನ್ಯದ ಕಂಟೆಂಟ್ನ ಹೆಚ್ಚಳದ ವಿರುದ್ಧದ ಹೋರಾಟವು ಹೊಸ ಸವಾಲುಗಳನ್ನು ಒಡ್ಡುತ್ತಿದೆ ಮತ್ತು ಅದಕ್ಕೆ ಹೊಸ ತಂತ್ರಜ್ಞಾನದ ಅವಶ್ಯಕತೆಯಿದೆ. CSAI Match ಈ ಪರಿಹಾರದ ಭಾಗವಾಗಿ ನಿರೂಪಿತವಾಗಿದ್ದು, ನಮ್ಮ ಪ್ಲ್ಯಾಟ್‌ಫಾರ್ಮ್‌ಗಳಲ್ಲಿ ವೀಡಿಯೊ CSAM ಅನ್ನು ಇನ್ನಷ್ಟು ಉತ್ತಮವಾಗಿ ಪತ್ತೆಹಚ್ಚಲು ಮತ್ತು ತೆಗೆದುಹಾಕಲು ನಮಗೆ ನೆರವಾಗಿದೆ.” - Yahoo!
“ಅಪ್ರಾಪ್ತ ವಯಸ್ಕರ ಮೇಲಿನ ಲೈಂಗಿಕ ದೌರ್ಜನ್ಯವನ್ನು ಪ್ರದರ್ಶಿಸುವ ಚಿತ್ರಗಳನ್ನು ಗುರುತಿಸುವ ನಿಟ್ಟಿನಲ್ಲಿ ಕೆಲಸ ಮಾಡುವ ವಿಶ್ಲೇಷಕರಿಗೆ, ಆದ್ಯತೆಯನ್ನು ತೀರ್ಮಾನಿಸುವ ವಿಚಾರದಲ್ಲಿ ಕಂಟೆಂಟ್ ಸುರಕ್ಷತೆ API ಸಹಾಯ ಮಾಡುತ್ತದೆ. ಪ್ರಕ್ರಿಯೆಗೊಳಿಸಲು, ಸದಾ-ಹೆಚ್ಚುತ್ತಿರುವ ವರದಿಗಳ ಪ್ರಮಾಣವನ್ನು ನೋಡಿದಾಗ, ಆ ವರದಿಗಳನ್ನು ಪರಿಶೀಲಿಸಲು ಯಶಸ್ವಿಯಾಗಿ ಆದ್ಯತೆಯನ್ನು ತೀರ್ಮಾನಿಸುವುದು ಒಂದು ನೈಜ ಸವಾಲಾಗಿದೆ. ಅಪ್ರಾಪ್ತರ ಮೇಲಿನ ಲೈಂಗಿಕ ದೌರ್ಜನ್ಯವನ್ನು ತೋರಿಸುವ ಕಂಟೆಂಟ್ ಅನ್ನು ಒಳಗೊಂಡಿರುವ ವರದಿಗಳನ್ನು ವಿಶ್ಲೇಷಕರು ಇನ್ನಷ್ಟು ತ್ವರಿತವಾಗಿ ನೋಡಲು ಈ ತಂತ್ರಜ್ಞಾನವು ಅನುವು ಮಾಡಿಕೊಡುತ್ತದೆ ಮತ್ತು ಈ ರೀತಿಯಾಗಿ, ಸಂತ್ರಸ್ತರನ್ನು ರಕ್ಷಿಸಲು ಮತ್ತು ಕಂಟೆಂಟ್ ಅನ್ನು ತೆಗೆದುಹಾಕಲು ಹೆಚ್ಚು ವೇಗವಾಗಿ ಕೆಲಸ ಮಾಡಲು ಅವರಿಗೆ ಅವಕಾಶ ನೀಡುತ್ತದೆ.” - Point de Contact
ಸಂಯೋಜಿಸಲು ಸುಲಭ, ಪ್ರತಿಕ್ರಿಯೆ ನೀಡುವಲ್ಲಿ ತ್ವರಿತ, ಸ್ಥಿರ ಮತ್ತು ನಿಖರವಾಗಿರುವ ಕಂಟೆಂಟ್ ಸುರಕ್ಷತೆ API, ಕಂಟೆಂಟ್ ವಿಶ್ಲೇಷಕರು CSAM ಚಿತ್ರಗಳನ್ನು ಪರಿಶೀಲಿಸಲು ವ್ಯಯಿಸುವ ಸಮಯವನ್ನು ಗಣನೀಯವಾಗಿ ತಗ್ಗಿಸಿದೆ, ವಿಶ್ಲೇಷಣಾ ಪ್ರಕ್ರಿಯೆಯನ್ನು ಸಮರ್ಪಕವಾಗಿಸಿದೆ ಮತ್ತು ಅವರ ಯೋಗಕ್ಷೇಮದ ಮೇಲೆ ಸಕಾರಾತ್ಮಕ ಪ್ರಭಾವ ಬೀರಿದೆ.” - Safernet Brasil
FAQ ಗಳು
Content Safety API
Content Safety API ಗೆ ಕಳುಹಿಸಲಾದ ಡೇಟಾದ ಫಾರ್ಮ್ಯಾಟ್ ಯಾವುದು?
ಕಚ್ಚಾ ಕಂಟೆಂಟ್ ಬೈಟ್‌ಗಳು ಮತ್ತು ಮೀಡಿಯಾ ಫೈಲ್‌ಗಳಿಂದ ಪಡೆಯಲಾದ ಎಂಬೆಡಿಂಗ್‌ಗಳೆರಡಕ್ಕೂ ಬೆಂಬಲಿಸಲು ನಮ್ಮಲ್ಲಿ ಆಯ್ಕೆಗಳಿವೆ. ಹೆಚ್ಚಿನ ವಿವರಗಳಿಗಾಗಿ ಸಂಪರ್ಕದಲ್ಲಿರಿ.
ತಂತ್ರಜ್ಞಾನ ಹಾಗೂ Content Safety API ಗೆ ಆ್ಯಕ್ಸೆಸ್ ಪಡೆಯಲು ಯಾರು ಸೈನ್-ಅಪ್ ಮಾಡಬಹುದು?
ದೌರ್ಜನ್ಯದ ವಿರುದ್ಧ ತಮ್ಮ ಪ್ಲ್ಯಾಟ್‌ಫಾರ್ಮ್ ಅನ್ನು ರಕ್ಷಿಸುವ ಉದ್ದೇಶ ಹೊಂದಿರುವ ಔದ್ಯಮಿಕ ಮತ್ತು ನಾಗರಿಕ ಸಮಾಜದ ಥರ್ಡ್ ಪಾರ್ಟಿಗಳು, Content Safety API ಅನ್ನು ಆ್ಯಕ್ಸೆಸ್ ಮಾಡಲು ಸೈನ್-ಅಪ್ ಮಾಡಿಕೊಳ್ಳಬಹುದು. ಅರ್ಜಿಗಳು ಅನುಮೋದನೆಗೆ ಒಳಪಟ್ಟಿರುತ್ತವೆ.
ಈ ಟೂಲ್‌ಗಳನ್ನು ನೀವು ಏಕೆ ವ್ಯಾಪಕವಾಗಿ ಲಭ್ಯಗೊಳಿಸುತ್ತೀರಿ?
ಆನ್‌ಲೈನ್‌ನಲ್ಲಿ ಮಕ್ಕಳ ಶೋಷಣೆಯ ವಿರುದ್ಧ ಹೋರಾಡಲು ಅತ್ಯುತ್ತಮ ಮಾರ್ಗೋಪಾಯವೆಂದರೆ ಇತರ ಕಂಪನಿಗಳು ಹಾಗೂ NGO ಗಳೊಂದಿಗೆ ಸಹಯೋಗದಲ್ಲಿ ಕೆಲಸ ಮಾಡುವುದು ಎಂದು ನಾವು ನಂಬಿದ್ದೇವೆ. ಹೊಸ ಡೇಟಾ-ಚಾಲಿತ ಟೂಲ್‌ಗಳ ಅಭಿವೃದ್ಧಿಯನ್ನು ಬೆಂಬಲಿಸಲು, ತಾಂತ್ರಿಕ ಸಾಮರ್ಥ್ಯವನ್ನು ವರ್ಧಿಸಲು ಮತ್ತು ಜಾಗೃತಿ ಮೂಡಿಸಲು, ಉದ್ಯಮದಾದ್ಯಂತ ಹಾಗೂ NGO ಗಳೊಂದಿಗೆ ನಾವು ದೀರ್ಘ ಕಾಲದಿಂದ ಕೆಲಸ ಮಾಡಿದ್ದೇವೆ. ಬೃಹತ್ ಪ್ರಮಾಣದ ಕಂಟೆಂಟ್ ಅನ್ನು ಇನ್ನಷ್ಟು ಉತ್ತಮವಾಗಿ ಪರಿಶೀಲಿಸಲು ನಮ್ಮ ಪಾಲುದಾರರು AI ಅನ್ನು ಬಳಸಲು ಸಾಧ್ಯವಾಗುವ ಹಾಗೆ ಈ ಟೂಲ್‌ಗಳನ್ನು ವ್ಯಾಪಕವಾಗಿ ಲಭ್ಯಗೊಳಿಸುವುದು ಈ ಹೋರಾಟದ ಮುಖ್ಯ ಭಾಗವಾಗಿದೆ ಎಂದು ನಾವು ನಂಬಿದ್ದೇವೆ.
CSAI Match
CSAI Match ಚಿತ್ರಗಳಿಗಾಗಿ ಕೆಲಸ ಮಾಡುತ್ತದೆಯೇ?
CSAI Match ಅನ್ನು ವೀಡಿಯೊಗಾಗಿ ವಿನ್ಯಾಸಗೊಳಿಸಲಾಗಿದೆ, ಆದರೆ Google ನ Content Safety API ಮೂಲಕ, ಔದ್ಯಮಿಕ ಹಾಗೂ NGO ಪಾಲುದಾರರಿಗೆ ಟೂಲ್‌ಗಳ ಸಂಗ್ರಹವು ಲಭ್ಯವಿದೆ ಮತ್ತು ಚಿತ್ರಗಳಿಗಾಗಿ ಮಷಿನ್ ಲರ್ನಿಂಗ್-ಬೆಂಬಲಿತ ವರ್ಗೀಕರಣವನ್ನು ಒದಗಿಸಲಾಗುತ್ತದೆ. ಇನ್ನಷ್ಟು ತಿಳಿಯಿರಿ.
ಗುರುತಿಸಿದ ಹೊಂದಾಣಿಕೆಯೊಂದಿಗೆ ಯಾವ ಮಾಹಿತಿಯನ್ನು ಮರಳಿಸಲಾಗುತ್ತದೆ?
ವೀಡಿಯೊದ ಯಾವ ಭಾಗವು, ತಿಳಿದಿರುವ CSAI ಗೆ ಹೊಂದಾಣಿಕೆಯಾಗುತ್ತದೆ ಎಂಬುದನ್ನು ಈ ಹೊಂದಾಣಿಕೆ ಗುರುತಿಸುತ್ತದೆ ಮಾತ್ರವಲ್ಲದೆ ಹೊಂದಾಣಿಕೆಯಾದ ಕಂಟೆಂಟ್ ಪ್ರಕಾರದ ಪ್ರಮಾಣೀಕೃತ ವರ್ಗೀಕರಣವನ್ನು ಸಹ ಗುರುತಿಸುತ್ತದೆ.
CSAI Match ತಂತ್ರಜ್ಞಾನವು ಹೇಗೆ ಇಷ್ಟೊಂದು ಪರಿಣಾಮಕಾರಿಯಾಗಿದೆ?
CSAI Match, ತಿಳಿದಿರುವ CSAI ಕಂಟೆಂಟ್ಗೆ ಬಹುತೇಕ ಸಮಾನವಾದ ತುಣುಕುಗಳನ್ನು ಪತ್ತೆಹಚ್ಚುತ್ತದೆ. MD5 ಹ್ಯಾಶ್-ಮ್ಯಾಚಿಂಗ್ ಮೂಲಕ ಪಡೆಯುವ ಸಂಪೂರ್ಣ-ಸಮಾನ ತುಣುಕುಗಳಲ್ಲದೆ, CSAI ವೀಡಿಯೊಗಳ ಮರು-ಎನ್‌ಕೋಡಿಂಗ್‌ಗಳು, ಮಬ್ಬುಗೊಳಿಸುವಿಕೆ, ಮೊಟಕುಗೊಳಿಸುವಿಕೆಗಳು ಅಥವಾ ಸ್ಕೇಲಿಂಗ್ ಸೇರಿದಂತೆ – ವೀಡಿಯೊದಲ್ಲಿ CSAI-ಅಲ್ಲದ ಕಂಟೆಂಟ್‌ನೊಂದಿಗೆ ಸಂಭಾವ್ಯವಾಗಿ ಸಂಯೋಜಿತವಾಗಿರುವ ಸಣ್ಣ ಪ್ರಮಾಣದ CSAI ಕಂಟೆಂಟ್‌ನಂತಹ ಬಹುತೇಕ ಸಮಾನವಾದ ತುಣುಕುಗಳು ಇದರಲ್ಲಿ ಸೇರಿರುತ್ತವೆ. ವೀಡಿಯೊದ “ಫಿಂಗರ್‌ಪ್ರಿಂಟ್” ಅಂದರೆ MD5 ಹ್ಯಾಶ್‌ನ ತರಹದ ಬೈಟ್-ಸೀಕ್ವೆನ್ಸ್ ಅನ್ನು ರಚಿಸುವುದಕ್ಕಾಗಿ ಪಾಲುದಾರರು ಫಿಂಗರ್‌ಪ್ರಿಂಟಿಂಗ್ ಬೈನರಿಯನ್ನು ರನ್ ಮಾಡುತ್ತಾರೆ. ಆನಂತರ ಇದನ್ನು Google ನ CSAI Match ಸೇವೆಗೆ ಕಳುಹಿಸಲಾಗುತ್ತದೆ, YouTube ನ, ತಿಳಿದಿರುವ CSAI ಉಲ್ಲೇಖಗಳ ಸಂಗ್ರಹದ ವಿರುದ್ಧ ಒಂದು ವೀಡಿಯೊವನ್ನು ಸ್ಕ್ಯಾನ್ ಮಾಡುವಾಗ ಕಾರ್ಯಕ್ಷಮತೆಗಾಗಿ ಇದನ್ನು ನಿರ್ದಿಷ್ಟವಾಗಿ ವಿನ್ಯಾಸಗೊಳಿಸಲಾಗಿದೆ.