Tại Google và YouTube, chúng tôi đã phát triển những công cụ giúp các tổ chức bảo vệ trẻ em bằng cách sắp xếp thứ tự ưu tiên một cách hiệu quả hơn để đánh giá nội dung vi phạm.
Bộ công cụ này có hai API chính là API An toàn về nội dung và CSAI Match. Chúng tôi cung cấp miễn phí hai API này cho những đối tác đủ điều kiện. Các đối tác của chúng tôi dùng các công nghệ này để xử lý hàng tỷ tệp tin, cho phép họ đánh giá hàng triệu bức ảnh và video để tìm hành vi xâm hại tình dục mỗi năm.
Sắp xếp thứ tự ưu tiên hiệu quả hơn
Các API này hỗ trợ chống lại nạn bóc lột trẻ em bằng cách sắp xếp thứ tự ưu tiên về nội dung xâm hại tình dục cho người đánh giá.
Xác định nhanh hơn
Việc xác định nội dung một cách nhanh chóng hơn giúp tăng xác suất nhận dạng nạn nhân và bảo vệ không để nạn nhân tiếp tục bị xâm hại.
Vận hành an toàn hơn
Việc sắp xếp thứ tự đánh giá một cách hiệu quả và chính xác hơn cũng giúp giảm gánh nặng cho người kiểm duyệt nội dung.
Tìm hiểu về các công cụ của chúng tôi
Các công cụ của chúng tôi có các chức năng bổ trợ, có thể sử dụng cùng nhau và kết hợp với các giải pháp khác để đáp ứng nhiều nhu cầu.
CONTENT SAFETY API
Phân loại hình ảnh và video chưa từng thấy trước đây
So khớp CSAI (hình ảnh xâm hại tình dục trẻ em)
So khớp nội dung với các đoạn video xâm hại tình dục trẻ em đã xác định được
CONTENT SAFETY API
Phân loại hình ảnh và video chưa từng thấy trước đây
Content Safety API DÙNG ĐỂ: PHÂN LOẠI HÌNH ẢNH VÀ VIDEO CHƯA TỪNG THẤY TRƯỚC ĐÂY
Thuật toán phân loại của Content Safety API sử dụng trí tuệ nhân tạo và quyền truy cập có lập trình để giúp các đối tác phân loại và ưu tiên xem xét hàng tỷ bức ảnh và video. Mức độ ưu tiên do thuật toán phân loại đưa ra càng cao thì tệp nội dung nghe nhìn càng có khả năng chứa nội dung có tính xâm hại. Việc này có thể giúp các đối tác ưu tiên phân công nhân viên đánh giá và tự đưa ra quyết định đối với nội dung đó. Content Safety API đưa ra một giá trị đề xuất về mức độ ưu tiên cho nội dung gửi tới API này. Đối tác phải tự tiến hành đánh giá để quyết định xem họ có cần xử lý nội dung đó hay không.
Về mặt vận hành, chúng tôi khuyến nghị các tổ chức dùng Content Safety API ngay trước quy trình đánh giá thủ công để phân loại, sắp xếp thứ tự ưu tiên và tổ chức danh sách nội dung cần xử lý. Content Safety API có thể dùng song song với các giải pháp khác như công cụ băm video CSAI Match của YouTube, công nghệ PhotoDNA của Microsoft – mỗi công nghệ đáp ứng những nhu cầu riêng.
Cách hoạt động
1. Lấy tệp
Đối tác lấy tệp thông qua nhiều hình thức, chẳng hạn như do người dùng báo cáo, hoặc do trình thu thập thông tin hoặc những bộ lọc mà đối tác đã tạo ra để kiểm duyệt nội dung trên nền tảng của mình xác định.
2. Đánh giá bằng API
Sau đó, các tệp nội dung nghe nhìn đó được gửi tới Content Safety API thông qua một lệnh gọi API đơn giản. Chúng được chạy qua các thuật toán phân loại giúp xác định thứ tự ưu tiên để đánh giá, sau đó giá trị ưu tiên của mỗi bức ảnh sẽ được gửi trở lại cho đối tác.
3. Đánh giá thủ công
Đối tác dùng giá trị này để ưu tiên những tệp trước tiên cần chuyển cho nhân viên đánh giá.
4. Hành động
Sau khi nhân viên đánh giá xong các tệp ảnh và video, đối tác có thể xử lý nội dung đó theo luật và quy định của địa phương.
Đối tác
GOOGLE
Đối tác
Đối tác
Hình ảnh hoặc video do người dùng báo cáo
Trình thu thập thông tin
Các bộ lọc trước (thuật toán phân loại nội dung khiêu dâm/nội dung khác)
I
Content Safety API
I
Công nghệ phân loại
I
Đánh giá thủ công
I
Xử lý theo quy định
So khớp CSAI (hình ảnh xâm hại tình dục trẻ em)
So khớp nội dung với các đoạn video xâm hại tình dục trẻ em đã xác định được
So khớp CSAI (hình ảnh xâm hại tình dục trẻ em) DÙNG ĐỂ: So khớp với các đoạn video xâm hại tình dục trẻ em đã xác định được
CSAI Match là công nghệ độc quyền của YouTube để chống lại video CSAI (hình ảnh xâm hại tình dục trẻ em) trên mạng. Đây là công nghệ đầu tiên sử dụng tính năng so khớp dựa trên thuật toán băm để nhận dạng nội dung vi phạm đã xác định được từ trước và cho phép chúng tôi nhận dạng loại nội dung vi phạm này trong một lượng lớn nội dung video không vi phạm. Khi hệ thống phát hiện một trường hợp trùng khớp nội dung vi phạm, thì các đối tác sẽ nhận được thông báo về nội dung đó để đánh giá, xác nhận và báo cáo một cách có trách nhiệm theo luật và quy định của địa phương. YouTube cung cấp CSAI Match cho các đối tác trong ngành và tổ chức phi chính phủ. Chúng tôi cấp quyền sử dụng phần mềm tạo vân tay số và một API giúp xác định nội dung trùng khớp khi so sánh với cơ sở dữ liệu nội dung xâm hại tình dục đã xác định được.
Các nền tảng trực tuyến có thể ngăn chặn không để nội dung vi phạm xuất hiện và được chia sẻ trên các trang web của họ bằng cách dùng CSAI Match để so sánh nội dung của họ với một trong những danh mục lớn nhất về nội dung CSAI đã xác định được. Các đối tác có thể dễ dàng tích hợp CSAI Match vào hệ thống của mình, từ đó mở rộng quy mô một cách hiệu quả cho quy trình quản lý nội dung phức tạp.
Cách hoạt động
1. Tạo vân tay số cho video
Một video được tải lên nền tảng của đối tác. Trình tạo vân tay số của CSAI Match chạy trên nền tảng của đối tác sẽ tạo một tệp vân tay số cho video đó – mã nhận dạng kỹ thuật số đại diện duy nhất cho nội dung của tệp video đó.
2. Đánh giá bằng API
Đối tác gửi tệp vân tay số thông qua CSAI Match API để so sánh với các tệp khác trong kho lưu trữ vân tay số của YouTube. Kho lưu trữ này chứa vân tay số của những nội dung xâm hại tình dục đã biết mà YouTube và Google phát hiện được.
3. Đánh giá thủ công
Một kết quả trùng khớp hoặc không trùng khớp sẽ được gửi trả lại cho đối tác sau khi lệnh gọi API hoàn tất. Dựa trên thông tin về việc trùng khớp, đối tác sẽ phân công nhân viên đánh giá video đó để kiểm tra nhằm đảm bảo video đó đúng là CSAI.
4. Hành động
Sau khi đánh giá xong hình ảnh, đối tác có thể xử lý nội dung đó theo luật và quy định của địa phương.
“Giải pháp so khớp dựa trên thuật toán băm của Google đã thay đổi hoàn toàn quy trình làm việc của chúng tôi, giúp mang lại kết quả nhanh chóng và hiệu quả hơn. Nhờ có những đóng góp đáng kể của Google cho Trung tâm quốc gia về trẻ em mất tích và bị bóc lột, các quy trình tự động hoá giúp chúng tôi ít phải dùng nhân viên đánh giá đối với những nội dung xâm hại tình dục trẻ em từng được báo cáo, qua đó hạn chế tối đa việc họ phải tiếp xúc với loại nội dung này. Loại hình ảnh này cần phải được gỡ bỏ càng nhanh càng tốt vì mỗi lần ảnh bị chia sẻ lại là một lần trẻ bị xâm hại. Giải pháp này cũng giúp chúng tôi tập trung vào những người từng là nạn nhân cũng như nạn nhân trẻ em chưa xác định được và mới bị xâm hại.” – Trung tâm Quốc gia về Trẻ em mất tích và Bị bóc lột
“Nền tảng của chúng tôi lưu trữ hàng trăm triệu tài liệu do người dùng tải liên và việc triển khai Content Safety API của Google là sự trợ giúp to lớn. API này quét khối lượng lớn hình ảnh một cách hiệu quả để tìm nội dung có khả năng phản cảm, giúp đảm bảo một môi trường kỹ thuật số an toàn cho người dùng. Công suất và độ chính xác cao của API này giúp chúng tôi tập trung vào việc xem xét, can thiệp và hỗ trợ.” – Scribd, Inc.
“Các công cụ An toàn cho trẻ em của Google giúp chúng tôi kiểm chứng hiệu quả các biện pháp an toàn mà mình đang áp dụng và chúng tôi tiếp tục ghi nhận số lượng nội dung xâm hại tình dục trẻ em ở mức thấp kỷ lục với chỉ một chữ số trên Nextdoor.” – Nextdoor
“Khi Substack tiếp tục mở rộng các khả năng về video, việc đảm bảo an toàn cho cộng đồng của chúng tôi, đặc biệt là bảo vệ trẻ vị thành niên, vẫn là ưu tiên hàng đầu về Niềm tin và An toàn. Việc tận dụng công nghệ tiên tiến phát hiện hình ảnh xâm hại tình dục trẻ em (CSAI) đóng vai trò quan trọng trong việc giải quyết những thách thức thiết yếu về an toàn này. Các công cụ của Google giúp chúng tôi xác định và gỡ bỏ nội dung gây hại một cách nhanh chóng và chính xác, đảm bảo rằng nền tảng của chúng tôi vẫn là không gian an toàn cho cả nhà sáng tạo và khán giả.” – Substack
“CSAI Match vẫn là một trụ cột quan trọng trong chương trình bảo vệ trẻ em của Adobe. Công nghệ này đã được chứng minh là rất hiệu quả và có thể phát hiện chính xác video xâm hại tình dục trẻ em trên quy mô lớn.” – Adobe
“Việc chống lại sự gia tăng của nội dung xâm hại tình dục trẻ em dạng video là một cuộc chiến mới, đầy khó khăn và đòi hỏi công nghệ mới. CSAI Match đã cho thấy mình là một phần làm nên giải pháp cho cuộc chiến này, hỗ trợ chúng tôi phát hiện và gỡ bỏ video có nội dung xâm hại tình dục trẻ em khỏi nền tảng của mình một cách hiệu quả hơn.” – Yahoo!
“Content Safety API hỗ trợ những nhà phân tích phụ trách xác định hình ảnh xâm hại tình dục trẻ vị thành niên bằng cách sắp xếp thứ tự ưu tiên. Vì số lượng báo cáo cần xử lý không ngừng tăng lên, nên thật sự rất khó để sắp xếp thứ tự ưu tiên một cách hiệu quả để đánh giá các báo cáo đó. Công nghệ này giúp các nhà phân tích xem những báo cáo có nội dung chứa hình ảnh xâm hại tình dục trẻ vị thành niên một cách nhanh chóng hơn, nhờ đó họ có thể hành động nhanh hơn để bảo vệ nạn nhân và gỡ bỏ nội dung đó.” – Point de Contact
“Nhờ các ưu điểm như dễ tích hợp, phản hồi nhanh, hoạt động ổn định và chính xác, Content Safety API đã rút ngắn đáng kể lượng thời gian mà các nhà phân tích nội dung phải dành ra để đánh giá hình ảnh xâm hại tình dục trẻ em. API này cũng giúp tối ưu hoá quá trình phân tích và tác động tích cực đến sức khoẻ của họ.” – Safernet Brasil
1
/
Câu hỏi thường gặp
Content Safety API
Dữ liệu được gửi tới Content Safety API có định dạng gì?
Chúng tôi có các lựa chọn để hỗ trợ cả byte nội dung nguyên bản và nội dung nhúng có nguồn gốc từ tệp nội dung nghe nhìn. Vui lòng liên hệ để biết thêm thông tin.
Ai có thể đăng ký sử dụng Content Safety API và công nghệ này?
Các bên thứ ba là những công ty trong ngành và tổ chức xã hội dân sự đang tìm cách bảo vệ nền tảng của họ khỏi nội dung có tính chất xâm hại có thể đăng ký dùng Content Safety API. Đơn đăng ký phải được phê duyệt.
Tại sao Google lại sẵn sàng phổ biến rộng rãi các công cụ này?
Chúng tôi tin rằng cách tốt nhất để đối phó với nội dung bóc lột trẻ em trên mạng là hợp tác với các công ty khác và tổ chức phi chính phủ. Từ lâu, chúng tôi đã làm việc với các công ty trong ngành và tổ chức phi chính phủ để hỗ trợ phát triển các công cụ mới dựa trên dữ liệu, trau dồi năng lực kỹ thuật và nâng cao nhận thức. Chúng tôi tin rằng việc cung cấp rộng rãi các công cụ này để các đối tác có thể dùng AI xem xét nội dung hiệu quả hơn trên quy mô lớn là một giải pháp quan trọng trong cuộc chiến này.
CSAI Match
CSAI Match có dùng được cho hình ảnh không?
CSAI Match được thiết kế dành riêng cho video, nhưng các đối tác trong ngành và tổ chức phi chính phủ có thể tiếp cận một bộ công cụ có sẵn thông qua Content Safety API của Google, giúp phân loại hình ảnh dựa trên công nghệ học máy. Tìm hiểu thêm
Những thông tin nào được cung cấp khi có một kết quả trùng khớp?
Khi tìm thấy kết quả trùng khớp, công nghệ này sẽ cho biết phần nào trong video đó trùng khớp với nội dung CSAI đã xác định được và phân loại nội dung trùng khớp theo danh mục đã được chuẩn hoá.
Điều gì khiến công nghệ CSAI Match đạt hiệu quả cao đến thế?
CSAI Match phát hiện các đoạn video gần như trùng lặp với nội dung CSAI đã xác định được. Việc này bao gồm những trường hợp trùng lặp toàn bộ (mà tính năng so khớp dựa trên thuật toán băm MD5 phát hiện được) và những trường hợp gần trùng lặp (do thủ đoạn mã hoá lại, làm rối, cắt bớt hoặc thay đổi tỷ lệ video có hình ảnh xâm hại tình dục trẻ em), kể cả khi một video chỉ chứa một phần nhỏ nội dung CSAI có thể bị lẫn vào nội dung không phải CSAI. Đối tác sẽ chạy một thuật toán tạo vân tay số bằng mã nhị phân để tạo ra một "vân tay số" cho video, tức là một chuỗi giá trị byte tương tự một giá trị băm MD5. Sau đó, vân tay số đó được gửi tới CSAI Match của Google, dịch vụ chuyên dùng để quét video một cách hiệu quả nhằm so sánh với cơ sở dữ liệu tham chiếu về CSAI đã xác định được của YouTube.
