Sắp xếp thứ tự ưu tiên hiệu quả hơn

Sắp xếp thứ tự ưu tiên hiệu quả hơn


Các API này hỗ trợ chống lại nạn bóc lột trẻ em bằng cách sắp xếp thứ tự ưu tiên về nội dung xâm hại tình dục cho người đánh giá.

Xác định nhanh

Xác định nhanh hơn


Việc xác định nội dung một cách nhanh chóng hơn giúp tăng xác suất nhận dạng nạn nhân và bảo vệ không để nạn nhân tiếp tục bị xâm hại.

Vận hành an toàn hơn

Vận hành an toàn hơn


Việc sắp xếp thứ tự đánh giá một cách hiệu quả và chính xác hơn cũng giúp giảm gánh nặng cho người kiểm duyệt nội dung.

Tìm hiểu về các công cụ của chúng tôi

Các công cụ của chúng tôi có các chức năng bổ trợ, có thể sử dụng cùng nhau và kết hợp với các giải pháp khác để đáp ứng nhiều nhu cầu.

API An toàn về nội dung

API An toàn về nội dung

Phân loại hình ảnh chưa phát hiện trước đây

CSAI Match

CSAI Match

So sánh nội dung với các đoạn video xâm hại tình dục đã xác định được

API An toàn về nội dung

Mục đích sử dụng: Phân loại hình ảnh chưa phát hiện trước đây


Thuật toán phân loại của API An toàn về nội dung sử dụng trí tuệ nhân tạo và quyền truy cập có lập trình để giúp các đối tác phân loại và sắp xếp thứ tự ưu tiên cho hàng tỷ bức ảnh để đánh giá. Giá trị ưu tiên do thuật toán phân loại cung cấp càng cao thì bức ảnh càng có khả năng chứa nội dung có tính xâm hại. Việc này có thể giúp các đối tác ưu tiên phân công nhân viên đánh giá và tự đưa ra quyết định đối với nội dung đó. API An toàn về nội dung đưa ra một giá trị đề xuất về mức độ ưu tiên cho nội dung gửi tới API này. Đối tác phải tự tiến hành đánh giá để quyết định xem họ có cần phải xử lý nội dung đó hay không.

Về mặt vận hành, chúng tôi khuyến cáo các tổ chức dùng API An toàn về nội dung ngay trước quy trình xem xét thủ công để phân loại, sắp xếp thứ tự ưu tiên và tổ chức danh sách nội dung cần xử lý. API An toàn về nội dung có thể dùng song song với các giải pháp khác như công cụ băm video CSAI Match của YouTube, công nghệ PhotoDNA của Microsoft – mỗi công nghệ đáp ứng những nhu cầu riêng.

Cách hoạt động

Lấy hình ảnh

1. Lấy hình ảnh

Đối tác lấy hình ảnh thông qua nhiều hình thức, chẳng hạn như do người dùng báo cáo, hoặc do trình thu thập thông tin hoặc những bộ lọc mà đối tác đã tạo ra để kiểm duyệt hình ảnh trên nền tảng của mình xác định.

Đối tác

Hình ảnh do người dùng báo cáo

Trình thu thập thông tin

Các bộ lọc trước

(thuật toán phân loại nội dung khiêu dâm/nội dung khác)

Đánh giá bằng API

2. Đánh giá bằng API

Sau đó, các tệp hình ảnh đó được gửi tới API An toàn về nội dung thông qua một lệnh gọi API đơn giản. Các tệp đó sẽ đi qua những thuật toán phân loại giúp xác định thứ tự ưu tiên để đánh giá, sau đó giá trị ưu tiên của mỗi bức ảnh sẽ được gửi trở lại cho đối tác.

Google

API An toàn về nội dung

Công nghệ phân loại

Đánh giá thủ công

3. Đánh giá thủ công

Đối tác dùng giá trị này để ưu tiên những bức ảnh trước tiên cần chuyển cho nhân viên đánh giá.

Đối tác

Đánh giá thủ công

Xử lý

4. Xử lý

Sau khi nhân viên đánh giá xong các bức ảnh, đối tác có thể xử lý nội dung đó theo luật và quy định của địa phương.

Đối tác

Xử lý theo quy định

CSAI Match

Mục đích sử dụng: So sánh nội dung với các đoạn video xâm hại tình dục đã xác định được


CSAI Match là công nghệ độc quyền của YouTube để chống lại video CSAI (hình ảnh xâm hại tình dục trẻ em) trên mạng. Đây là công nghệ đầu tiên sử dụng tính năng so khớp dựa trên thuật toán băm để nhận dạng nội dung vi phạm đã xác định được từ trước và cho phép chúng tôi nhận dạng loại nội dung vi phạm này trong một lượng lớn nội dung video không vi phạm. Khi hệ thống phát hiện một trường hợp trùng khớp nội dung vi phạm, thì các đối tác sẽ nhận được thông báo về nội dung đó để đánh giá, xác nhận và báo cáo một cách có trách nhiệm theo luật và quy định của địa phương. YouTube cung cấp CSAI Match cho các đối tác trong ngành và các tổ chức phi chính phủ. Chúng tôi cấp quyền sử dụng phần mềm tạo vân tay số và một API giúp xác định nội dung trùng khớp khi so sánh với cơ sở dữ liệu chứa nội dung xâm hại tình dục đã xác định được.

Các nền tảng trên mạng có thể ngăn chặn không để nội dung vi phạm xuất hiện và được chia sẻ trên các trang web của họ bằng cách dùng CSAI Match để so sánh nội dung của họ với một trong những danh mục lớn nhất về nội dung hình ảnh xâm hại tình dục trẻ em đã xác định được. Các đối tác có thể tích hợp CSAI Match một cách dễ dàng vào hệ thống của mình, nhờ đó có thể mở rộng quy mô một cách hiệu quả hơn cho quy trình quản lý nội dung phức tạp.

Cách hoạt động

Tạo vân tay số cho video

1. Tạo vân tay số cho video

Một video được tải lên nền tảng của đối tác. Trình tạo vân tay số của CSAI Match chạy trên nền tảng của đối tác sẽ tạo một tệp vân tay số cho video đó – mã nhận dạng kỹ thuật số đại diện duy nhất cho nội dung của tệp video đó.

Đối tác

Tệp video

Trình tạo vân tay số

Tệp vân tay số

Đánh giá bằng API

2. Đánh giá bằng API

Đối tác gửi tệp vân tay số thông qua CSAI Match API để so sánh với các tệp khác trong kho lưu trữ vân tay số của YouTube. Kho lưu trữ này chứa vân tay số của những nội dung xâm hại tình dục đã biết mà YouTube và Google phát hiện được.

YouTube

CSAI Match API

Công nghệ CSAI Match

Kho lưu trữ CSAI chung

Kho lưu trữ vân tay số

Đánh giá thủ công

3. Đánh giá thủ công

Một kết quả trùng khớp hoặc không trùng khớp sẽ được gửi trả lại cho đối tác sau khi lệnh gọi API hoàn tất. Dựa trên thông tin về việc trùng khớp, đối tác sẽ phân công người đánh giá video đó để kiểm tra nhằm đảm bảo video đó đúng là nội dung CSAI.

Đối tác

Đánh giá thủ công

Xử lý

4. Xử lý

Sau khi xem xét xong hình ảnh, đối tác có thể xử lý nội dung đó theo luật và quy định của địa phương.

Đối tác

Xử lý theo quy định

API An toàn về nội dung

Mục đích sử dụng: Phân loại hình ảnh chưa phát hiện trước đây

Thuật toán phân loại của API An toàn về nội dung sử dụng trí tuệ nhân tạo và quyền truy cập có lập trình để giúp các đối tác phân loại và sắp xếp thứ tự ưu tiên cho hàng tỷ bức ảnh để đánh giá. Giá trị ưu tiên do thuật toán phân loại cung cấp càng cao thì bức ảnh càng có khả năng chứa nội dung có tính xâm hại. Việc này có thể giúp các đối tác ưu tiên phân công nhân viên đánh giá và tự đưa ra quyết định đối với nội dung đó. API An toàn về nội dung đưa ra một giá trị đề xuất về mức độ ưu tiên cho nội dung gửi tới API này. Đối tác phải tự tiến hành đánh giá để quyết định xem họ có cần phải xử lý nội dung đó hay không.

Về mặt vận hành, chúng tôi khuyến cáo các tổ chức dùng API An toàn về nội dung ngay trước quy trình xem xét thủ công để phân loại, sắp xếp thứ tự ưu tiên và tổ chức danh sách nội dung cần xử lý. API An toàn về nội dung có thể dùng song song với các giải pháp khác như công cụ băm video CSAI Match của YouTube, công nghệ PhotoDNA của Microsoft – mỗi công nghệ đáp ứng những nhu cầu riêng.

CSAI Match

Mục đích sử dụng: So sánh nội dung với các đoạn video xâm hại tình dục đã xác định được

CSAI Match là công nghệ độc quyền của YouTube để chống lại video CSAI (hình ảnh xâm hại tình dục trẻ em) trên mạng. Đây là công nghệ đầu tiên sử dụng tính năng so khớp dựa trên thuật toán băm để nhận dạng nội dung vi phạm đã xác định được từ trước và cho phép chúng tôi nhận dạng loại nội dung vi phạm này trong một lượng lớn nội dung video không vi phạm. Khi hệ thống phát hiện một trường hợp trùng khớp nội dung vi phạm, thì các đối tác sẽ nhận được thông báo về nội dung đó để đánh giá, xác nhận và báo cáo một cách có trách nhiệm theo luật và quy định của địa phương. YouTube cung cấp CSAI Match cho các đối tác trong ngành và các tổ chức phi chính phủ. Chúng tôi cấp quyền sử dụng phần mềm tạo vân tay số và một API giúp xác định nội dung trùng khớp khi so sánh với cơ sở dữ liệu chứa nội dung xâm hại tình dục đã xác định được.

Các nền tảng trên mạng có thể ngăn chặn không để nội dung vi phạm xuất hiện và được chia sẻ trên các trang web của họ bằng cách dùng CSAI Match để so sánh nội dung của họ với một trong những danh mục lớn nhất về nội dung hình ảnh xâm hại tình dục trẻ em đã xác định được. Các đối tác có thể tích hợp CSAI Match một cách dễ dàng vào hệ thống của mình, nhờ đó có thể mở rộng quy mô một cách hiệu quả hơn cho quy trình quản lý nội dung phức tạp.

Biểu mẫu bày tỏ sự quan tâm về bộ công cụ bảo vệ trẻ em

Bạn quan tâm muốn sử dụng bộ công cụ của chúng tôi?

Hãy chia sẻ một số thông tin về tổ chức của bạn để đăng ký

Xem biểu mẫu bày tỏ sự quan tâm

Lời chứng thực

Câu hỏi thường gặp

API An toàn về nội dung

API An toàn về nội dung có dùng được cho video không?

API An toàn về nội dung được thiết kế để phát hiện hình ảnh, nhưng thông qua công nghệ CSAI Match của YouTube, các tổ chức có thể sử dụng phần mềm tạo vân tay số và một API để xác định những trường hợp trùng khớp với cơ sở dữ liệu gồm những nội dung video có tính chất xâm hại mà chúng tôi đã xác định được. Tìm hiểu thêm.

Ai có thể đăng ký sử dụng API An toàn về nội dung và công nghệ này?

Các bên thứ ba là những công ty trong ngành và tổ chức xã hội dân sự đang tìm cách bảo vệ nền tảng của họ khỏi nội dung có tính chất xâm hại có thể đăng ký dùng API An toàn về nội dung. Đơn đăng ký sẽ cần phải được phê duyệt.

Tại sao Google lại sẵn sàng phổ biến rộng rãi các công cụ này?

Chúng tôi tin rằng cách tốt nhất để đối phó với nội dung xâm hại tình dục trẻ em là hợp tác với các công ty khác và tổ chức phi chính phủ. Từ lâu, chúng tôi đã làm việc với các công ty trong ngành và với tổ chức phi chính phủ để hỗ trợ phát triển các công cụ mới dựa trên dữ liệu, trau dồi năng lực kỹ thuật và nâng cao nhận thức. Chúng tôi tin rằng việc cung cấp rộng rãi các công cụ này, để các đối tác có thể dùng trí tuệ nhân tạo nhằm đánh giá nội dung hiệu quả hơn trên quy mô lớn, là một giải pháp quan trọng trong cuộc chiến này.

CSAI Match

CSAI Match có dùng được cho hình ảnh không?

CSAI Match được thiết kế dành riêng cho video, nhưng các đối tác trong ngành và tổ chức phi chính phủ có thể tiếp cận một bộ công cụ có sẵn thông qua API An toàn về nội dung của Google, giúp phân loại hình ảnh dựa trên công nghệ máy học. Tìm hiểu thêm.

Những thông tin nào sẽ được cung cấp khi có một kết quả trùng khớp?

Khi tìm thấy kết quả trùng khớp, công nghệ này sẽ cho biết phần nào trong video đó trùng khớp với dữ liệu hình ảnh xâm hại tình dục trẻ em đã biết và phân loại nội dung trùng khớp theo danh mục đã được chuẩn hoá.

Điều gì khiến công nghệ CSAI Match đạt hiệu quả cao đến thế?

CSAI Match phát hiện các đoạn video gần như trùng lặp với nội dung hình ảnh xâm hại tình dục trẻ em đã xác định được. Việc này bao gồm những trường hợp trùng lặp toàn bộ (mà tính năng so khớp dựa trên thuật toán băm MD5 phát hiện được) và những trường hợp gần trùng lặp (do thủ đoạn mã hoá lại, làm rối, cắt bớt hoặc thay đổi tỷ lệ video có hình ảnh xâm hại tình dục trẻ em), kể cả khi một video chỉ chứa một phần nhỏ nội dung hình ảnh xâm hại tình dục trẻ em có thể bị lẫn vào nội dung không phải hình ảnh xâm hại tình dục trẻ em. Đối tác sẽ chạy một thuật toán tạo vân tay số bằng mã nhị phân để tạo ra một "vân tay số" cho video, tức là một chuỗi giá trị byte tương tự một giá trị băm MD5. Sau đó, vân tay số đó sẽ được gửi tới dịch vụ CSAI Match của Google chuyên dùng để quét video một cách hiệu quả để so sánh với cơ sở dữ liệu tham chiếu về nội dung hình ảnh xâm hại tình dục trẻ em đã xác định được của YouTube.