探索我们的儿童安全工具包
更好地确定优先级
这些 API 对要接受人工审核的儿童性虐待内容确定优先级，帮助打击在线儿童剥削。
更快地识别
能够更快速地识别内容，也就有更大几率识别受害者并保护他们免受更多虐待。
更安全地运营
提高审核队列的效率并减少其中的干扰内容还可以降低人工内容管理员的负担。
了解我们的工具
我们的工具具备互补能力。它们既可以联合使用，也可以与其他解决方案一同使用，满足不同的需求。
Content Safety API
对之前未见过的图片分类
CSAI Match
匹配已知的儿童性虐待视频片段
Content Safety API
用于：对之前未见过的图片分类
Content Safety API 分类器利用编程访问权限和人工智能，帮助我们的合作伙伴对要审核的数十亿图片进行分类和确定优先级。分类器赋予的优先级越高，图片包含虐待资料的可能性越大，这有助于合作伙伴确定人工审核的优先级，并对内容作出自己的决定。Content Safety API 会对收到的内容发出优先级建议。合作伙伴必须实施自己的审核，从而确定他们是否应对内容采取措施。
从操作角度看，我们建议组织在人工审核流程之前使用 Content Safety API，以便对图片进行分类、确定优先级并帮助整理相关队列。Content Safety API 可与其他解决方案一同使用，例如 YouTube 的 CSAI Match 视频哈希处理工具或 Microsoft 的 PhotoDNA，这两款工具可满足不同的需求。
工作方式
1. 图片检索
图片是由合作伙伴通过多种形式检索的，例如被用户举报、被抓取工具识别出，或是被合作伙伴用来在其平台上管理图片的过滤器识别出。
合作伙伴
用户举报的图片
抓取工具
预过滤器
（色情/其他分类器）
2. API 审核
图片文件随后通过简单的 API 调用发送给 Content Safety API。图片会流经分类器以确定审核优先级，然后各张图片的优先级值会发回给合作伙伴。
Content Safety API
分类器技术
3.人工审核
合作伙伴利用优先级值为需要人工审核环节优先注意的图片确定优先级。
合作伙伴
人工审核
4.采取措施
图片经过人工审核后，合作伙伴随后可以根据当地法律法规对相应内容采取措施。
合作伙伴
采取相应措施
CSAI Match
用于：匹配已知的儿童性虐待视频片段
CSAI Match 是 YouTube 用于打击在线儿童性虐待图像 (CSAI) 视频的专有技术。这项技术率先采用哈希匹配技术来识别已知的违规内容，让我们能识别与大量未违规的视频内容夹杂在一起的此类违规内容。如果发现与违规内容匹配的图像，此技术会将其标记出来，以便合作伙伴根据当地法律法规进行审核、确认并以负责任的方式进行举报。YouTube 向业界合作伙伴和非政府组织提供 CSAI Match。我们提供指纹软件和 API 的访问权限，以便他们对照我们的已知儿童性虐待内容数据库识别匹配项。
在线平台可以使用 CSAI Match 将其内容与某个最大型的已知 CSAI 内容索引进行比较，从而阻止违规内容在这些平台的网站上显示和分享。合作伙伴可将 CSAI Match 轻松集成到他们的系统中，从而更好地拓展充满挑战性的内容管理。
工作方式
1. 视频指纹
视频上传到合作伙伴的平台。在合作伙伴平台上运行的 CSAI Match Fingerprinter 为该视频创建一个指纹文件，这是唯一代表该视频文件内容的数字 ID。
合作伙伴
视频文件
Fingerprinter
Fingerprinter 文件
2. API 审核
合作伙伴通过 CSAI Match API 发送指纹文件，以便与 YouTube 指纹库中的其他文件进行比对。此库包含 YouTube 和 Google 检测到的已知儿童性虐待内容的指纹。
YouTube
CSAI Match API
CSAI Match 技术
共享 CSAI
指纹库
3.人工审核
对此 API 的调用完成后，肯定匹配或否定匹配会返回给合作伙伴。根据匹配信息，合作伙伴人工审核视频，以确认视频是否属于儿童性虐待图像 (CSAI)。
合作伙伴
人工审核
4.采取措施
图片审核完成后，合作伙伴可以根据当地法律法规对内容采取措施。
合作伙伴
采取相应措施
Content Safety API
用于：对之前未见过的图片分类
Content Safety API 分类器利用编程访问权限和人工智能，帮助我们的合作伙伴对要审核的数十亿图片进行分类和确定优先级。分类器赋予的优先级越高，图片包含虐待资料的可能性越大，这有助于合作伙伴确定人工审核的优先级，并对内容作出自己的决定。Content Safety API 会对收到的内容发出优先级建议。合作伙伴必须实施自己的审核，从而确定他们是否应对内容采取措施。
从操作角度看，我们建议组织在人工审核流程之前使用 Content Safety API，以便对图片进行分类、确定优先级并帮助整理相关队列。Content Safety API 可与其他解决方案一同使用，例如 YouTube 的 CSAI Match 视频哈希处理工具或 Microsoft 的 PhotoDNA，这两款工具可满足不同的需求。
Content Safety API
用于：对之前未见过的图片分类
工作方式
1. 图片检索
图片是由合作伙伴通过多种形式检索的，例如被用户举报、被抓取工具识别出，或是被合作伙伴用来在其平台上管理图片的过滤器识别出。
合作伙伴
用户举报的图片
抓取工具
预过滤器
（色情/其他分类器）
2. API 审核
图片文件随后通过简单的 API 调用发送给 Content Safety API。图片会流经分类器以确定审核优先级，然后各张图片的优先级值会发回给合作伙伴。
Content Safety API
分类器技术
3.人工审核
合作伙伴利用优先级值为需要人工审核环节优先注意的图片确定优先级。
合作伙伴
人工审核
4.采取措施
图片经过人工审核后，合作伙伴随后可以根据当地法律法规对相应内容采取措施。
合作伙伴
采取相应措施
有兴趣使用我们的工具包？
分享贵组织的详细信息以登记使用意向
查看意向调查表
CSAI Match
用于：匹配已知的儿童性虐待视频片段
CSAI Match 是 YouTube 用于打击在线儿童性虐待图像 (CSAI) 视频的专有技术。这项技术率先采用哈希匹配技术来识别已知的违规内容，让我们能识别与大量未违规的视频内容夹杂在一起的此类违规内容。如果发现与违规内容匹配的图像，此技术会将其标记出来，以便合作伙伴根据当地法律法规进行审核、确认并以负责任的方式进行举报。YouTube 向业界合作伙伴和非政府组织提供 CSAI Match。我们提供指纹软件和 API 的访问权限，以便他们对照我们的已知儿童性虐待内容数据库识别匹配项。
在线平台可以使用 CSAI Match 将其内容与某个最大型的已知 CSAI 内容索引进行比较，从而阻止违规内容在这些平台的网站上显示和分享。合作伙伴可将 CSAI Match 轻松集成到他们的系统中，从而更好地拓展充满挑战性的内容管理。
CSAI Match
用于：匹配已知的儿童性虐待视频片段
工作方式
1. 视频指纹
视频上传到合作伙伴的平台。在合作伙伴平台上运行的 CSAI Match Fingerprinter 为该视频创建一个指纹文件，这是唯一代表该视频文件内容的数字 ID。
合作伙伴
视频文件
Fingerprinter
Fingerprinter 文件
2. API 审核
合作伙伴通过 CSAI Match API 发送指纹文件，以便与 YouTube 指纹库中的其他文件进行比对。此库包含 YouTube 和 Google 检测到的已知儿童性虐待内容的指纹。
YouTube
CSAI Match API
CSAI Match 技术
共享 CSAI
指纹库
3.人工审核
对此 API 的调用完成后，肯定匹配或否定匹配会返回给合作伙伴。根据匹配信息，合作伙伴人工审核视频，以确认视频是否属于儿童性虐待图像 (CSAI)。
合作伙伴
人工审核
4.采取措施
图片审核完成后，合作伙伴可以根据当地法律法规对内容采取措施。
合作伙伴
采取相应措施
有兴趣使用我们的工具包？
分享贵组织的详细信息以登记使用意向
查看意向调查表
有兴趣使用我们的工具包？
分享贵组织的详细信息以登记使用意向
查看意向调查表用户感言
“Google 的哈希匹配解决方案彻底改变了我们的工作流程，让我们能更好、更快地获得结果。在 Google 的大力协助下，美国全国失踪与受虐儿童服务中心推出了自动化审核流程，这减少了对之前举报过的儿童性虐待内容 (CSAM) 的人工审核需求，从而最大限度减少了我们员工接触到此类内容的时间。尽快移除这些图片非常重要，因为儿童的图片每多分享一次，他们就会再受害一次。这也让我们能够将工作重心放在新的和未知的儿童受害者和幸存者身上。”- 美国全国失踪与受虐儿童服务中心
“我们的平台致力于让图像内容普遍可用，我们的职责就是确保所有用户贡献的内容都得到有效管理。Google 的 Content Safety API 及其背后的 AI 让我们可以利用一个高效的方法简化繁琐的流程，从而快速审核、移除和举报任何违规内容，帮助我们尽自己的一份力量，让世界变得更加安全。”- Plugon
“Content Safety API 易于集成、响应迅速、稳定且准确，大幅缩短了内容分析师审核儿童性虐待内容 (CSAM) 图片所花费的时间、优化了分析流程，并对他们的健康带来积极影响。”- Safernet Brasil
“我们几个月前集成了 Content Safety API，这是一款易于使用、可扩展的解决方案。我们非常确定它将成为保护我们社区并阻止分享不当内容的重要解决方案。”- Yubo
“Content Safety API 帮助分析师按优先级处理未成年人性虐待图片的识别工作。鉴于要处理的举报信息数量不断增长，如何成功确定这些要审核的举报信息的优先级是一项重大挑战。这项技术让分析师能更快地看到包含未成年人性虐待内容的举报信息，从而更快地保护受害者并移除相应内容。”- Point de Contact
“CSAI Match 部署起来非常简单，可以帮助我们有效地进一步检测和阻止儿童性虐待内容的分发。”- Adobe
“如何应对日益增长的儿童性虐待内容视频构成一项新挑战，需要新技术。事实证明，CSAI Match 是这种解决方案的组成部分，让我们能更好地从我们平台中检测并移除视频儿童性虐待内容 (CSAM)。”- Yahoo!
常见问题解答
Content Safety API
Content Safety API 是否适用于视频？
Content Safety API 专为图片设计；不过，通过 YouTube 开发的 CSAI Match，各个组织可以使用指纹软件和 API，识别与我们的已知滥用视频内容数据库中的条目匹配的内容。了解详情。
谁可以申请使用相关技术和 Content Safety API？
想要防范其平台上出现滥用内容的业界和民间团体第三方可以申请使用 Content Safety API。申请需要经过审批。
Google 为何要如此广泛地提供这些工具？
我们坚信，解决在线儿童剥削问题的最佳方法是与其他公司和非政府组织携手合作。长期以来，我们一直在与业内其他公司和非政府组织密切合作，以便推动开发以数据为依据的新工具、提升技术能力并增强公众意识。我们认为，广泛地提供这些工具，让我们的合作伙伴能够利用 AI 更有效率地大规模审核内容，是能否打赢这场战役的重要一环。
CSAI Match
CSAI Match 是否适用于图片？
CSAI Match 专为视频设计；不过，通过 Google 开发的 Content Safety API，业界合作伙伴和非政府组织合作伙伴可以使用一系列工具，借助机器学习技术来对图片进行分类。了解详情。
系统找到匹配内容时会返回哪些信息？
此匹配操作会识别视频的哪个部分与已知儿童性虐待图像 (CSAI) 匹配，并会根据标准化分类法将匹配的内容归类。
什么让 CSAI Match 技术如此高效？
CSAI Match 会检测与已知儿童性虐待图像 (CSAI) 内容几乎完全重复的部分。这包括 MD5 哈希匹配技术确定的完全重复的内容以及几乎完全重复的内容，几乎完全重复的内容可能是儿童性虐待图像 (CSAI) 视频的重新编码、模糊、截断或缩放，即使视频只包含一小部分儿童性虐待图像 (CSAI)（可能与非儿童性虐待图像 (CSAI) 内容混合在一起）也一样。合作伙伴运行指纹二进制文件来生成视频的“指纹”，即类似 MD5 哈希的字节序列。随后，系统会将指纹发送给 Google 的 CSAI Match 服务。CSAI Match 是专门设计的工具，可高效地扫描视频，并与 YouTube 的已知儿童性虐待图像 (CSAI) 参考资料库进行比对。