探索我们的儿童安全工具包
更好地确定优先级
这些 API 对要接受人工审核的儿童性虐待内容确定优先级，帮助打击在线儿童剥削。
更快地识别
能够更快速地识别内容，也就有更大几率识别受害者并保护他们免受更多虐待。
更安全地运营
提高审核队列的效率并减少其中的干扰内容还可以降低人工内容管理员的负担。
了解我们的工具
我们的工具在功能上相辅相成。它们既可以结合使用，也可以与其他解决方案一同使用，满足不同的需求。
Content Safety API
对之前未见过的图片和视频分类
CSAI Match
匹配已知的儿童性虐待视频片段
Content Safety API
用于：对之前未见过的图片和视频分类
Content Safety API 分类器利用程序化访问机制和人工智能，帮助我们的合作伙伴对要审核的数十亿图片和视频进行分类和确定优先级。分类器赋予的优先级越高，媒体文件包含虐待资料的可能性越大，这有助于合作伙伴确定人工审核的优先级，并对内容作出自己的决定。Content Safety API 会对收到的内容发出优先级建议。合作伙伴必须自行进行审核，从而确定他们是否应对内容采取措施。
从操作角度看，我们建议组织在人工审核流程之前使用 Content Safety API，以便对内容进行分类、确定优先级并帮助整理相关队列。Content Safety API 可与其他解决方案一同使用，例如 YouTube 的 CSAI Match 视频哈希处理工具或 Microsoft 的 PhotoDNA，这两款工具可满足不同的需求。
工作方式
1. 文件检索
文件是由合作伙伴通过多种形式检索的，例如被用户举报、被抓取工具识别出，或是被合作伙伴用来在其平台上管理内容的过滤器识别出。
合作伙伴
用户举报的图片或视频
抓取工具
预过滤器
（色情/其他分类器）
2. API 审核
媒体文件随后通过简单的 API 调用发送给 Content Safety API。这些文件会流经分类器以确定审核优先级，然后各个文件的优先级数值会发回给合作伙伴。
Content Safety API
分类器技术
3. 人工审核
合作伙伴利用优先级数值，为需要人工审核环节优先注意的文件确定优先级。
合作伙伴
人工审核
4. 采取措施
图片和视频文件经过人工审核后，合作伙伴随后可以根据当地法律法规对相应内容采取措施。
合作伙伴
采取相应措施
CSAI Match
用于：匹配已知的儿童性虐待视频片段
CSAI Match 是 YouTube 用于打击在线儿童性虐待图像 (CSAI) 视频的专有技术。这项技术率先采用哈希匹配技术来识别已知的违规内容，让我们能识别与大量未违规的视频内容夹杂在一起的此类违规内容。如果发现与违规内容匹配的图像，此技术会将其标记出来，以便合作伙伴根据当地法律法规进行审核、确认并以负责任的方式进行举报。YouTube 向业界合作伙伴和非政府组织提供 CSAI Match。我们提供指纹软件和 API 的访问权限，以便他们对照我们的已知儿童性虐待内容数据库识别匹配项。
在线平台可以使用 CSAI Match 将其内容与某个最大型的已知 CSAI 内容索引进行比较，从而阻止违规内容在其网站上显示和分享。合作伙伴可将 CSAI Match 轻松集成到他们的系统中，从而更好地大规模开展充满挑战性的内容管理工作。
工作方式
1. 视频指纹生成
视频上传到合作伙伴的平台。在合作伙伴平台上运行的 CSAI Match Fingerprinter 为该视频创建一个指纹文件，这是该视频内容唯一对应的数字 ID。
合作伙伴
视频文件
Fingerprinter
Fingerprinter 文件
2. API 审核
合作伙伴通过 CSAI Match API 发送指纹文件，以便与 YouTube 指纹库中的其他文件进行比对。此库包含 YouTube 和 Google 检测到的已知儿童性虐待内容的指纹。
YouTube
CSAI Match API
CSAI Match 技术
共享 CSAI
指纹库
3. 人工审核
对此 API 的调用完成后，合作伙伴会收到肯定或否定的匹配结果。根据匹配信息，合作伙伴人工审核视频，以确认视频是否属于 CSAI。
合作伙伴
人工审核
4. 采取措施
审核完成后，合作伙伴可以根据当地法律法规对内容采取措施。
合作伙伴
采取相应措施
Content Safety API
用于：对之前未见过的图片和视频分类
Content Safety API 分类器利用程序化访问机制和人工智能，帮助我们的合作伙伴对要审核的数十亿图片和视频进行分类和确定优先级。分类器赋予的优先级越高，媒体文件包含虐待资料的可能性越大，这有助于合作伙伴确定人工审核的优先级，并对内容作出自己的决定。Content Safety API 会对收到的内容发出优先级建议。合作伙伴必须自行进行审核，从而确定他们是否应对内容采取措施。
从操作角度看，我们建议组织在人工审核流程之前使用 Content Safety API，以便对内容进行分类、确定优先级并帮助整理相关队列。Content Safety API 可与其他解决方案一同使用，例如 YouTube 的 CSAI Match 视频哈希处理工具或 Microsoft 的 PhotoDNA，这两款工具可满足不同的需求。
Content Safety API
用于：对之前未见过的图片和视频分类
工作方式
1. 文件检索
文件是由合作伙伴通过多种形式检索的，例如被用户举报、被抓取工具识别出，或是被合作伙伴用来在其平台上管理内容的过滤器识别出。
合作伙伴
用户举报的图片或视频
抓取工具
预过滤器
（色情/其他分类器）
2. API 审核
媒体文件随后通过简单的 API 调用发送给 Content Safety API。这些文件会流经分类器以确定审核优先级，然后各个文件的优先级数值会发回给合作伙伴。
Content Safety API
分类器技术
3. 人工审核
合作伙伴利用优先级数值，为需要人工审核环节优先注意的文件确定优先级。
合作伙伴
人工审核
4. 采取措施
图片和视频文件经过人工审核后，合作伙伴随后可以根据当地法律法规对相应内容采取措施。
合作伙伴
采取相应措施
有兴趣使用我们的工具包？
分享贵组织的详细信息以登记使用意向
查看意向调查表
CSAI Match
用于：匹配已知的儿童性虐待视频片段
CSAI Match 是 YouTube 用于打击在线儿童性虐待图像 (CSAI) 视频的专有技术。这项技术率先采用哈希匹配技术来识别已知的违规内容，让我们能识别与大量未违规的视频内容夹杂在一起的此类违规内容。如果发现与违规内容匹配的图像，此技术会将其标记出来，以便合作伙伴根据当地法律法规进行审核、确认并以负责任的方式进行举报。YouTube 向业界合作伙伴和非政府组织提供 CSAI Match。我们提供指纹软件和 API 的访问权限，以便他们对照我们的已知儿童性虐待内容数据库识别匹配项。
在线平台可以使用 CSAI Match 将其内容与某个最大型的已知 CSAI 内容索引进行比较，从而阻止违规内容在其网站上显示和分享。合作伙伴可将 CSAI Match 轻松集成到他们的系统中，从而更好地大规模开展充满挑战性的内容管理工作。
CSAI Match
用于：匹配已知的儿童性虐待视频片段
工作方式
1. 视频指纹生成
视频上传到合作伙伴的平台。在合作伙伴平台上运行的 CSAI Match Fingerprinter 为该视频创建一个指纹文件，这是该视频内容唯一对应的数字 ID。
合作伙伴
视频文件
Fingerprinter
Fingerprinter 文件
2. API 审核
合作伙伴通过 CSAI Match API 发送指纹文件，以便与 YouTube 指纹库中的其他文件进行比对。此库包含 YouTube 和 Google 检测到的已知儿童性虐待内容的指纹。
YouTube
CSAI Match API
CSAI Match 技术
共享 CSAI
指纹库
3. 人工审核
对此 API 的调用完成后，合作伙伴会收到肯定或否定的匹配结果。根据匹配信息，合作伙伴人工审核视频，以确认视频是否属于 CSAI。
合作伙伴
人工审核
4. 采取措施
审核完成后，合作伙伴可以根据当地法律法规对内容采取措施。
合作伙伴
采取相应措施
有兴趣使用我们的工具包？
分享贵组织的详细信息以登记使用意向
查看意向调查表
有兴趣使用我们的工具包？
分享贵组织的详细信息以登记使用意向
查看意向调查表用户感言
“Google 的哈希匹配解决方案彻底改变了我们的工作流程，让我们能更好、更快地获得结果。在 Google 的大力协助下，美国全国失踪与受虐儿童援助中心推出了自动化审核流程，这减少了对之前举报过的儿童性虐待内容 (CSAM) 的人工审核需求，从而最大限度减少了我们员工接触到此类内容的时间。尽快移除这些图片非常重要，因为儿童的图片每多分享一次，他们就会再多经受一次伤害。这也让我们能够将工作重心放在新的和未知的儿童受害者和幸存者身上。”- 美国全国失踪与受虐儿童援助中心
“实施 Google 的 Content Safety API 对我们的平台来说是技术上的一次巨大进步，毕竟我们的平台承载了用户上传的数亿文档。该 API 可有效扫描大量图片，找出可能令人反感的内容，以便确保为用户提供安全的数字环境。它具有吞吐量高、准确性出众的优势，使我们能够专注于满足审核、干预和支持方面的需求。”- Scribd, Inc.
“借助 Google 的儿童安全工具，我们可以验证自己采取的安全措施是否行之有效，我们注意到 Nextdoor 中关于儿童性虐待内容的事件数屡创历史新低，保持在个位数。”- Nextdoor
“随着 Substack 不断扩展其视频功能，确保我们社区的安全，尤其是保护未成年人的权益，仍然是信任与安全方面的首要任务。先进的儿童性虐待图像 (CSAI) 检测技术在应对这些重大安全挑战时发挥了重要作用。借助 Google 的众多工具，我们能够迅速、准确地识别和移除有害内容，确保我们的平台对创作者和受众群体而言同样安全。”- Substack
“CSAI Match 仍然是 Adobe 儿童安全计划的重要支柱。事实证明，这项技术非常有利于我们更有效地大规模检测儿童性虐待视频。”- Adobe
“日益泛滥的儿童性虐待内容 (CSAM) 视频已经成为新的挑战，需要采用新技术来应对。事实证明，CSAI Match 是整个解决方案的重要一环，让我们能更好地从我们平台中检测并移除 CSAM 视频。”- Yahoo!
“Content Safety API 可帮助分析师按优先级处理未成年人性虐待图片的识别工作。鉴于要处理的举报信息数量不断增长，如何正确确定这些待审核举报信息的优先级是一项重大挑战。这项技术让分析师能更快地看到包含未成年人性虐待内容的举报信息，从而更快地保护受害者并移除相应内容。”- Point de Contact
“Content Safety API 易于集成、响应迅速、稳定且准确，大幅缩短了内容分析师审核 CSAM 图片所花费的时间、优化了分析流程，并对他们的健康带来了积极影响。”- Safernet Brasil
常见问题解答
Content Safety API
发送到 Content Safety API 的数据是什么格式？
我们提供多种选项，可支持原始内容字节和媒体文件衍生的嵌入数据两种格式。如需了解更多详情，欢迎联系我们。
谁可以申请使用相关技术和 Content Safety API？
想要防范平台上出现儿童性虐待内容的业界和民间团体第三方可以申请使用 Content Safety API。申请需要经过审批。
Google 为何要如此广泛地提供这些工具？
我们坚信，解决在线儿童剥削问题的最佳方法是与其他公司和非政府组织携手合作。长期以来，我们一直在与业内其他公司和非政府组织密切合作，以便推动开发以数据为依据的新工具、提升技术能力并增强公众意识。我们认为，广泛地提供这些工具，让我们的合作伙伴能够利用 AI 更有效率地大规模审核内容，是能否打赢这场战役的重要一环。
CSAI Match
CSAI Match 是否适用于图片？
CSAI Match 专为视频设计；不过，通过 Google 开发的 Content Safety API，业界合作伙伴和非政府组织合作伙伴可以使用一系列工具，借助机器学习技术来对图片进行分类。了解详情。
系统找到匹配内容时会返回哪些信息？
匹配结果会注明视频的哪个部分与已知儿童性虐待图像 (CSAI) 匹配，以及根据标准化分类法对所匹配内容的归类。
什么让 CSAI Match 技术如此高效？
CSAI Match 会检测与已知 CSAI 内容几乎完全相同的部分。这包括 MD5 哈希匹配技术确定的完全相同的内容以及几乎完全相同的内容。几乎完全相同的内容可能是经过重新编码、模糊处理、截断或缩放的 CSAI 视频，即使视频只包含一小部分 CSAI（可能与非 CSAI 内容混合在一起）也一样。合作伙伴运行指纹软件来生成视频的“指纹”，即类似 MD5 哈希的字节序列，并随后将指纹发送给 Google 的 CSAI Match 服务。CSAI Match 是专门设计的工具，可高效地扫描视频，并与 YouTube 的已知 CSAI 参考资料库进行比对。