Jump to Content

打击​在​线儿童性​虐待内容

Google 致力于​打击​在​线儿童性​虐待​和​性剥削​内容，​并​防止​不轨​之​徒​利用​我们​的​服务​散播​儿童性​虐待​内容 (CSAM)。

我们​在​打击​在​线儿童性​虐待​和​性剥削​内容​方面​投入​巨大，​并​利用​我们​的​专有​技术​在​自己​的​平台​中​遏制、​检测、​移除​和​举报​违规​内容。

我们​在​各​种​项目​中​与​非​政府​组织​和​业界​合作​来​分享​我们​的​技术​专业​知识，​并​开发​和​分享​工​具​来​帮助​组织​打击​儿童性​虐待​内容 (CSAM)。

详细​了解​我们​的儿童​安全​工​具​包。

在我们​自己​的平台​和​服务​中打击虐待​内容

从​成立​伊始，​Google 就​一直​致力于​在​旗下​的​服务​中​打击​儿童性​虐待​和​性剥削​内容。​我们​投入​了​大量​技术、​人力​和​时间​资源​来​阻止、​检测、​移除​和​举报​儿童性​剥削​内容​和​行为。

我们​采取​了​哪些​行动？

我们​是​怎么​做​的？

我们​利用​各​种​技术​并​投入​大量​人力​资源，​处理​儿童性​虐待、​儿童​诱骗、​性勒索​等​内容。​您​可以​阅读我们​的​做法的​简要​说明，​或​在下文​中​深入​了解​我们​的​部分​产品​如何​处理​此​类​内容。

  • YouTube 为​打击​剥削性质​的​视频​和​材料​所​做​的​工作

    我们​一直​有​明确​的​政策，​禁止 YouTube 上​的​视频、​播放列表、​缩略图​和​评论​涉及​儿童性​虐待​或​剥削​内容。​我们​使用​机器​学习​系统​主动​检测​违反​这些​政策​的​行为，​并​在​世界​各​地​的​人​工审​核员​的​帮助​下​快速​移除​我们​系统​检测到​的​违规​内容，​或​由​用户​和​可信赖​的​举报者​所​标记​的​违规​内容。

    虽然​一些​涉及​未​成​年​人​的​内容​可能​未​违反​我们​的​政策，​但​我们​认识​到，​未​成​年​人​可能​面​临线上​或线下​剥削​风险。​鉴于​此，​我们​在​执行​这些​政策​时​采取​特别​谨慎​的​做法。​我们​的​机器​学习​系统会​主动​识别​可能​让​未​成年​人​陷入​危险​的​视频，​并​大​规模​应用​我们​的​保护​措施，​例如​限制​直​播​功能、​停用​评论​和​限制​视频​推荐。

    相关​链接

  • 我们​的 C​SAM 透明度​报告

    2021 年，​我们​发布​了​关于 Google 打击​在​线儿童性​虐待​内容​相关​工作​的​透明度​报告，​详细​介绍​了​我们​向 NCMEC 提交​了​多少​举报​信息。​此​报告​还​提供​了​以下​方面​的​数据：​我们​在 YouTube 平台上​所​做​的​工作、​我们​如何​从 Google 搜索​的​结果​中检测​并​移除 CSAM 内容，​以及​我们​在​各​种​服务​中​停用​了​多​少​违​反 CSAM 政策​的​账号。

    此​透明度​报告​还​包含​我们​与 N​CMEC 分享​的 C​SAM 哈希​数量​的​信息。​这些​哈希数​据​有助于​其他​平台​大​规模识别儿童性​虐待​内容 (CSAM)。​向 NCMEC 哈希数​据​库贡献​哈希数据​是​我们​与业界​其他​相关​方​帮助​打击 CSAM 的​重要​途径​之一，​因为​这​有​助于​减少​这​类​资料​的​再循​环，​并​避免​遭到性​虐待​的​儿童​再次​受到​迫害。

    相关​链接

  • 举报​我们​产品​中​的​不​当​行​为

    我们​希望​保护​使用​我们​产品​的​儿童，​避免​遭受​诱骗、​性勒索、​拐卖​和​其他​形式​的​儿童性​剥削。​我们​致力​于​向​儿童​提供​可​安全​使用​的​产品，​包括​提供​有​用​信息，​帮助​用​户​向​有关​当局​举报儿童性​虐待​内容。

    如果​用户​怀疑​在 G​mail 或 Hangouts 等 Google 产品​中​有​儿童​遭遇​危险，​用户​可以​直接​使用​此​表单​进行​举报。​用户​还​可以​在 YouTube 上​举报​不​当​内容，​以及​通过​帮助​中心​或​直接​在​产品​中​举报 Google Meet 中​的​滥用​行为。​我们​还​提供​了​一些​信息来​指导人们​如何​处理​欺凌​和​骚扰​方面​的​忧虑，​包括​如何​阻止​用​户​联系​儿童​的​指导​信息。​如需​详细​了解​我们​的​儿童​安全​政策，​请​参阅 YouTube 的​《社区​准则》​和 Google 安全​中心。

    相关​链接

开发和分享可​协助​打击​儿童性​虐待​内容​的​工具

我们​利用​我们​的​技术​专业​知识​和​创新​举措​保护​儿童，​并​尽力​推行​这样​的​做法。​我们​向​符合​条件​的​组织​免费​提供​先进​技术，​帮助​他们​更好、​更快、​更​安全​地​处理​事务，​并​鼓励​有​兴趣​的​组织​申请​使用​我们​的​儿童​安全​工具。

  • Content Safety API

    用于之前​未​见过​的​图片​和​视频​内容

    多​年​来，​Google 一直​致力于​开发​机器​学习​分类器，​以便​我们​能够​主动​识别从​未​见​过​的 C​SAM 图像，​然后​对​其​进行​审核，​并​在​确认​图​像​属于 CSAM 后​尽快​举报​并​将​其​移除。​这​项​技术​为 Content Safety API 提供​支持，​可​帮助​相关​组织​对​要​审核​的​潜在​儿童性​虐待​内容​进行​分类​并确定​优先​级。​我们​的​合作​伙伴​每​个​月​会​利用 Content Safety API 对​数十亿​文件​进行​分类，​从​而​更快、​更​准确​地​识​别存在​问题​的​内容，​以​便​向​相关​机构​举报。

    使用​组织
    FacebookSnap​chatSafernet

  • CSAI Match

    用于​进行视频​哈希匹配

    2014 年，​Yo​uTube 工程师​开发​并​采用​了​一​项​技术，​在​我们​的​服务​中​标记​并​移除​已知​的​儿童性​虐待​内容 (CSAM) 视频。​我们​通过 C​SAI Match AP​I 与​其他​组织​分享​了​这​项​技术，​此 A​PI 有助于​识别重新​上传​的​文件​是否​包含​之前​在​视频​中识别​的​儿童性​虐待​内容。​如今，​许多​非​政府​组织​和​公司​都​利用 C​SAI Mat​ch，​对照​我们​的​已​知​儿童性​虐待​内容数​据​库​来识别匹配​内容，​然后​按照​当地​法律​法规以​负责任​的​方式​采取​措施。

    使用​组织
    RedditYahooAdobe

联盟​与​计划

我们​积极​参与​多​个​联盟，​包括 Technology Coalition、​IC​T Coalition、​We​Protect Global Alliance、​IN​HOP​E 和 Fair Play Allian​ce。​这些​联盟​让​众多​公司​和​非​政府​组织​团结​在​一起，​共同​开发​相关​解决​方案​来​遏制​在​线儿童性​虐待​内容 (CSAM) 散​播​行为，​并​保护​儿童免​遭性​剥削。
我们​携手​为​儿童​安全​研究​提供​资助，​并​分享​相关​工具​和​知识，​例如​我们​对透明度​报告​的​数据​分析、​产品​内​检测​功能​和​运作​流程。
合作​伙伴：

  • 通过 Google.org 提供​广告助​公益

    Google.org 向 INHOP​E 和 E​CPAT Inte​rnat​ional 等​致力于​打击​儿童性​虐待​和​性剥削​的​组织​提供​公益​金。​此外，​自 2003 年​以来，​Google.org 已​向​设有​儿童性​虐待​举报​热线​的​非​政府​组织​和​慈善​机构​提供​了​约 9000 万​美元​的​免费​广告​预算，​帮助​他们​为​最​需要​支持​的​受害者​提供​帮助。

    相关​链接

  • Google Fellow 计划

    我们​为 N​CME​C 和 T​horn 等​致力于​打击​儿童性​虐待​的​组织​提供​技术​研​发​资助。​此外，​Google 还​通过​各​种​论坛​为​相关​执法​官员​提供​培训，​以便​他们​调查​针对​儿童​的​在线犯​罪​行为，​例如​反侵害​儿童犯罪​全​国​大会 (​Crimes Against Children Conference​) 以及​反儿童​剥削​国家​执法​培训 (National Law Enforcement Trainin​g on C​hild Exploitation)。

    相关​链接