Боротьба із сексуальним насильством над дітьми в Інтернеті

Google серйозно ставиться до боротьби з матеріалами із зображенням сексуального насильства над дітьми в Інтернеті й забороняє використовувати наші платформи для поширення такого контенту.

Ми вкладаємо значні кошти в боротьбу з експлуатацією дітей в Інтернеті. Завдяки власній технології ми запобігаємо порушенням, а також виявляємо та видаляємо їх на наших платформах.

Ми також спрямовуємо наші технічні знання на розробку та безкоштовне поширення технологій, що допоможуть організаціям виявляти й видаляти матеріали із зображенням сексуального насильства над дітьми. Ми співпрацюємо з неурядовими, галузевими й іншими організаціями та пропонуємо програми, у рамках яких ділимося з ними своїм технічним досвідом.

Інструменти для боротьби з матеріалами із зображенням сексуального насильства над дітьми

Партнерство та програми

Програма Googler in Residence

Завдяки програмі Googler in Residence, яку запустили у 2014 році, інженери Google відвідують експертні організації з питань захисту дітей, як-от Фонд спостереження за Інтернетом у Великій Британії (IWF) і Національний центр для дітей, що зникли або постраждали від експлуатації (NCMEC) у США, щоб допомогти цим організаціям покращити свої технічні можливості. Ми також фінансуємо програми для технічних працівників організацій, що спеціалізуються на боротьбі із сексуальним насильством над дітьми, як-от NCMEC та Thorn. Крім того, Google проводить навчання для правоохоронців, які розслідують злочини проти дітей в Інтернеті, використовуючи для цього такі форуми, як щорічна національна конференція в Далласі щодо злочинів проти дітей, і групу спеціалістів ІнтерполуЗлочини проти дітей.

Рекламні гранти

Щоб жертвам було легше отримати допомогу, а інші люди могли повідомити про загрозу безпеці дітей, ми щороку пропонуємо неурядовим та благодійним організаціям, що мають гарячі лінії для жертв і повідомлення про сексуальне насильство над дітьми, 120 000 доларів США на безкоштовну рекламу в рамках нашої програми Google Рекламні гранти. Ця програма пропонує підтримку й навчання, допомагаючи неприбутковим організаціям якомога ефективніше зв'язуватися з людьми та дозволячи їм безкоштовно розміщувати оголошення про свої послуги в Пошуку Google.

Оголошення із застереженнями й Пошук Google

У багатьох країнах користувачі, які вводять у Пошуку Google запити, пов'язані із сексуальним насильством над дітьми, бачать оголошення із застереженням або інформативні результати вгорі сторінки результатів пошуку. Це дає зрозуміти, що сексуальне насильство над дітьми та будь-які матеріали, що зображають або заохочують такі дії, є незаконними. Ці повідомлення також містять посилання на надійних партнерів, де можна повідомити про образливу поведінку або зображення, а також пропонують поради щодо того, куди звернутися по допомогу.

Партнерство

Понад десять років ми є учасниками кількох публічно-приватних коаліцій, зокрема технологічної коаліції, коаліції з інформаційно-комунікаційних технологій, світового об'єднання WeProtect, а також фінансової коаліції проти комерційної сексуальної експлуатації дітей в Інтернеті Європолу. Таке партнерство залучає компанії до спільної розробки технологічних рішень, які перешкоджають обміну матеріалами із зображенням сексуального насильства над дітьми та запобігають сексуальній експлуатації дітей.

Пропонуємо інструменти для боротьби із сексуальним насильством над дітьми

Content Safety API

Content Safety API – це інструмент, розроблений Google, який використовує штучний інтелект, щоб допомагати організаціям краще сортувати за пріоритетом матеріали із зображенням сексуального насильства над дітьми. Ми пропонуємо цей сервіс безкоштовно для неурядових організацій і приватних компаній, щоб допомагати їм захищати дітей. API посилює боротьбу з такими матеріалами, надаючи вищий пріоритет для перевірки спеціалістом потенційно незаконного контенту, який раніше не перевіряли. Завдяки цьому спеціалісти можуть у сім разів швидше знаходити контент і повідомляти про нього. Виявляючи нові зображення швидше, ми збільшуємо ймовірність того, що дітей, над якими знущаються, знайдуть і зможуть захистити. Ефективніша організація процесу перевірки полегшує роботу спеціалістів, які переглядають зображення й підтверджують наявність сцен сексуального насильства над дітьми.

Content Safety API: форма заявки

Завдяки інформації, указаній у цій формі, ми визначимо, чи ваша організація відповідає вимогам для використання Content Safety API, а також зможемо зв'язатися з нею щодо цієї заявки.

Ви представляєте урядову організацію або агентство?

Юридичні вимоги щодо скарг

Умови використання

Функція пошуку сцен сексуального насильства над дітьми

Функція пошуку сцен сексуального насильства над дітьми – це наша власна технологія, яку команда YouTube розробила для боротьби з таким контентом в Інтернеті. Це перша технологія, що використовує збіги хешу, щоб виявляти відомий контент із порушеннями, і дає змогу знаходити такий тип контенту серед великої кількості відео без порушень. Коли виявляється порушення, його позначають для партнерів, щоб ті могли поскаржитися на такий контент згідно з місцевими законами й нормами. Через YouTube ми безкоштовно надали доступ до цієї функції неурядовим організаціям та партнерам у галузі, як-от Adobe, Reddit і Tumblr. Вони використовують її, щоб боротися з поширенням таких відео на своїх платформах.

Докладніше про функцію пошуку сцен сексуального насильства над дітьми

Content Safety API: відгуки

Боротьба з порушеннями на наших платформах і в сервісах

Із самого початку у своїх сервісах компанія Google веде боротьбу із сексуальним насильством над дітьми.

Ми виділяємо значні ресурси (технології, людей і час), щоб виявляти й видаляти контент із сексуальною експлуатацією дітей, запобігати його появі та скаржитися на такі матеріали й поведінку. З 2008 року ми використовуємо технологію хешування, яка створює унікальний цифровий ідентифікатор для кожного відомого зображення із сексуальним насильством над дітьми, щоб виявляти на наших сервісах копії, які можуть існувати деінде.

Ми також створили спільне для галузі сховище хешів відео, яке дає змогу виявляти й блокувати відомі відео зі сценами насильства над дітьми, завдяки чому інші компанії зможуть видаляти аналогічний контент зі своїх платформ.

У 2013 році ми змінили алгоритми Пошуку Google, щоб ще суворіше запобігати появі в результатах пошуку зображень і відео зі сценами насильства над дітьми, а також посилань на них. З того часу ми впровадили цю зміну у всьому світі, автоматично перевіряючи мільйони запитів. У результаті кількість запитів, пов'язаних із сексуальним насильством над дітьми, зменшилася в тринадцять разів.

Google і YouTube мають функцію пошуку сцен сексуального насильства над дітьми та Content Safety API, а також багато інших внутрішніх інструментів, що допомагають визначати матеріали, які потрібно перевірити в першу чергу. Щоб підтримувати роботу в цьому напрямку, ми також застосовуємо останні досягнення у сфері глибинних нейронних мереж і машинного навчання.

Виявлення матеріалів із зображенням сексуального насильства над дітьми та боротьба з їх поширенням – це постійний виклик. Уряди, правоохоронні органи, неурядові організації та галузь разом відіграють важливу роль у ньому. Ми постійно перевіряємо й адаптуємо наші системи та правила, щоб бути в курсі нових тенденцій і загроз, а також впроваджувати найкращі нові технології, які допоможуть якомога ефективніше захищати дітей в Інтернеті. Щоб дізнатися більше про нашу політику щодо безпеки дітей, перегляньте Правила спільноти YouTube і Центр безпеки Google.

Поширені запитання

Розгорнути все Згорнути все
  • Чи працює Content Safety API для відео?

    Content Safety API розроблено для зображень, однак завдяки функції пошуку сцен сексуального насильства над дітьми в YouTube організації можуть отримати доступ до програм для цифрових відбитків і API та виявляти такий контент, порівнюючи його з нашою базою даних відомого зловмисного контенту. Докладніше.

  • Чому Content Safety API має таку ефективність?

    Уявіть людину, яка працює в організації, що бореться з розповсюдженням матеріалів із сексуальним насильством над дітьми. Вона має знайти 7500 прикладів таких матеріалів серед 100 000 потенційних зображень із порушеннями. Якщо розгляд одного зображення займає 10 секунд, за тиждень працівник зможе перевірити лише 14 400 зображень і знайти серед них 1070 порушень. Завдяки Content Safety API, що сортує матеріал за пріоритетом, за той самий час можна буде знайти 7000 зображень із сексуальним насильством над дітьми. Ефективність зросте на 700%.

  • Хто може користуватися цієї технологією та Content Safety API?

    Неурядові організації, які спеціалізуються на боротьбі із сексуальним насильством над дітьми, і приватні компанії, що прагнуть захистити свої платформи від матеріалів із зображенням сексуального насильства над дітьми, можуть зареєструватися й користуватися Content Safety API. Такі заявки мають отримати схвалення.

  • Чи працює функція пошуку сцен сексуального насильства над дітьми для зображень?

    Функцію пошуку сцен сексуального насильства над дітьми розроблено для відео, але завдяки Content Safety API від Google галузеві й неурядові організації-партнери мають доступ до низки інструментів із можливістю класифікації зображень на основі машинного навчання. Докладніше.

  • Чому ви надаєте доступ до цих інструментів такому широкому колу користувачів?

    Ми розробили технологію для цілеспрямованого й ефективного виявлення матеріалів із зображенням сексуального насильства над дітьми та вважаємо, що вдала боротьба з таким вмістом можлива в разі співпраці з іншими технологічними компаніями й неурядовими організаціями. Ми вже давно працюємо в такому форматі, щоб підтримувати розробку нових інструментів на основі даних, покращувати технічний потенціал і підвищувати обізнаність людей. Наступний крок у цій боротьбі – використання штучного інтелекту для кращої перевірки такого вмісту у великих масштабах.