Боротьба з "порнопомстою": В Facebook розповіли, як працює нова програма захисту інтимних зображень

Про це йдеться у блозі компанії.

У листопаді 2017 року Facebook почав тестувати в Австралії програму проти публікації знімків колишніх партнерів - досить часто екс-коханці використовують такий метод як спосіб помститися за розставання.

Методи боротьби з "порнопомстою" здалися багатьом користувачам неоднозначними, адже інтимні фотографії, які спочатку потрібно надіслати собі, потім побачать модератори.

У квітні 2017 року Марк Цукерберг оголосив про початок боротьби Facebook з цим явищем, визначивши "порнопомстою" будь-яку інтимну фотографію, якою поділилися без дозволу автора. Щоб модератори перевірили знімок на порушення стандартів, досить було натиснути кнопку "Поскаржитися" (Report).

Програма в Австралії - ще один крок компанії у боротьбі з "порнопомстою". Австралію обрали не випадково, адже за статистикою кожні чотири-п'ять місцевих мешканок у віці від 18 до 45 років страждають від аналогічних випадків. У найближчому майбутньому тестування поширять на Великобританію, США та Канаду.

Читайте також: Самогубства, насильство і аборти. Що можна публікувати в Facebook

Якщо результати визнають задовільними, функція стане доступна всім користувачам соцмережі. Ось тільки новина про те, що модератори будуть переглядати інтимні знімки перед створенням цифрового відбитка, багатьом здалася дивною і аморальною. Ще більше запитань виникло до об'єктивності модераторів, адже людський фактор здатний призвести до помилки.

Як це працює

Глава департаменту глобальної безпеки Facebook Антігона Девіс (Antigone Davis) додатково роз'яснила, як працює програма. За її словами, участь в тестуванні нової функції цілком добровільна.

1. Кожен австралієць, який хоче випробувати нову функцію, заповнює онлайн-форму на сайті австралійського урядового агентства e-Safety;
2. Користувач соцмережі надсилає інтимну фотографію собі в Messenger і позначає спеціальним прапорцем - так в соцмережі визначать кадр, який "викликає занепокоєння";
3. Секретарі e-Safety повідомляють Facebook про те, що учасник програми заповнив форму. При цьому у них немає доступу до зображення;
4. Коли Facebook отримує повідомлення, представник Community Operations відкриває фотографію, вивчає її, і створює цифровий біометричний шаблон за аналогією з відбитком пальця;
5. Facebook пише в e-Safety і просить автора скарги видалити оригінальне фото з Messenger на їх пристрої. Потім модератори видаляють це зображення зі своїх серверів;

Після всіх дій відновити вихідний знімок неможливо. Якщо хтось спробує завантажити таку ж фотографію в соцмережу, автоматично запуститься база даних.

Якщо фото співпадуть, соцмережа не дозволить публікацію.
За словами представника Facebook , кожну фотографію вивчатиме тільки одна людина, а всього цим стане займатися невелика група співробітників спеціального підрозділу. На серверах мережі буде зберігатися тільки посилання, а не інтимні фотографії і відео.

Чи побачать знімки модератори

В Facebook спочатку навіть не згадували, що програма боротьби з "порнопомстою" не повністю автоматизована - про те, що модератори будуть вручну вивчати фотографії, пізніше дізналися журналісти.

Раніше в компанії говорили, що їх співробітник побачить тільки замальований знімок з оголеним користувачем. Однак у відкритому листі Антігони Девіс нічого не говориться про те, що модератори Facebook побачать розмиті кадри. Motherboard втретє запитав прес-службу соцмережі, яка зізналася - ніякого розмиття насправді не буде.