Російські боти допекли Facebook. Як мережа боротиметься з пропагандою

Компанія Facebook продовжує розслідувати скандальну історію про масову закупку російськими користувачами політичної реклами, яка могла вплинути на перебіг президентських виборів у США в 2016 році.

Читайте також: Російські тролі закупили у Facebook пропаганди, щоб розповідати американцям про погані США. Навіщо

Засновник та керівник Facebook Марк Цукерберг вийшов із відпустки та записав відеозвернення, в якому анонсував 9 методів, якими компанія боротиметься зі спробами маніпулювати свідомістю громадян та впливати на перебіг виборів у чужій країні. Зокрема буде змінено правила щодо розміщення реклами.

Сліди російської фабрики тролів

На початку вересня голова служби безпеки Facebook Алекс Стамос оголосив, що за два роки з акаунтів, які "ймовірно керувалися з Росії", закупили політичної реклами на $100 тисяч.

Проведене внутрішнє розслідування виявило, що 3000 рекламних оголошень та постів було оплачено з 470 акаунтів та сторінок, за якими не стоять реальні люди.

Газета The New York Times посилаючись на офіційних представників Facebook повідомила, що фейкові акаунти, про які згадує Стамос, були створені російською компанією Агентство дослідження інтернету. Вона більше відома як "фабрика тролів".

З підставних акаунтів співробітники контори створюють пропагандистські пости в соцмережах, які потім масово поширюються за допомогою бот-ферм, пишуть маніпулятивні коментарі, провокуючи дискусії тощо.

Реклама не була адресована на підтримку того чи іншого кандидата на президентських виборах у США. Зміст постів більше стосувався суперечливих соціальних та політичних послань та зачіпав такі теми, як ЛГБТ, міжрасові стосунки, міграція, право на носіння зброї.

Запізніла реакція Цукерберга

Лідер Facebook у своєму відеозверненні розповів, що компанія закрила тисячі фейкових акаунтів, які могли бути відповідальні за втручання у виборчий процес по всьому світу, зокрема нещодавно у Франції.

Далі він визнав, що вони не здатні попередити всі спроби втручання, але можна зробити цей процес набагато більш складним. Зокрема, на виборах у Німеччині, які мають відбутися за два дні - в неділю, 24 вересня.

Цукерберг оголосив про план з 9 пунктів. Видання Tech Crunch зауважує, що він запізнився з реакцією, але хоча б визнав проблему та почав із нею боротися.

Циніки говорять, що якби не було скандалу з американськими виборами, не було б і реакції Facebook на те, що російські тролі використовують соцмережу як майданчик для маніпуляцій.

"Цілком можливо, що звернення Цукерберга - це піар для відбілювання компанії щодо можливих звинувачень під час німецьких виборів", - розповіла на умовах анонімності сайту Еспресо українська спеціалістка з "розгонки" інформації у соцмережах.

На її думку, Цукерберг зробив політичну заяву, спрямовану на захист інтересів компанії, але вона не містить жодних сигналів для ринку.

"Нічого особливо та нового я від нього не почула. Те, що Facebook - це нейронна мережа, алгоритм якої постійно вчиться, зокрема й виявляти фейки, це ні для кого не секрет", - відзначила наша співрозмовниця.

Антисемітський фільтр

Цілком можливо, що до дій Цукерберга спонукала ще й інша історія, про яку він не згадав у своєму зверненні. Вона яскраво демонструє недоліки соцмережі та її алгоритмів, які відповідають за самовдосконалення.

Видання ProPublica у вересні провело експеримент і за $30 купило на Facebook рекламу, яка транслювалася спеціально для антисемітів.

Журналісти в процесі купівлі налаштували фільтр, який визначає аудиторію, якій показуватимуть проплачений пост. Вони знайшли та обрали такі категорії: "ненависник євреїв", "як палити євреїв", "історія того, як євреї руйнують світ", "Гітлер не зробив нічого поганого" тощо.

Видання Slate пішло далі, та виявило інші рекламні категорії, написані мовою ненависті. Наприклад, "Ку клукс клан", "вбити сук", "вбити радикальних мусульман" тощо.

У Facebook після цього видалили відповідні рекламні категорії, відзначивши, що їх, скоріше за все, сформував алгоритм, а не конкретна людина.

Справа в тому, що категорії генеруються відповідно до того, що люди пишуть в своїх профілях. Деякі вказали, наприклад, що вивчились на "ненависника євреїв" у коледжі, інші - що це їхня галузь професійних інтересів. Програма ж додала це у рекламні фільтри.

"Той факт, що слова ненависті можна було вибрати серед інших, є цілком неприйнятним і це наш прокол. Ми їх видалили, і коли це не принесло бажаного ефекту, ми відключили цей цільовий сегмент в нашій рекламній системі", - заявила головний операційний директор Facebook Шерил Сендберґ.

Вона обіцяла, що Facebook тепер вручну перегляне всі рекламні категорії та посилить контроль за ними.

То що ж тепер збирається робити Facebook

Перші два пункти плану Цукерберга полягають в тому, що компанія буде співпрацювати з урядом та Конгресом США та продовжить внутрішнє розслідування щодо фейкових акаунтів, їхнього стосунку до Росії та змісту реклами, яку вони поширюють.

Також соціальна мережа зробить політичну рекламу більш прозорою. Зі слів Цукерберга випливає, що користувачі тепер зможуть не лише побачити, хто сплатив за рекламне оголошення, а ще зайти на сторінку рекламодавця і подивитися, які оголошення він транслює на будь-яку аудиторію соцмережі.

Окрім того, Цукерберг пообіцяв посилити процес перегляду політичних оголошень. Він зауважив, що компанія і раніше блокувала ті з них, які порушують закон, але можна покращити процес.

Також Facebook збирається збільшити витрати на безпеку. Планується найняти понад 250 людей, які будуть цим займатися.

"Знову ж таки, це те, що Facebook мав би зробити до виборів-2016. Він заробляє більше $3 мільярдів щоквартала, тож запросто може дозволити собі це збільшення штату. Це виключно проблема Facebook - передбачити найгірші сценарії використання свого продукту, і компанія неодноразово не змогла цього зробити", - коментує цей пункт Tech Crunch.

Також компанія планує співпрацювати з виборчими комісіями по всьому світу та ділитися досвідом з іншими IT-компаніями (це шостий та сьомий пункти).

Восьмий пункт дуже цікавий - Facebook збирається захищати політичні дискусії від погроз. Зокрема, Цукерберг розповів про плани розширити дію систему антибулінга таким чином, аби вона захищала також і від політичної агресії.

В останньому пункті лідер компанії обіцяє моніторити вибори в Німеччині. Він розповів, що компанія вже співпрацює з Федеральним управлінням з інформаційної безпеки, кандидатами й партіями, а також вживає заходи щодо фейкових акаунтів.

Як вже писав сайт Еспресо, у Німеччині Facebook з березня залучив до боротьби з фейковими новинами колектив журналістів-розслідувальників Corrective.

Це чотири журналісти, які кожен ранок отримують електронного листа від Facebook з підбіркою фальшивок, клікбейтів та постів, відзначених користувачами соцмережі як неправдиві чи образливі.

Читайте також: Російські фейки дуже набридли Європі, але вона нічого не може зробити. Чому так відбувається

Якщо перевірка підтверджує, що новина фейкова, вона позначається у стрічці користувачів прапорцем "disputed" (сумнівно) та опускається вниз.

Просто бізнес

Видання Tech Crunch висловлює сподівання, що помилки Facebook та загальна наївність IT-компаній і громадськості змусять їх змінити напрямок діяльності, адже світ усвідомлює, якими складними можуть бути атаки на демократію.

Насправді, слово наївність - це дуже м'яка оцінка. "Facebook заробляє на рекламі і компанії невигідно її притискати. Вона буде це робити лише тоді, коли це буде нести загрозу репутації, що зараз і відбулося. Якби не було уваги громадськості, Facebook спокійно заробляв би гроші та нічого не заявляв", - вважає наша співрозмовниця, спеціаліст з соцмереж.

Але якщо Facebook хоча б робить гучні заяви, інші компанії взагалі відмовчуються. А це може погано скінчитися - і для них, і для їхніх користувачів.