Вчені навчили штучний інтелект сексизму та расизму

Про це повідомляє N+1.

Автори нової роботи припустили, що разом із формальною структурою мови комп'ютер може засвоювати історично закріплені в текстах семантичні зв'язки. Для перевірки своєї гіпотези, вчені розробили спеціальний алгоритм Word-Embedding Association Test (WEAT), що являє собою комп'ютерний аналог психологічного тесту підсвідомих асоціацій (IAT).

У класичному варіанті, піддослідному пропонується розсортувати по категоріях слова та картинки на екрані, наприклад віднести малюнок худого людини або поняття "гарний" до категорії "худий або приємне слово". Оцінюючи швидкість виконання завдання, програма визначає, як людина ставиться до представлених понять.

Так, люди швидше асоціюють зображення музичних інструментів з категорією "музичний інструмент або приємне слово", А зображення зброї - з категорією "зброя або неприємне слово".

Алгоритм WEAT виявив у штучного інтелекту ті самі закономірності, що й психологічний тест - назви квітів в системі виявилися пов'язані з приємними словами, а назви комах - з неприємними.

Також з'ясувалося, що чоловічі імена частіше асоціюються з кар'єрою й точними науками, а жіночі - з сім'єю та гуманітарними дисциплінами. Найхарактерніші для темношкірих американців імена виявилися близькі з такими поняттями як "зброя" та "бідність", а імена, що частіше зустрічаються серед білого населення, були пов'язані зі словами "сім'я", "щасливий".

Таким чином ученим вдалося продемонструвати, що штучний інтелект може мимоволі засвоювати стереотипи, які зустрічаються в матеріалах для навчання.

Наочним прикладом засвоєння стереотипів також може служити робота онлайн-сервісу Google Translate. Дослідники помітили, що рід гендерно-нейтрального турецького займенника "о" змінюється в залежності від професії: "o bir doktor" на англійську мову перекладається як "він лікар", а "o bir hemsire" - "вона медсестра".