Штучний інтелект перетворюється на расиста і жінконенависника. Як машина успадкувала гріхи людей

Анастасія Пашинська
11 серпня, 2017 п'ятниця
11:07

Штучний інтелект із взірця неупередженості перетворюється на сховище всіх людських недоліків

Навесні 2014 року Бріш Борден не встигала забрати свою хрещеницю зі школи. 18-річна дівчина помітила на вулиці непристебнутий синій велосипед і срібний самокат. Борден і її подруга схопили чужі велосипед і самокат і поїхали забирати дитину.

Однак дівчата зрозуміли, що завеликі для дитячого велосипеда і самоката, оскільки все це належало 6-річній дитині. Борден і її подруга кинули дитячі засоби пересування і вирішили дістатися до школи самостійно.

Але було занадто пізно - сусід, який був свідком крадіжки, викликав поліцію. Дівчата були заарештовані і звинувачувалися в дрібній крадіжці предметів загальною вартістю в $80.

Аналогічний злочин стався пізніше влітку. 41-річний Вернон Пратер був заарештований за крадіжку в магазині на суму $86,35. Це не перший злочин Пратера. Раніше він був засуджений за збройне пограбування. За це чоловік вже відсидів 5 років у в'язниці.

Однак, коли справи Борден і Пратера розглядалися в суді, то сталося щось дивне. У багатьох тюрмах і судових системах Америки запровадили програми штучного інтелекту для обробки даних - Compas, які видали прогноз, що 18-річна дівчина Бріш Борден найімовірніше здійснить ще злочин у майбутньому. А ось Пратер, на думку машини, не становив загрози суспільству в майбутньому. Справа в тому, що Бріш Борден є афроамериканкою, а рецидивіст Вернон Пратер - білий чоловік.

Прогноз машини не здійснився. Після історії з велосипедами Борден більше не порушувала закон. А Пратер заробив собі новий восьмирічний тюремний термін за проникнення на склад і крадіжку електроніки вартістю в тисячі доларів.

Аналогічна історія сталася з Діланом Фаджетом і Бернардом Паркером. Обидва чоловіків (в різний час) були заарештовані за зберігання кокаїну і марихуани.

Машина визначила для Фаджета низький ризик рецидиву, а для Паркера - високий. Паркер є афроамериканцем. Прогноз машини не здійснився і цього разу: білий Фаджет заарештовувався ще тричі після того випадку.

null

Журналісти проаналізували справи 7000 затриманих і виявили, що в більшості випадків для людей з темним кольором шкіри машина пророкує рецидив.

Оцінки ризику повторного злочину дедалі частіше використовуються в судовій системі в світовій практиці. Проблема в тому, що такою оцінкою користуються судді при винесення вироку, при вирішенні про дострокове звільнення злочинця і при винесенні рішення про додаткову реабілітацію злочинця.

Compas вже діють у США: Арізоні, Колорадо, Делавері, Кентуккі, Луїзіані, Оклахомі, Вірджинії, Вашингтоні та Вісконсині.

Чому так сталося

Система штучного інтелекту вводилася для того, щоб уникнути суб'єктивності при винесенні вироку в суді. Правосуддя США вже давно бореться з расовою упередженістю. Саме тому було вирішено звернутися до технологій.

Згідно з даними міжнародного консалтингового інституту Маккінзі, тільки в минулому році корпорації Google і Baidu вклали $30 мільярдів у вивчення штучного інтелекту. Інвестори розраховують, що він візьме на себе повністю обробку даних, з подальшим аналізом і прогнозуванням.

Якщо раніше була гонка на озброєння, то сьогодні це гонка на розвиток штучного інтелекту. Наприклад, пенсійний фонд Великобританії платить від 100 тисяч фунтів ($130 тисяч) на рік фахівцям у цій сфері.

Таким чином вони сподіваються допомогти безробітним знайти роботу, і сортувати доходи і податки. Однак досвід з судовими та поліцейськими програмами показує, що штучний інтелект розвивається зовсім не в тому напрямку, в якому потрібно.

Компанія, що займається розробкою Compas, заперечує висновки, зроблені журналістами, однак відмовилася розкривати принцип навчання машини.

Корпорації Google і Microsoft, також занепокоїлися і провели власні розслідування - що пішло не так?

Що складнішими стають технології, то складніше зрозуміти "як це працює". Штучний інтелект, який використовується в судах і поліцейських сферах, вивчав архіви та інші дані, які є в базі у організації.

Він не придумав щось нове, а лише посилив добре закріплене старе. Якщо в США була проблема расизму серед поліцейських і суддів, то штучний інтелект, вивчивши справи арештів, а також особисті справи злочинців, соціальну приналежність людей і їхні доходи, почав виробляти таку ж модель поведінки. Чорний - значить небезпечний.

Поки корпорації женуться за розширенням можливостей роботи штучного інтелекту, вони зовсім не звертають увагу на те, якою інформацією він "годуєтся". По суті фахівці самі дають програмі наші упередження для вивчення.

Як підсумок, обробляючи великі дані, штучний інтелект стає концентрованим місцем для расизму, сексизму та інших людських слабкостей.

Мовні упередження

Ще одне цікаве дослідження опублікували в журналі Science. Виявляється, в нашій мові вже закладені всі передумови для расизму і сексизму. Завдяки штучному інтелекту, такі програми як Google Translate почали краще розпізнавати і перекладати тексти. Програми поліпшуються за рахунок обробки великої кількості текстів. Обробляючи інформацію, штучний інтелект ділить слова за контекстними групами. Машина перетворює значення слів на цифри (вектор слова).

Наприклад, слова, які позначають квіти, знаходяться ближче до слів задоволення, в той час як слова для комах відносяться до "неприємних". Таким чином висловлюється громадська думка щодо квітів і комах.

А ось слово "жінка" машина пов'язує із заняттями мистецтвом, гуманітарними науками і будинком. А чоловіка пов'язує ближче з математикою і та інженерними спеціальностями.

Програма європейські імена і назви асоціювала з чимось хорошим, тоді як афроамериканські імена вона розмістила у ділянці чогось неприємного, наприклад, комах.

Тож якщо подібна програма буде обробляти резюме нових співробітників для біржі праці, то швидше за все вона буде пропонувати роботу людям з європейськими іменами.

Так було завжди

Ми вже бачили, як нейромережа компанії Google, яка вміє розпізнавати зображення, визначила двох чорних людей як горил. Або як соціальна мережа для пошуку роботи LinkedIn віддає перевагу претендентам чоловічої статі.

А варто було боту Microsoft по імені Тай провести добу в Twitter, як вона (бот був жіночого роду), перетворилася на фанатку Гітлера і Трампа і почала писати ксенофобні "твіти" про мексиканців і євреїв.

 

null

Твіти бота від Microsoft

Корпорації ризикують автоматизувати ті ж самі упередження і стереотипи, з якими ці машини повинні боротися. Комп'ютери не можуть стати упередженими самі по собі. Для цього у них є ми.

Читайте також:
Дмитро Ярош
21 жовтня, 2021 четвер
"Шкода цього путінського телепня": Ярош заявив, що Кива погодився видати його спецслужбам РФ за $5 млн
Олексій Резніков
23 жовтня, 2021 субота
У Офісі президента визначилися із кандидатурою нового міністра оборони, - ЗМІ
Зеленський вагнергейт
Автор Марина Данилюк-Ярмолаєва
22 жовтня, 2021 п'ятниця
Уже не тефлоновий. Як Зеленський із героя перетворюється в політичний “нуль”
Київ
+6
  • Київ
  • Львів
  • Вінниця
  • Дніпро
  • Донецьк
  • Житомир
  • Запоріжжя
  • Івано-Франківськ
  • Кропивницкий
  • Луганськ
  • Луцьк
  • Миколаїв
  • Одеса
  • Полтава
  • Рівне
  • Суми
  • Сімферополь
  • Тернопіль
  • Ужгород
  • Харків
  • Херсон
  • Хмельницький
  • Черкаси
  • Чернівці
  • Чернигів
  • USD 26.21
    Купівля 26.21
    Продаж 26.45
  • EUR
    Купівля 30.35
    Продаж 30.76
  • Актуальне
  • Важливе
2021, субота
23 жовтня
22:59
осінь
У Києві побито температурний рекорд, який тримався 141 рік
22:46
Валентин Гапонцев
У США помер російський мільярдер, який через санкції "відхрестився" від Путіна
22:23
газ
"Газпром" погрожує повністю припинити постачання газу до Молдови
21:50
Ірина Венедіктова
"Пощади не чекайте": Венедіктова попередила про наслідки підробки COVID-сертифікатів
21:25
Чорноморець
УПЛ: "Чорноморець" відібрав очки у "Львова", результати інших матчів 12-го туру
21:16
Телеканал ДОМ
“Дом” - телеканал з колосальними бюджетами та мізерними переглядами, - розслідування журналістів “Еспресо”
21:09
Північний потік-2
Європа може погодитися на запуск "Північного потоку-2" без сертифікації, - Зеркаль
20:47
Тайсон Ф'юрі - Деонтей Вайлдер
Ф'юрі дізнався дату наступного бою та імена потенційних суперників
20:25
тролейбус
На Буковині посилили карантин та назвали умови користування громадським транспортом
19:55
Казахстан - Україна
Збірна України отримала потенційних суперників під час жеребкування Ліги націй
19:29
МВФ
Шмигаль розповів, коли Україна отримає транш у $700 млн від МВФ
19:17
Газпром
Путін розпочав політику газового шантажу Європи, - Кулеба
18:55
Ворскла - Шахтар
"Шахтар" у більшості переміг "Ворсклу" та наздогнав "Динамо" в УПЛ
18:32
хакери
Facebook звинувачує українського хакера у крадіжці даних 178 млн користувачів
18:31
Микола Чаус
РНБО вирішила безкоштовно позичити 1 млрд кубів газу Молдові. ОП намагається закрити справу з вивезення Чауса?, - джерело
18:18
Реджеп Ердоган
Ердоган наказав вислати з Туреччини послів США, Німеччини та Франції
17:53
Путін Меркель
Меркель зізналася, що не могла уявити, що Путін анексує Крим і розв'яже війну на Донбасі
17:32
ООС
23 жовтня на фронті: російські окупанти поранили двох українських військових
17:20
Олександр Усик
Усик зухвало висловився про Ф'юрі
17:04
Людмила Буймістер
"Виключили зі "Слуги народу", коли сказала, що влада розвертає нас у бік Росії в енергетичній політиці", − Людмила Буймістер
16:44
Олексій Резніков
У Офісі президента визначилися із кандидатурою нового міністра оборони, - ЗМІ
16:18
Верес - Маріуполь
УПЛ: "Верес" переміг "Маріуполь", результати інших матчів 12-го туру
16:01
Ексклюзив
Метью Брайза
Росія та Китай не створюватимуть єдиний фронт проти Заходу через ряд розбіжностей, - Брайза
15:50
Галина Гатчінс
Оприлюднено подробиці загибелі українки, яку на знімальному майданчику застрелив американський актор Болдвін
15:26
Олександр Усик
Промоутер Джошуа пообіцяв Усику за реванш величезні гроші
14:59
Генрі Кіссінджер
Кіссінджер закликав до глобальної співпраці в ім'я перемоги над коронавірусом та зміною клімату
14:35
Щеплення робитимуть на усіх великих вокзалах, поштамтах та в аеропортах
14:17
Адвокатеса з Черкас продавала підробні COVID-сертифікати по 500 грн
14:00
Киянам дали тепло в оселі
13:42
Соня Плакидюк, Даша Астаф'єва, Аніта Луценко, Ірина Данилевська, Діана Глостер і всі-всі-всі на показі Andre Tan x Катя Осадча
13:30
Підпал будинку заступника Єрмака: затриманим оголошено підозру
13:13
В онкоцентрі окупованого Донецька пацієнт викинувся з вікна 8-го поверху, - ЗМІ
13:00
На українських АЕС виробляють безкоштовний кисень для хворих на COVID
12:40
"Білоруського Сноудена" оголосили у розшук
12:13
Рівненська та Миколаївська області переходять у червону зону
11:51
Норберт Вальтер-Бор'янс
Німецькі соціал-демократи пояснили, для чого ФРН потрібен "Північний потік-2"
11:33
На Сумщині знешкодили 50 бандитів угрупування "авторитетів" з Грузії та Росії
11:14
Ізраїль та Емірати спільно висадяться на Місяці
10:56
Усім, хто хоче постачати газ через Україну, запропоновано знижку, - Зеркаль
10:30
100 грн за годину. У "червоному" Дніпрі з'явилися персональні COVID-шопери
Більше новин