Штучний інтелект перетворюється на расиста і жінконенависника. Як машина успадкувала гріхи людей

11 серпня, 2017 п'ятниця
11:07

Штучний інтелект із взірця неупередженості перетворюється на сховище всіх людських недоліків

Зміст

Навесні 2014 року Бріш Борден не встигала забрати свою хрещеницю зі школи. 18-річна дівчина помітила на вулиці непристебнутий синій велосипед і срібний самокат. Борден і її подруга схопили чужі велосипед і самокат і поїхали забирати дитину.

Однак дівчата зрозуміли, що завеликі для дитячого велосипеда і самоката, оскільки все це належало 6-річній дитині. Борден і її подруга кинули дитячі засоби пересування і вирішили дістатися до школи самостійно.

Але було занадто пізно - сусід, який був свідком крадіжки, викликав поліцію. Дівчата були заарештовані і звинувачувалися в дрібній крадіжці предметів загальною вартістю в $80.

Аналогічний злочин стався пізніше влітку. 41-річний Вернон Пратер був заарештований за крадіжку в магазині на суму $86,35. Це не перший злочин Пратера. Раніше він був засуджений за збройне пограбування. За це чоловік вже відсидів 5 років у в'язниці.

Однак, коли справи Борден і Пратера розглядалися в суді, то сталося щось дивне. У багатьох тюрмах і судових системах Америки запровадили програми штучного інтелекту для обробки даних - Compas, які видали прогноз, що 18-річна дівчина Бріш Борден найімовірніше здійснить ще злочин у майбутньому. А ось Пратер, на думку машини, не становив загрози суспільству в майбутньому. Справа в тому, що Бріш Борден є афроамериканкою, а рецидивіст Вернон Пратер - білий чоловік.

Прогноз машини не здійснився. Після історії з велосипедами Борден більше не порушувала закон. А Пратер заробив собі новий восьмирічний тюремний термін за проникнення на склад і крадіжку електроніки вартістю в тисячі доларів.

Аналогічна історія сталася з Діланом Фаджетом і Бернардом Паркером. Обидва чоловіків (в різний час) були заарештовані за зберігання кокаїну і марихуани.

Машина визначила для Фаджета низький ризик рецидиву, а для Паркера - високий. Паркер є афроамериканцем. Прогноз машини не здійснився і цього разу: білий Фаджет заарештовувався ще тричі після того випадку.

null

Журналісти проаналізували справи 7000 затриманих і виявили, що в більшості випадків для людей з темним кольором шкіри машина пророкує рецидив.

Оцінки ризику повторного злочину дедалі частіше використовуються в судовій системі в світовій практиці. Проблема в тому, що такою оцінкою користуються судді при винесення вироку, при вирішенні про дострокове звільнення злочинця і при винесенні рішення про додаткову реабілітацію злочинця.

Compas вже діють у США: Арізоні, Колорадо, Делавері, Кентуккі, Луїзіані, Оклахомі, Вірджинії, Вашингтоні та Вісконсині.

Чому так сталося

Система штучного інтелекту вводилася для того, щоб уникнути суб'єктивності при винесенні вироку в суді. Правосуддя США вже давно бореться з расовою упередженістю. Саме тому було вирішено звернутися до технологій.

Згідно з даними міжнародного консалтингового інституту Маккінзі, тільки в минулому році корпорації Google і Baidu вклали $30 мільярдів у вивчення штучного інтелекту. Інвестори розраховують, що він візьме на себе повністю обробку даних, з подальшим аналізом і прогнозуванням.

Якщо раніше була гонка на озброєння, то сьогодні це гонка на розвиток штучного інтелекту. Наприклад, пенсійний фонд Великобританії платить від 100 тисяч фунтів ($130 тисяч) на рік фахівцям у цій сфері.

Таким чином вони сподіваються допомогти безробітним знайти роботу, і сортувати доходи і податки. Однак досвід з судовими та поліцейськими програмами показує, що штучний інтелект розвивається зовсім не в тому напрямку, в якому потрібно.

Компанія, що займається розробкою Compas, заперечує висновки, зроблені журналістами, однак відмовилася розкривати принцип навчання машини.

Корпорації Google і Microsoft, також занепокоїлися і провели власні розслідування - що пішло не так?

Що складнішими стають технології, то складніше зрозуміти "як це працює". Штучний інтелект, який використовується в судах і поліцейських сферах, вивчав архіви та інші дані, які є в базі у організації.

Він не придумав щось нове, а лише посилив добре закріплене старе. Якщо в США була проблема расизму серед поліцейських і суддів, то штучний інтелект, вивчивши справи арештів, а також особисті справи злочинців, соціальну приналежність людей і їхні доходи, почав виробляти таку ж модель поведінки. Чорний - значить небезпечний.

Поки корпорації женуться за розширенням можливостей роботи штучного інтелекту, вони зовсім не звертають увагу на те, якою інформацією він "годуєтся". По суті фахівці самі дають програмі наші упередження для вивчення.

Як підсумок, обробляючи великі дані, штучний інтелект стає концентрованим місцем для расизму, сексизму та інших людських слабкостей.

Мовні упередження

Ще одне цікаве дослідження опублікували в журналі Science. Виявляється, в нашій мові вже закладені всі передумови для расизму і сексизму. Завдяки штучному інтелекту, такі програми як Google Translate почали краще розпізнавати і перекладати тексти. Програми поліпшуються за рахунок обробки великої кількості текстів. Обробляючи інформацію, штучний інтелект ділить слова за контекстними групами. Машина перетворює значення слів на цифри (вектор слова).

Наприклад, слова, які позначають квіти, знаходяться ближче до слів задоволення, в той час як слова для комах відносяться до "неприємних". Таким чином висловлюється громадська думка щодо квітів і комах.

А ось слово "жінка" машина пов'язує із заняттями мистецтвом, гуманітарними науками і будинком. А чоловіка пов'язує ближче з математикою і та інженерними спеціальностями.

Програма європейські імена і назви асоціювала з чимось хорошим, тоді як афроамериканські імена вона розмістила у ділянці чогось неприємного, наприклад, комах.

Тож якщо подібна програма буде обробляти резюме нових співробітників для біржі праці, то швидше за все вона буде пропонувати роботу людям з європейськими іменами.

Так було завжди

Ми вже бачили, як нейромережа компанії Google, яка вміє розпізнавати зображення, визначила двох чорних людей як горил. Або як соціальна мережа для пошуку роботи LinkedIn віддає перевагу претендентам чоловічої статі.

А варто було боту Microsoft по імені Тай провести добу в Twitter, як вона (бот був жіночого роду), перетворилася на фанатку Гітлера і Трампа і почала писати ксенофобні "твіти" про мексиканців і євреїв.

 

null

Твіти бота від Microsoft

Корпорації ризикують автоматизувати ті ж самі упередження і стереотипи, з якими ці машини повинні боротися. Комп'ютери не можуть стати упередженими самі по собі. Для цього у них є ми.

Теги:
Читайте також:
Київ
+0.6°C
  • Київ
  • Львів
  • Вінниця
  • Дніпро
  • Донецьк
  • Житомир
  • Запоріжжя
  • Івано-Франківськ
  • Кропивницкий
  • Луганськ
  • Луцьк
  • Миколаїв
  • Одеса
  • Полтава
  • Рівне
  • Суми
  • Сімферополь
  • Тернопіль
  • Ужгород
  • Харків
  • Херсон
  • Хмельницький
  • Черкаси
  • Чернівці
  • Чернигів
  • Біла Церква
  • USD 41.96
    Купівля 41.96
    Продаж 42.47
  • EUR
    Купівля 43.6
    Продаж 44.32
  • Актуальне
  • Важливе
2025, середа
22 січня
15:39
Росіяни двічі атакували рятувальників на Херсонщині, є травмований
15:39
Множинне громадянство паспорт
У разі відкриття кордонів 70% українців не переїжджали б за кордон, – опитування
15:35
армія КНДР
У США очікують, що КНДР відправить підкріплення на Курщину, - NYT
15:33
Інфографіка
Ціни на пальне, АЗС
Ціни на пальне сьогодні: скільки коштують бензин, газ і дизель
15:21
Служба безпеки України
СБУ затримала агентів ФСБ, які наводили російські удари по Донеччині
15:10
Петро Порошенко
Порошенко готовий внести заставу за генерала Галушкіна
15:04
Єврокомісар Андрюс Кубілюс
Єврокомісар з питань оборони Кубілюс закликав посунути військові цілі НАТО на 14 років через загрозу з боку РФ
15:01
Ексклюзив
Карта бойових дій за 8-15 січня
В рамках наступу на Покровськ росіяни можуть зайти в Дніпропетровську область, - військовий оглядач Попович
14:40
Ексклюзив
У Києві відкрили "Вівтар свободи", який показує 27 регіонів, що представлені автентичними іконами
14:15
штурм капітолію
З вʼязниці звільнили 211 помилуваних Трампом учасників штурму Капітолія
14:12
Український криголам "Ноосфера" вперше забезпечує дослідження на замовлення США
14:04
OPINION
блог Борис Бабін
План Кремля — війна до кінця життя осіб, які її розв'язали
14:03
OPINION
Дует фанфаронів
13:58
МЗС України
МЗС України анонсувало розширення цифрових консульських послуг для громадян за кордоном
13:52
Ірак, жінки
В Іраку офіційно дозволили шлюби з 9-річними дівчатками
13:29
Напад на журналістів "Схем" в Укрексімбанку 2021 року: засідання у справі перенесли на 24 лютого
13:25
російський паспорт
Мама керівниці Шевченківського суду у 2023-му отримала паспорт РФ і розвиває свій бізнес у Луганську, - hromadske
13:20
Володимир Зеленський і Ільхам Алієв
"Важливо тиснути на Росію для правди": Зеленський провів перемовини з Алієвим
13:00
сніг, мокрий сніг
Де очікувати туман, а де мокрий сніг: прогноз погоди від Наталки Діденко на 23 січня
12:48
Молдова відмовилася від участі в Євробаченні-2025
12:42
електроенергія
Споживання електроенергії залишається високим: ситуація в енергосистемі 22 січня
12:36
Армія РФ атакувала Костянтинівку на Донеччині: двоє поранених, пошкоджено будинки
12:31
Ексклюзив
Сергій Згурець, український журналіст, військовий експерт
Будемо очікувати на період турбулентності, де будуть різні пропозиції: Згурець про план Трампа щодо врегулювання війни
12:29
Lifecell
Оператор lifecell планує підвищити вартість тарифів
12:25
Сирія, Тартус
Сирія розірвала інвестиційну угоду з РФ щодо управління портом Тартус
12:16
Інфографіка
долар євро валюта обмін
Курс валют на 22 січня: скільки коштують євро, долар і злотий
12:14
Керівництво черкаського хімзаводу викрили на співпраці з РФ: за два роки відправили продукцію на $1,8 млн
12:08
Європарламент
У ЄС розглянуть проєкт резолюції про фальсифікацію виборів у Білорусі
12:04
OPINION
блог Арсеній Яценююк
Обіцянка Дональда Трампа про сильне лідерство США має початися з України
11:35
Командувач Обʼєднаних сил НАТО в Європі генерал Крістофер Каволі
"Є причина, чому РФ привезла солдатів із КНДР": командувач НАТО в Європі Каволі оцінив можливості росіян прорвати фронт
11:23
Огляд
світ, міжнародний огляд
Українці борються за справедливу мирну угоду, а США та ЄС готуються до економічної війни. Акценти світових ЗМІ 22 січня
11:20
Ексклюзив
Карта бойових дій за 15-22 січня
Втрачаючи живу силу сотнями, ворог не має територіальних успіхів: заступник комбата БПАК "Ахіллес" про ситуацію на Куп'янщині
11:15
ппо
Сили ППО знищили 65 російських дронів, 30 локаційно втрачені
11:15
Огляд
Карта бойових дій за 15+22 січня
Карта бойових дій за період 15-22 січня: зс РФ пішли на штурм останньої цитаделі на південному фронті Донеччини
10:57
Удосконалить надання меддопомоги: для військових запровадять електронну первинну медичну картку
10:45
Коригування ракетних ударів РФ: адвоката з Дніпра затримали на кордоні й арештували за підозрою в держзраді та виправданні окупантів
10:25
У 2024 році в Україні встановили рекорд із розкриття вбивств за час Незалежності
10:18
Ексклюзив
Воїни 24-ї ОМБр показали, як виглядає знищений росіянами Часів Яр на Донеччині
У Часовому Яру залишаються близько 220 цивільних, які відмовляються виїжджати попри бойові дії в місті, - МВА
10:13
День Соборності України
22 січня: День Соборності України. Чим відоме свято, його історія та цікаві факти
10:11
Дональд Трамп
Трамп доручив спецпредставнику Келлогу завершити війну в Україні за 100 днів, але майже ніхто не вірить у таку можливість, - WSJ
Більше новин