Штучний інтелект може перетворити автономну зброю на роботів-вбивць. Чому це дійсно страшно

Анастасія Пашинська
23 серпня, 2017 середа
19:03

Роботи почнуть вбивати самостійно, і це стане третьою воєнною революцією після винаходу пороху і атомної зброї. Так думають Ілон Маск та провідні експерти в галузі штучного інтелекту

Фахівці вимагають заборонити автономну зброю

116 провідних експертів в галузі робототехніки і штучного інтелекту (Artificial intelligence - AI) закликають Організацію Об'єднаних Націй (ООН) заборонити розробку і використання роботів-убивць. Серед цих фахівців - мільярдер і винахідник Ілон Маск.

Це не перший раз, коли Маск закликає обережніше ставиться до нових розробок у сфері штучного інтелекту. Ще на початку серпня, коли AI обіграв досвідченого гравця DotA 2, мільярдер попередив про небезпеку штучного інтелекту. Маск вважає, що AI несе "набагато більший ризик", ніж ядерні можливості Північної Кореї.

null

Ілон Маск і Мустафа Сулейман (засновник компанії DeepMind Technologies, Google, яка займається розвитком технологій AI) очолили групу з 116 експертів з 26 країн. Усі вони закликають до заборони автономної зброї.

ООН ще 2015 року планувала конференцію, щоб обговорити застосування автономної зброї: безпілотні літальні апарати, танки та автоматичні кулемети. Однак тоді у організації забракло коштів, щоб заснувати новий комітет.

У листопаді ООН знову збирає конференцію, щоб обговорити відкладені питання. Напередодні цієї події, група засновників компаній AI та робототехніки відправила до ООН відкритого листа, що закликає запобігти гонці озброєнь, яка полягає в розробці роботів-убивць.

У своєму листі до ООН учасники попереджають, що ця гонка озброєнь з використанням робототехніки загрожує вступити в стадію «третьої воєнної революції» після винаходу пороху та ядерної зброї.

На думку експертів, подібна зброя тільки збільшить площу воєнних дій та кількість смертей мирних жителів. Автономна зброя перетвориться на інструмент терору, її використовуватимуть деспоти.

"Ми не повинні довго роздумувати. Тільки-но скринька Пандори відкриється, його буде важко закрити", - йдеться в листі.

Чому треба заборонити автономну зброю вже зараз

Експерти впевнені, що технологія AI досягла точки, коли виготовлення автономної зброї можливе вже за кілька років, а не десятиліть.

Штучний інтелект можна використовувати для того, щоб убезпечити поле битви для військових. Нехай роботи борються за людей. Однак фахівці побоюються, що якщо військові не будуть фізично брати участі в боях, то бій стане більш масштабним і смертоносним.

Страх за життя часто обмежує дії військових. Але у роботів технічно не буде подібних інстинктів - вони вбиватимуть без страху і жалю, якнайшвидше, поки не зламаються. Людині, на відміну від робота, потрібно набагато більше часу на прийняття рішення. Крім того, будь-яка техніка може дати збій, а комп'ютер може бути "зламаний" злочинцями.

"На відміну від інших потенційних проявів AI, які досі залишаються в межах наукової фантастики, автономні системи зброї вже зараз перебувать на порозі виготовлення. Вони можуть завдати багато шкоди мирним жителям і принести глобальну нестабільність", - розповів засновник Clearpath Robotics Райан Гарипов для the Guardian.

Саме тому група експертів на чолі з Маском і Сулейманом вимагають розширити список забороненої зброї, який був прийнятий конвенцією ООН 1983 року.

До списку забороненої зброї вже входять хімічна та біологічна зброя, засліплююча лазерна зброя, розривні боєприпаси, осколки яких неможливо виявити рентгенівським променем. Також конвенція обмежує можливість використання протипіхотних мін.

А чи не занадто пізно

Назва "роботи-вбивці"  одразу викликає в уяві зображення з наукової фантастики - Термінатора або Robocop’а. Однак смертоносна автономна зброя вже використовується.

Наприклад, корейська компанія Samsung виробляє не тільки смартфони, а й бойових роботів з 2006 року. Зокрема, робот-страж Samsung SGR-A1 вже охороняє кордон між Північною Кореєю і Південною Кореєю.

Подібні роботи-прикордонники, яких компанія Samsung розробила на замовлення уряду, є першою у своєму роді автономною системою.

nullробот-вартовий Samsung SGR-A1

Технічно робот здатний стріляти самостійно. Він так само здатний "гукнути" порушнику кордону, і якщо людина не зможе сказати кодове слово, робот відкриє вогонь на ураження. Однак південнокорейський уряд заперечує, що роботів переведено в такий автономний режим. За їхніми  словами, на даний момент роботами керує людина-оператор.

Але роботи-прикордонники вже не єдині автономні бойові системи. Наприклад, бойовий "невидимий" дрон Великої Британіі - "Taranis", названий на честь кельтського бога грому.

Це перший, автономний і невидимий бомбардувальник з великим радіусом дії. Оскільки дрон - автономний, оператора до нього не передбачено. Машина діятиме самостійно, згідно з програмою.

"Taranis" пройшов тестування ще 2013 року, в пустелі Австралії. Дрон може літати до 24 годин, розрізняти ціль і атакувати її без втручання людини.

Так само як і корейці, група британських розробників (BAE Systems) спочатку говорила, що не збираються використовувати дрон у бойових діях, а лише хотіли перевірити свої можливості. Однак вже 2030-го автономний дрон замінить пілотовані людиною літаки Tornado GR4 у британських ВВС.

У подібних "воїнів" є етична перевага - вони не відчувають ненависті або страху. Не вміють брехати, їх не можна переконати в чомусь. Подібні автоматизовані військові технології змінять характер війни. Скриньку Пандори вже відкрито, попри намагання Маска запобігти цьому.

Читайте також:
Київ
+13°C
  • Київ
  • Львів
  • Вінниця
  • Дніпро
  • Донецьк
  • Житомир
  • Запоріжжя
  • Івано-Франківськ
  • Кропивницкий
  • Луганськ
  • Луцьк
  • Миколаїв
  • Одеса
  • Полтава
  • Рівне
  • Суми
  • Сімферополь
  • Тернопіль
  • Ужгород
  • Харків
  • Херсон
  • Хмельницький
  • Черкаси
  • Чернівці
  • Чернигів
  • USD 38.03
    Купівля 38.03
    Продаж 38.79
  • EUR
    Купівля 40.54
    Продаж 41.48
  • Актуальне
  • Важливе
2023, субота
25 березня
21:37
збірна Білорусі, збірна Швейцарії, Євро-2024
Білорусь ганебно пропустила 5 голів і програла Швейцарії у відборі на Євро-2024
21:34
Ані Лорак
Не чекають і в РФ: у Краснодарі скасували концерт Ані Лорак
21:30
Володимир Зеленський
Оборонна підтримка, макрофін і спецтрибунал для РФ: Зеленський підбив підсумки тижня
21:17
РФ атакувала Дніпропетровщину артилерією та БПЛА
21:13
Євро-2024, збірна Вірменії, збірна Туреччини
Відбір на Євро-2024: Вірменія програла Туреччині у першому матчі Петракова
21:12
В'ячеслав Чорновіл
Цього дня на Бориспільській трасі загинув В'ячеслав Чорновіл
21:02
боєприпаси 155 мм
Завод боєприпасів у Польщі значно збільшить обсяги виробництва для України, - Моравецький
21:00
Анналена Бербок
Німеччина хоче вислати 30 російських дипломатів, - Focus
20:58
Збірна України, Зінченко
Хочу дуже подякувати українській армії, - Зінченко виступив з важливою заявою перед матчем Англія - Україна
20:45
Ексклюзив
Марк Фейгін
Китай не наважиться на відкрите постачання озброєнь Росії, - Фейгін
20:41
Азербайджанські війська
Армія Азербайджану взяла під контроль дороги на північ від Лачинського коридору
20:33
Крим
У Криму окупанти збільшили арешти та видачу повісток кримським татарам, - Центр нацспротиву
20:30
Ексклюзив
Путін і Сі Цзіньпін у Москві
Сі Цзіньпін знає, що Путін грубо порушив основний принцип міжнародного права і Статуту ООН, - дипломат Брайза
20:18
Під час протестів у Франції декілька людей дістали поранення унаслідок сутичок із поліцією
20:16
Місце аварії на трубопроводі Північний потік
Військові кораблі РФ перебували в районі "Північних потоків" за кілька днів до вибухів, - ЗМІ
20:16
Збірна Шотландії, Євро-2024
Євро-2024: Шотландія розгромила Кіпр на старті кваліфікації
20:03
OPINION
Юлія Бориско
І відчиняються таємні кімнати серця...
19:48
Володимир Путін
Путін підтвердив, що у Білорусі з'явиться російська ядерна зброя
19:44
"Слугу народу" Колісник визнали винною в недостовірному декларуванні, але звільнили від покарання через строк давності
19:38
Авдіївка
Окупанти випустили по Авдіївці дві авіаційні ракети
19:36
Путін
Росія виробить втричі більше боєприпасів і танків, ніж Захід поставить Україні, - Путін
19:25
Ватикан повернув Греції три фрагменти скульптур Парфенона
19:00
Рафаель Гроссі МАГАТЕ
Гендиректор МАГАТЕ Гроссі наступного тижня відвідає Запорізьку АЕС
18:49
Окупанти
Окупанти надалі грабують мешканців Херсонщини, а ЗСУ за добу відбили понад 50 ворожих атак, - Генштаб
18:42
на фото: Часів Яр
Росіяни обстріляли Донеччину: двоє загиблих
18:29
Білорусь протест
Європа солідарна з народом Білорусі в боротьбі за демократію, - Боррель
18:15
Анонс
На телеканалі Еспресо - ексклюзивне інтерв’ю з Тімоті Снайдером
18:06
OPINION
Олеся Ісаюк
Другий найтяжчий ворог
18:00
Ексклюзив
Володимир Путін і Сі Цзіньпін
КНР не зацікавлена в масових катастрофах в Україні та більшій частині Європи, - дипломат Брайза
17:35
Білоруси у Варшаві. 25 березня 2023 року
Білоруси святкують День Волі
17:20
російський паспорт
Росіяни на Херсонщині катують тих, хто відмовляється від паспорта РФ, - Центр нацспротиву
17:17
на фото: Малюк і Резніков
Командувачі Сил оборони привітали працівників СБУ із професійним святом
17:02
Ексклюзив
Марк Фейгін
Захід не бажає бачити Китай переговірником та миротворцем, - Фейгін
17:00
Німеччина уряд
Хочуть зарплатню на 500 євро більше: у понеділок у Німеччині відбудеться загальнонаціональний страйк
16:50
В Херсонській області на міні підірвався цивільний
16:39
Година Землі
"Не сприяє економії електроенергії": Укренерго закликало не підтримувати "Годину Землі"
16:24
зерно хліб пшениця елеватор
Оман запропонував Україні створення зернового хабу на узбережжі Індійського океану
16:21
Поблизу Бучі на колишніх позиціях армії РФ знайшли тіло закатованого окупантами чоловіка
На Київщині досі не ідентифіковано 200 загиблих унаслідок збройної агресії РФ
16:05
Новобранців ЗСУ в Британії навчають викладачі з Данії
16:03
OPINION
Богдан Данилишин
Цьогоріч в Україні можуть зібрати менше зернових
Більше новин