Штучний інтелект може перетворити автономну зброю на роботів-вбивць. Чому це дійсно страшно

23 серпня, 2017 середа
19:03

Роботи почнуть вбивати самостійно, і це стане третьою воєнною революцією після винаходу пороху і атомної зброї. Так думають Ілон Маск та провідні експерти в галузі штучного інтелекту

Зміст

Фахівці вимагають заборонити автономну зброю

116 провідних експертів в галузі робототехніки і штучного інтелекту (Artificial intelligence - AI) закликають Організацію Об'єднаних Націй (ООН) заборонити розробку і використання роботів-убивць. Серед цих фахівців - мільярдер і винахідник Ілон Маск.

Це не перший раз, коли Маск закликає обережніше ставиться до нових розробок у сфері штучного інтелекту. Ще на початку серпня, коли AI обіграв досвідченого гравця DotA 2, мільярдер попередив про небезпеку штучного інтелекту. Маск вважає, що AI несе "набагато більший ризик", ніж ядерні можливості Північної Кореї.

null

Ілон Маск і Мустафа Сулейман (засновник компанії DeepMind Technologies, Google, яка займається розвитком технологій AI) очолили групу з 116 експертів з 26 країн. Усі вони закликають до заборони автономної зброї.

ООН ще 2015 року планувала конференцію, щоб обговорити застосування автономної зброї: безпілотні літальні апарати, танки та автоматичні кулемети. Однак тоді у організації забракло коштів, щоб заснувати новий комітет.

У листопаді ООН знову збирає конференцію, щоб обговорити відкладені питання. Напередодні цієї події, група засновників компаній AI та робототехніки відправила до ООН відкритого листа, що закликає запобігти гонці озброєнь, яка полягає в розробці роботів-убивць.

У своєму листі до ООН учасники попереджають, що ця гонка озброєнь з використанням робототехніки загрожує вступити в стадію «третьої воєнної революції» після винаходу пороху та ядерної зброї.

На думку експертів, подібна зброя тільки збільшить площу воєнних дій та кількість смертей мирних жителів. Автономна зброя перетвориться на інструмент терору, її використовуватимуть деспоти.

"Ми не повинні довго роздумувати. Тільки-но скринька Пандори відкриється, його буде важко закрити", - йдеться в листі.

Чому треба заборонити автономну зброю вже зараз

Експерти впевнені, що технологія AI досягла точки, коли виготовлення автономної зброї можливе вже за кілька років, а не десятиліть.

Штучний інтелект можна використовувати для того, щоб убезпечити поле битви для військових. Нехай роботи борються за людей. Однак фахівці побоюються, що якщо військові не будуть фізично брати участі в боях, то бій стане більш масштабним і смертоносним.

Страх за життя часто обмежує дії військових. Але у роботів технічно не буде подібних інстинктів - вони вбиватимуть без страху і жалю, якнайшвидше, поки не зламаються. Людині, на відміну від робота, потрібно набагато більше часу на прийняття рішення. Крім того, будь-яка техніка може дати збій, а комп'ютер може бути "зламаний" злочинцями.

"На відміну від інших потенційних проявів AI, які досі залишаються в межах наукової фантастики, автономні системи зброї вже зараз перебувать на порозі виготовлення. Вони можуть завдати багато шкоди мирним жителям і принести глобальну нестабільність", - розповів засновник Clearpath Robotics Райан Гарипов для the Guardian.

Саме тому група експертів на чолі з Маском і Сулейманом вимагають розширити список забороненої зброї, який був прийнятий конвенцією ООН 1983 року.

До списку забороненої зброї вже входять хімічна та біологічна зброя, засліплююча лазерна зброя, розривні боєприпаси, осколки яких неможливо виявити рентгенівським променем. Також конвенція обмежує можливість використання протипіхотних мін.

А чи не занадто пізно

Назва "роботи-вбивці"  одразу викликає в уяві зображення з наукової фантастики - Термінатора або Robocop’а. Однак смертоносна автономна зброя вже використовується.

Наприклад, корейська компанія Samsung виробляє не тільки смартфони, а й бойових роботів з 2006 року. Зокрема, робот-страж Samsung SGR-A1 вже охороняє кордон між Північною Кореєю і Південною Кореєю.

Подібні роботи-прикордонники, яких компанія Samsung розробила на замовлення уряду, є першою у своєму роді автономною системою.

nullробот-вартовий Samsung SGR-A1

Технічно робот здатний стріляти самостійно. Він так само здатний "гукнути" порушнику кордону, і якщо людина не зможе сказати кодове слово, робот відкриє вогонь на ураження. Однак південнокорейський уряд заперечує, що роботів переведено в такий автономний режим. За їхніми  словами, на даний момент роботами керує людина-оператор.

Але роботи-прикордонники вже не єдині автономні бойові системи. Наприклад, бойовий "невидимий" дрон Великої Британіі - "Taranis", названий на честь кельтського бога грому.

Це перший, автономний і невидимий бомбардувальник з великим радіусом дії. Оскільки дрон - автономний, оператора до нього не передбачено. Машина діятиме самостійно, згідно з програмою.

"Taranis" пройшов тестування ще 2013 року, в пустелі Австралії. Дрон може літати до 24 годин, розрізняти ціль і атакувати її без втручання людини.

Так само як і корейці, група британських розробників (BAE Systems) спочатку говорила, що не збираються використовувати дрон у бойових діях, а лише хотіли перевірити свої можливості. Однак вже 2030-го автономний дрон замінить пілотовані людиною літаки Tornado GR4 у британських ВВС.

У подібних "воїнів" є етична перевага - вони не відчувають ненависті або страху. Не вміють брехати, їх не можна переконати в чомусь. Подібні автоматизовані військові технології змінять характер війни. Скриньку Пандори вже відкрито, попри намагання Маска запобігти цьому.

Теги:
Читайте також:
Київ
+22.6°C
  • Київ
  • Львів
  • Вінниця
  • Дніпро
  • Донецьк
  • Житомир
  • Запоріжжя
  • Івано-Франківськ
  • Кропивницкий
  • Луганськ
  • Луцьк
  • Миколаїв
  • Одеса
  • Полтава
  • Рівне
  • Суми
  • Сімферополь
  • Тернопіль
  • Ужгород
  • Харків
  • Херсон
  • Хмельницький
  • Черкаси
  • Чернівці
  • Чернигів
  • Біла Церква
  • USD 41.29
    Купівля 41.29
    Продаж 41.87
  • EUR
    Купівля 47.15
    Продаж 48
  • Актуальне
  • Важливе
2025, середа
23 квітня
20:10
Кремль москва
РФ через "антиросійські наративи" заборонила в'їзд 21 парламентарю з Британії
20:00
БПЛА, шахед, дрон
РФ запустила безпілотники по території України: ситуація ввечері 23 квітня
20:00
Ексклюзив
Марко Рубіо
Намагання підняти ставки: Чаленко пояснив, чому раптово зірвався саміт у Лондоні
20:00
OPINION
Трамп наразі провалює абсолютно все, за що він взявся
19:54
Оновлено
БПЛА "шахед", безпілотник, дрон
Генштаб підтвердив удар по заводу в російській Єлабузі, де виробляють "шахеди"
19:47
Ексклюзив
Британія, британські військові
"Головне протриматися хоча б рік": експертка Вдовиченко про ймовірні сценарії для України, якщо США вийдуть з переговорів
19:31
Оновлено
РФ вдарила дроном по автобусу на Дніпропетровщині: 9 загиблих, десятки поранених
19:30
Оновлено
Дональд Трамп
"Він може отримати мир, або воювати ще три роки та втратити всю країну": Трамп назвав заяву Зеленського про Крим шкідливою для переговорів з РФ
19:07
Марко Рубіо
Рубіо заявив, що США стали краще розуміти РФ і зробили "все можливе" для миру в Україні
19:00
Ексклюзив
Україна ЄС
Україна готова відкрити переговорні кластери щодо вступу до ЄС, але Угорщина блокує цей процес, - Висоцька
18:54
Ексклюзив
Петро Андрющенко
Ворог накопичив велику кількість ресурсів на Запорізькому напрямку, - Андрющенко
18:45
плита, газ
Нафтогаз залишив ціну на газ для населення незмінною ще на рік
18:30
Ексклюзив
Валентин Наливайченко
Угорщина не заблокує членство України в ЄС, - Наливайченко
18:27
на фото очільник уряду Денис Шмигаль
Шмигаль з урядовою командою у Вашингтоні почали роботу на Spring Meetings 2025 Світового банку та МВФ
18:07
віце-президент США Джей Ді Венс
"Це було велике благословення": Венс розповів про зустріч з Папою Франциском напередодні його смерті
18:07
OPINION
Провал у Лондоні. США знову в пошуках кращої Росії
17:58
ANTHROPOCENE: Observation of I, Київ
У Києві розпочалася виставка ANTHROPOCENE: Observation of I, про взаємодію тіла, середовища та цифрової реальності
17:53
Оновлено
Андрій Єрмак
"Домовились про подальші консультації": Єрмак про зустріч із радниками з нацбезпеки Великої Британії, Франції та Німеччини у Лондоні
17:52
Кубок України
"Динамо" здійснило камбек у матчі з "Буковиною" та стало першим фіналістом Кубка України
17:40
Конклав
Після смерті Папи Римського кількість переглядів фільму "Конклав" збільшилася на 283%
17:27
прапор, Євросоюз
ЄС оштрафував Apple і Meta на сотні мільйонів євро за порушення правил цифрового ринку
17:13
Оновлено
Еммануель Макрон
Єлисейський палац спростував інформацію про намір Макрона розпустити парламент та призначити дострокові вибори
17:00
Ексклюзив
Україна ЄС
У Єврокомісії вже визначили майже офіційну дату вступу України до ЄС, - Висоцька
16:58
Оновлено
Туреччина, землетрус
У Туреччині стався потужний землетрус магнітудою 6,2, постраждало понад 150 людей
16:52
Башар Асад
Нова влада Сирії заявила, що Росія відмовилася видати їй експрезидента-втікача Башара Асада
16:30
Ексклюзив
Валентин Наливайченко
Україна виконала ключову умову й розпочинає переговори про вступ до ЄС, - Наливайченко
16:29
ЗСУ
З початку доби на фронті відбулося 83 бої: на Покровському напрямку Сили оборони відбили 27 атак
16:13
Оновлено
На могилі воїнів УПА в Польщі з'явилася провокативна табличка. Мінкульти держав засудили акт вандалізму
16:09
OPINION
Трампівська авантюра з Кримом
15:58
Естонія
Естонія планує створити військову базу в місті Нарва на кордоні з РФ
15:56
Александр Стубб
"Складно, але не безнадійно", - президент Фінляндії Стубб про переговори щодо припинення вогню в Україні
15:09
Радослав Сікорський
"Китай міг би внести нову цінність у світовий порядок": Сікорський закликав Пекін сприяти закінченню війни РФ в Україні
14:54
Оновлено
Одеса, наслідки атаки 21.04.25
Атака російських БПЛА по Україні 21-22 квітня: у лікарні Харкова помер поранений чоловік
14:43
Ми підтверджуємо принципову позицію: Україна готова вести переговори, але не здаватися, - Свириденко
14:29
Африканський найманець із Сенегалу
Українські військові на Торецькому напрямку захопили в полон найманця з Сенегалу
14:24
Інфографіка
Ціни на пальне АЗС
Ціни на пальне сьогодні: скільки коштують бензин, газ і дизель
14:17
фейк
Пропагандисти у РФ брешуть, що бригада ЗСУ відмовилася виконувати накази й покинула позиції на Курщині: ЦПД спростував фейк
14:05
Радослав Сікорський
Польща не відправлятиме в Україну військових у межах імовірної миротворчої місії, але надасть їй підтримку, - Сікорський
14:00
OPINION
блог Олександр Антонюк
"Остання пропозиція" від США
13:44
Оновлено
чеський хокеїст Домінік Гашек
"Медведєв погрожував убити мене": легенда хокею Гашек зробив заяву щодо експрезидента РФ. Глава МЗС Чехії підтримав спортсмена
Більше новин