Штучний інтелект може перетворити автономну зброю на роботів-вбивць. Чому це дійсно страшно

23 серпня, 2017 середа
19:03

Роботи почнуть вбивати самостійно, і це стане третьою воєнною революцією після винаходу пороху і атомної зброї. Так думають Ілон Маск та провідні експерти в галузі штучного інтелекту

Зміст

Фахівці вимагають заборонити автономну зброю

116 провідних експертів в галузі робототехніки і штучного інтелекту (Artificial intelligence - AI) закликають Організацію Об'єднаних Націй (ООН) заборонити розробку і використання роботів-убивць. Серед цих фахівців - мільярдер і винахідник Ілон Маск.

Це не перший раз, коли Маск закликає обережніше ставиться до нових розробок у сфері штучного інтелекту. Ще на початку серпня, коли AI обіграв досвідченого гравця DotA 2, мільярдер попередив про небезпеку штучного інтелекту. Маск вважає, що AI несе "набагато більший ризик", ніж ядерні можливості Північної Кореї.

null

Ілон Маск і Мустафа Сулейман (засновник компанії DeepMind Technologies, Google, яка займається розвитком технологій AI) очолили групу з 116 експертів з 26 країн. Усі вони закликають до заборони автономної зброї.

ООН ще 2015 року планувала конференцію, щоб обговорити застосування автономної зброї: безпілотні літальні апарати, танки та автоматичні кулемети. Однак тоді у організації забракло коштів, щоб заснувати новий комітет.

У листопаді ООН знову збирає конференцію, щоб обговорити відкладені питання. Напередодні цієї події, група засновників компаній AI та робототехніки відправила до ООН відкритого листа, що закликає запобігти гонці озброєнь, яка полягає в розробці роботів-убивць.

У своєму листі до ООН учасники попереджають, що ця гонка озброєнь з використанням робототехніки загрожує вступити в стадію «третьої воєнної революції» після винаходу пороху та ядерної зброї.

На думку експертів, подібна зброя тільки збільшить площу воєнних дій та кількість смертей мирних жителів. Автономна зброя перетвориться на інструмент терору, її використовуватимуть деспоти.

"Ми не повинні довго роздумувати. Тільки-но скринька Пандори відкриється, його буде важко закрити", - йдеться в листі.

Чому треба заборонити автономну зброю вже зараз

Експерти впевнені, що технологія AI досягла точки, коли виготовлення автономної зброї можливе вже за кілька років, а не десятиліть.

Штучний інтелект можна використовувати для того, щоб убезпечити поле битви для військових. Нехай роботи борються за людей. Однак фахівці побоюються, що якщо військові не будуть фізично брати участі в боях, то бій стане більш масштабним і смертоносним.

Страх за життя часто обмежує дії військових. Але у роботів технічно не буде подібних інстинктів - вони вбиватимуть без страху і жалю, якнайшвидше, поки не зламаються. Людині, на відміну від робота, потрібно набагато більше часу на прийняття рішення. Крім того, будь-яка техніка може дати збій, а комп'ютер може бути "зламаний" злочинцями.

"На відміну від інших потенційних проявів AI, які досі залишаються в межах наукової фантастики, автономні системи зброї вже зараз перебувать на порозі виготовлення. Вони можуть завдати багато шкоди мирним жителям і принести глобальну нестабільність", - розповів засновник Clearpath Robotics Райан Гарипов для the Guardian.

Саме тому група експертів на чолі з Маском і Сулейманом вимагають розширити список забороненої зброї, який був прийнятий конвенцією ООН 1983 року.

До списку забороненої зброї вже входять хімічна та біологічна зброя, засліплююча лазерна зброя, розривні боєприпаси, осколки яких неможливо виявити рентгенівським променем. Також конвенція обмежує можливість використання протипіхотних мін.

А чи не занадто пізно

Назва "роботи-вбивці"  одразу викликає в уяві зображення з наукової фантастики - Термінатора або Robocop’а. Однак смертоносна автономна зброя вже використовується.

Наприклад, корейська компанія Samsung виробляє не тільки смартфони, а й бойових роботів з 2006 року. Зокрема, робот-страж Samsung SGR-A1 вже охороняє кордон між Північною Кореєю і Південною Кореєю.

Подібні роботи-прикордонники, яких компанія Samsung розробила на замовлення уряду, є першою у своєму роді автономною системою.

nullробот-вартовий Samsung SGR-A1

Технічно робот здатний стріляти самостійно. Він так само здатний "гукнути" порушнику кордону, і якщо людина не зможе сказати кодове слово, робот відкриє вогонь на ураження. Однак південнокорейський уряд заперечує, що роботів переведено в такий автономний режим. За їхніми  словами, на даний момент роботами керує людина-оператор.

Але роботи-прикордонники вже не єдині автономні бойові системи. Наприклад, бойовий "невидимий" дрон Великої Британіі - "Taranis", названий на честь кельтського бога грому.

Це перший, автономний і невидимий бомбардувальник з великим радіусом дії. Оскільки дрон - автономний, оператора до нього не передбачено. Машина діятиме самостійно, згідно з програмою.

"Taranis" пройшов тестування ще 2013 року, в пустелі Австралії. Дрон може літати до 24 годин, розрізняти ціль і атакувати її без втручання людини.

Так само як і корейці, група британських розробників (BAE Systems) спочатку говорила, що не збираються використовувати дрон у бойових діях, а лише хотіли перевірити свої можливості. Однак вже 2030-го автономний дрон замінить пілотовані людиною літаки Tornado GR4 у британських ВВС.

У подібних "воїнів" є етична перевага - вони не відчувають ненависті або страху. Не вміють брехати, їх не можна переконати в чомусь. Подібні автоматизовані військові технології змінять характер війни. Скриньку Пандори вже відкрито, попри намагання Маска запобігти цьому.

Теги:
Читайте також:
  • USD 41.15
    Купівля 41.15
    Продаж 41.65
  • EUR
    Купівля 43.43
    Продаж 44.11
  • Актуальне
  • Важливе
2024, четвер
21 листопада
23:04
Володимир Зеленський
Другий цьогоріч крок Путіна до ескалації війни, сильної реакції світу немає, - Зеленський про удар ракетою нового типу
23:03
Ексклюзив
Микола Княжицький
Ми не повинні дозволяти казати, що програємо війну без підтримки США, треба шукати варіанти, - Княжицький
22:48
Алроса
Російський виробник алмазів "Алроса" анонсував зупинку низки шахт і скорочення працівників
22:37
Робота з відновлення електропостачання Херсон
Ракетні атаки РФ на вихідних пошкодили три з пʼяти теплоелектростанцій ДТЕК, - Reuters
21:51
Білий Дім
Кремль заявив, що попередив США про удар ракетою нового типу, Білий дім - що повідомив Україні та союзникам
21:51
поїзд в Карпатах
У Харків і Карпати: Укрзалізниця запускає нові рейси внутрішньго сполучення
21:26
Метт Гейтц
Кандидат Трампа у генпрокурори Гетц відмовився від запропонованої посади
21:21
Ексклюзив
Володимир Путін та Дональд Трамп
Путін хоче вплинути на Трампа та виторгувати більше: військовий експерт про запуск ракети нового типу
21:17
Аналітика
Сергій Згурець, український журналіст, військовий експерт
РФ, ймовірно, попередила США про застосування міжконтинентальної ракети, інакше Америка та НАТО зреагували б у відповідь. Колонка Сергія Згурця
20:03
У музеях Ватикану запрацювали вісім україномовних аудіогідів
20:02
OPINION
Як я заробив на Помаранчевій революції
19:56
Оновлено
путін
Путін заявив, що РФ вдарила по Дніпру новою балістичною ракетою середньої дальності "Орешнік"
19:42
Оновлено
Беньямін Нетаньягу
МКС видав ордер на арешт Нетаньягу. В Єрусалимі назвали рішення "антисемітським", а в ЄС пообіцяли заарештувати прем'єра Ізраїлю
19:04
МЗС України
Україна задіяла механізми ООН і НАТО через запуск росіянами нового типу ракети, - МЗС
18:59
Александар Вучич
"Ніхто не блефує": президент Сербії Вучич прокоментував ймовірний удар РФ міжконтинентальною ракетою
18:46
Енергосистема, електроенергія, обстріли
Одна та дві черги: Укренерго оприлюднило інформацію про відключення електроенергії на 22 листопада
18:43
МВФ
У МВФ пообіцяли ухвалити рішення щодо наступного траншу для України найближчими тижнями
18:38
Оновлено
Росіяни атакували ракетою адмінбудівлю в Кривому Розі: кількість поранених зросла до 31, серед них діти
18:28
Огляд
S.T.A.L.K.E.R. 2: Серце Чорнобиля
S.T.A.L.K.E.R. 2. Гра, яку чекали 15 років. Усе, що треба знати про український феномен гейм-індустрії
18:26
Бронювання військовозобов'язаних працівників
За час аудиту 5% підприємств втратили статус критично важливих, - Мінекономіки
18:19
евакуація
У Краснопіллі на Сумщині оголосили обов'язкову евакуацію населення
18:05
OPINION
Удар по Дніпру МБР "Рубіж": паніка недоречна
17:59
санкції проти Росії
США запровадили нові санкції проти банківського сектору РФ
17:49
Міністр оборони Великої Британії Джон Гілі
Міністр оборони Британії Гілі пообіцяв посилити підтримку України через "дуже явну ескалацію з боку Путіна"
17:42
держдума РФ
Держдума РФ ухвалила трирічний бюджет із рекордними видатками на війну в 2025 році
17:33
Ма Шенкунь
Новопризначений посол Китаю розпочав роботу в Україні
17:33
Ексклюзив
імпорт електроенергії
"Залишилось протриматися ще місяць, а далі буде все позитивно": енергетичний експерт про імпорт електроенергії
17:30
Ексклюзив
ядерна зброя
Використовувати без ядерного боєзаряду нема сенсу: Defense Express про міжконтинентальну ракету "Рубеж"
17:05
Ангела Меркель
"Готовий накинутися в будь-який момент": Меркель у мемуарах згадала про враження від Путіна
17:02
Віктор Ляшко
У бюджеті заклали 190 млн грн на збереження репродуктивних клітин військовослужбовців, - Ляшко
16:58
Війна з Росією, ЗСУ
На фронті з початку доби сталося 114 боєзіткнень: росіяни активізувалися на Покровському напрямку
16:47
Дмитро Фірташ
Велика Британія ввела санкції проти Фірташа та його дружини
16:33
Ексклюзив
українські біженці в ЄС
Влада взагалі не знає, де перебувають українці у світі, - експерт з міграційної політики
16:33
росія, санкції
The Guardian: Як Росія може відповісти на дозволи Великобританії та США Україні завдавати удари по її території їхніми ракетами?
16:31
Валерій Залужний
"Перед Україною вже стоїть не Росія": Залужний вважає, що у 2024 році розпочалася Третя світова війна
16:21
Оновлено
ППО
Ракетна атака по Дніпру: РФ могла вдарити міжконтинентальною балістичною ракетою "Рубеж"
16:02
Ексклюзив
Спеціальний представник України з питань Близького Сходу та Африки Максим Субх
"За останній рік було відкрито 7 нових посольств в Африці": спецпредставник України Субх
16:00
OPINION
Ракетою "Рубіж" Москва цілила у голови на Заході
15:37
Наріман Джелялов
Понад 60 кримських політв’язнів потребують термінової меддопомоги, - Джелял
15:30
Інфографіка
Ціни на пальне АЗС
Ціни на пальне сьогодні: скільки коштують бензин, газ і дизель
Більше новин