Штучний інтелект може перетворити автономну зброю на роботів-вбивць. Чому це дійсно страшно

23 серпня, 2017 середа
19:03

Роботи почнуть вбивати самостійно, і це стане третьою воєнною революцією після винаходу пороху і атомної зброї. Так думають Ілон Маск та провідні експерти в галузі штучного інтелекту

Зміст

Фахівці вимагають заборонити автономну зброю

116 провідних експертів в галузі робототехніки і штучного інтелекту (Artificial intelligence - AI) закликають Організацію Об'єднаних Націй (ООН) заборонити розробку і використання роботів-убивць. Серед цих фахівців - мільярдер і винахідник Ілон Маск.

Це не перший раз, коли Маск закликає обережніше ставиться до нових розробок у сфері штучного інтелекту. Ще на початку серпня, коли AI обіграв досвідченого гравця DotA 2, мільярдер попередив про небезпеку штучного інтелекту. Маск вважає, що AI несе "набагато більший ризик", ніж ядерні можливості Північної Кореї.

null

Ілон Маск і Мустафа Сулейман (засновник компанії DeepMind Technologies, Google, яка займається розвитком технологій AI) очолили групу з 116 експертів з 26 країн. Усі вони закликають до заборони автономної зброї.

ООН ще 2015 року планувала конференцію, щоб обговорити застосування автономної зброї: безпілотні літальні апарати, танки та автоматичні кулемети. Однак тоді у організації забракло коштів, щоб заснувати новий комітет.

У листопаді ООН знову збирає конференцію, щоб обговорити відкладені питання. Напередодні цієї події, група засновників компаній AI та робототехніки відправила до ООН відкритого листа, що закликає запобігти гонці озброєнь, яка полягає в розробці роботів-убивць.

У своєму листі до ООН учасники попереджають, що ця гонка озброєнь з використанням робототехніки загрожує вступити в стадію «третьої воєнної революції» після винаходу пороху та ядерної зброї.

На думку експертів, подібна зброя тільки збільшить площу воєнних дій та кількість смертей мирних жителів. Автономна зброя перетвориться на інструмент терору, її використовуватимуть деспоти.

"Ми не повинні довго роздумувати. Тільки-но скринька Пандори відкриється, його буде важко закрити", - йдеться в листі.

Чому треба заборонити автономну зброю вже зараз

Експерти впевнені, що технологія AI досягла точки, коли виготовлення автономної зброї можливе вже за кілька років, а не десятиліть.

Штучний інтелект можна використовувати для того, щоб убезпечити поле битви для військових. Нехай роботи борються за людей. Однак фахівці побоюються, що якщо військові не будуть фізично брати участі в боях, то бій стане більш масштабним і смертоносним.

Страх за життя часто обмежує дії військових. Але у роботів технічно не буде подібних інстинктів - вони вбиватимуть без страху і жалю, якнайшвидше, поки не зламаються. Людині, на відміну від робота, потрібно набагато більше часу на прийняття рішення. Крім того, будь-яка техніка може дати збій, а комп'ютер може бути "зламаний" злочинцями.

"На відміну від інших потенційних проявів AI, які досі залишаються в межах наукової фантастики, автономні системи зброї вже зараз перебувать на порозі виготовлення. Вони можуть завдати багато шкоди мирним жителям і принести глобальну нестабільність", - розповів засновник Clearpath Robotics Райан Гарипов для the Guardian.

Саме тому група експертів на чолі з Маском і Сулейманом вимагають розширити список забороненої зброї, який був прийнятий конвенцією ООН 1983 року.

До списку забороненої зброї вже входять хімічна та біологічна зброя, засліплююча лазерна зброя, розривні боєприпаси, осколки яких неможливо виявити рентгенівським променем. Також конвенція обмежує можливість використання протипіхотних мін.

А чи не занадто пізно

Назва "роботи-вбивці"  одразу викликає в уяві зображення з наукової фантастики - Термінатора або Robocop’а. Однак смертоносна автономна зброя вже використовується.

Наприклад, корейська компанія Samsung виробляє не тільки смартфони, а й бойових роботів з 2006 року. Зокрема, робот-страж Samsung SGR-A1 вже охороняє кордон між Північною Кореєю і Південною Кореєю.

Подібні роботи-прикордонники, яких компанія Samsung розробила на замовлення уряду, є першою у своєму роді автономною системою.

nullробот-вартовий Samsung SGR-A1

Технічно робот здатний стріляти самостійно. Він так само здатний "гукнути" порушнику кордону, і якщо людина не зможе сказати кодове слово, робот відкриє вогонь на ураження. Однак південнокорейський уряд заперечує, що роботів переведено в такий автономний режим. За їхніми  словами, на даний момент роботами керує людина-оператор.

Але роботи-прикордонники вже не єдині автономні бойові системи. Наприклад, бойовий "невидимий" дрон Великої Британіі - "Taranis", названий на честь кельтського бога грому.

Це перший, автономний і невидимий бомбардувальник з великим радіусом дії. Оскільки дрон - автономний, оператора до нього не передбачено. Машина діятиме самостійно, згідно з програмою.

"Taranis" пройшов тестування ще 2013 року, в пустелі Австралії. Дрон може літати до 24 годин, розрізняти ціль і атакувати її без втручання людини.

Так само як і корейці, група британських розробників (BAE Systems) спочатку говорила, що не збираються використовувати дрон у бойових діях, а лише хотіли перевірити свої можливості. Однак вже 2030-го автономний дрон замінить пілотовані людиною літаки Tornado GR4 у британських ВВС.

У подібних "воїнів" є етична перевага - вони не відчувають ненависті або страху. Не вміють брехати, їх не можна переконати в чомусь. Подібні автоматизовані військові технології змінять характер війни. Скриньку Пандори вже відкрито, попри намагання Маска запобігти цьому.

Теги:
Читайте також:
  • USD 41.19
    Купівля 41.19
    Продаж 41.67
  • EUR
    Купівля 44.82
    Продаж 45.46
  • Актуальне
  • Важливе
2024, вiвторок
5 листопада
07:39
Становище навколо міста Курахове Донецької області (02.11.2024)
РФ окупувала Степанівку та просунулася біля 4 населених пунктів України, - DeepState
07:37
втрати окупантів
Сили оборони за добу ліквідували 15 танків, 29 артсистем і 1260 військових армії РФ
07:32
Литва солдат
У Литві пропонують виключати зі збройних сил тих, хто має громадянство РФ і Білорусі
07:19
Радослав Сікорський
Сікорський: Сибіга не дотримався обіцянки досягти прогресу у справі ексгумації жертв Волинської трагедії
07:16
Оновлено
Shahed-136
Армія РФ запустила "шахеди" та КАБи по Україні: у Києві працює ППО, у Харкові є постраждалі
07:15
Грузія, Тбілісі, мітінг
Опозиція в Грузії планує проводити щоденні протести
07:03
наручники
У США арештували працівника виборчої дільниці, який надсилав погрози підриву виборців
06:48
Ілюстративне фото
Армія Ізраїлю ліквідувала очільника розвідки "Хезболли" в Сирії
06:38
Оновлено
Ракетоносій "калібрів"
Росія утримує в Чорному морі один ракетоносій
06:32
Майя Санду
У Молдові розпочалася російська кампанія з дискредитації перемоги Санду, - ISW
06:18
Ілюстративне фото
РФ готувала пожежі на вантажних і пасажирських літаках, що летіли до США і Канади, - WSJ
05:47
Оновлено
КНДР провела випробування ракет
Північна Корея запустила балістичні ракети в бік Східного моря
05:27
Російські окупанти без опізнавальних знаків у Криму у 2014 році
На Донеччині для перевезення зброї та боєприпасів окупанти використовують цивільні вантажівки, - "Атеш"
04:34
Сербія
Катастрофа на залізничному вокзалі в Сербії: міністр інфраструктури заявив, що подасть у відставку
03:14
Радбез ООН
РФ в Радбезі ООН уникнула відповіді на запитання про присутність військ КНДР в Росії
02:45
у Вінниці судитимуть автора пропагандистських пісень
Написав гімн для ПВК Вагнер: у Вінниці судитимуть автора пропагандистських пісень
02:20
грузія
У Грузії на низці дільниць анулювали результати голосування
01:37
Ілон Маск
Суд дозволив Маску розігрувати серед виборців по $1 млн на день за підписання петиції про зброю та свободу слова
00:59
російський танкер Nika Spirit
АРМА виставить на аукціон російський танкер Nika Spirit
00:31
ветерани
Держоператор тилу закликав ветеранів долучитися до реформи забезпечення ЗСУ
2024, понедiлок
4 листопада
22:47
Карделл Річардсон і Бріджит Брінк
Прозорість і підзвітність допомоги США: до Києва прибув головний інспектор Держдепартаменту Карделл Річардсон
22:45
Ексклюзив
армія КНДР
Військові КНДР штатно не укомплектовані технікою, і будуть використані як "живе мʼясо", - "Інформаційний спротив"
22:35
Аналітика
Сергій Згурець, український журналіст, військовий експерт
Військових КНДР використовуватимуть у перших хвилях нових штурмів на Курщині. Колонка Сергія Згурця
22:30
Ексклюзив
вибори у США
Раніше польська та українська діаспори у США голосували за республіканців, - журналістка "Голосу Америки" з Вашингтона
22:28
речник Держдепу США Метью Міллер
Солдати КНДР у Курській області можуть вступити у бої найближчими днями, - Держдеп США
22:15
Ексклюзив
Війна з Росією, ЗСУ
"РФ переходить у новий формат": в Інформаційному спротиві оцінили доцільність запровадження в ЗСУ дивізійної системи
22:03
безпілотник
Україна та Литва домовилися спільно виробляти безпілотники
21:35
Петер Пеллегріні, Словаччина
Словацький президент Пеллегріні відхилив усі прохання громадян долучитися до ЗСУ
20:45
Ексклюзив
вибори в США
"Особливо важливо для "хитких" штатів": журналіст Гончаренко розповів, за що голосують американці
20:40
Зеленський
РФ перекинула 11 тис. північнокорейських військових на Курщину, - Зеленський
20:18
Ексклюзив
парламент Молдови
Москва може взяти реванш: ексміністр оборони Шалару про вибори в Молдові
20:03
Коаліція розмінування: Литва передала Україні 230 пікапів і 240 міношукачів
20:00
OPINION
блог Ірина Цілик
Гниль "русского міра" оточила зусібіч
19:53
зерно, зернова угода
Українським морським коридором перевезли понад 80 млн тонн вантажів
19:52
Rheinmetall незабаром завершить будівництво другого військового заводу в Україні, - Рютте
19:52
Оновлено
Кривбас - Рух, УПЛ
"Зоря" програла ЛНЗ, "Кривбас" втратив очки з "Рухом": результати усіх матчів 12-го туру УПЛ
19:52
Ґрета Тунберг
Грета Тунберг приїхала до Грузії та доєдналася до акції протесту опозиції
19:37
кабмін
Кабмін зареєстрував у Раді законопроєкт про ліквідацію МСЕК
19:34
У Києві відкрилася фотовиставка на підтримку журналістів, які перебувають у полоні РФ
19:32
ДСНС
Удар по Ківшарівці 3 листопада: через обстріли РФ з-під завалів будинку неможливо деблокувати людей
Більше новин