Штучний інтелект може перетворити автономну зброю на роботів-вбивць. Чому це дійсно страшно

Анастасія Пашинська
23 серпня, 2017 середа
19:03

Роботи почнуть вбивати самостійно, і це стане третьою воєнною революцією після винаходу пороху і атомної зброї. Так думають Ілон Маск та провідні експерти в галузі штучного інтелекту

Зміст

Фахівці вимагають заборонити автономну зброю

116 провідних експертів в галузі робототехніки і штучного інтелекту (Artificial intelligence - AI) закликають Організацію Об'єднаних Націй (ООН) заборонити розробку і використання роботів-убивць. Серед цих фахівців - мільярдер і винахідник Ілон Маск.

Це не перший раз, коли Маск закликає обережніше ставиться до нових розробок у сфері штучного інтелекту. Ще на початку серпня, коли AI обіграв досвідченого гравця DotA 2, мільярдер попередив про небезпеку штучного інтелекту. Маск вважає, що AI несе "набагато більший ризик", ніж ядерні можливості Північної Кореї.

null

Ілон Маск і Мустафа Сулейман (засновник компанії DeepMind Technologies, Google, яка займається розвитком технологій AI) очолили групу з 116 експертів з 26 країн. Усі вони закликають до заборони автономної зброї.

ООН ще 2015 року планувала конференцію, щоб обговорити застосування автономної зброї: безпілотні літальні апарати, танки та автоматичні кулемети. Однак тоді у організації забракло коштів, щоб заснувати новий комітет.

У листопаді ООН знову збирає конференцію, щоб обговорити відкладені питання. Напередодні цієї події, група засновників компаній AI та робототехніки відправила до ООН відкритого листа, що закликає запобігти гонці озброєнь, яка полягає в розробці роботів-убивць.

У своєму листі до ООН учасники попереджають, що ця гонка озброєнь з використанням робототехніки загрожує вступити в стадію «третьої воєнної революції» після винаходу пороху та ядерної зброї.

На думку експертів, подібна зброя тільки збільшить площу воєнних дій та кількість смертей мирних жителів. Автономна зброя перетвориться на інструмент терору, її використовуватимуть деспоти.

"Ми не повинні довго роздумувати. Тільки-но скринька Пандори відкриється, його буде важко закрити", - йдеться в листі.

Чому треба заборонити автономну зброю вже зараз

Експерти впевнені, що технологія AI досягла точки, коли виготовлення автономної зброї можливе вже за кілька років, а не десятиліть.

Штучний інтелект можна використовувати для того, щоб убезпечити поле битви для військових. Нехай роботи борються за людей. Однак фахівці побоюються, що якщо військові не будуть фізично брати участі в боях, то бій стане більш масштабним і смертоносним.

Страх за життя часто обмежує дії військових. Але у роботів технічно не буде подібних інстинктів - вони вбиватимуть без страху і жалю, якнайшвидше, поки не зламаються. Людині, на відміну від робота, потрібно набагато більше часу на прийняття рішення. Крім того, будь-яка техніка може дати збій, а комп'ютер може бути "зламаний" злочинцями.

"На відміну від інших потенційних проявів AI, які досі залишаються в межах наукової фантастики, автономні системи зброї вже зараз перебувать на порозі виготовлення. Вони можуть завдати багато шкоди мирним жителям і принести глобальну нестабільність", - розповів засновник Clearpath Robotics Райан Гарипов для the Guardian.

Саме тому група експертів на чолі з Маском і Сулейманом вимагають розширити список забороненої зброї, який був прийнятий конвенцією ООН 1983 року.

До списку забороненої зброї вже входять хімічна та біологічна зброя, засліплююча лазерна зброя, розривні боєприпаси, осколки яких неможливо виявити рентгенівським променем. Також конвенція обмежує можливість використання протипіхотних мін.

А чи не занадто пізно

Назва "роботи-вбивці"  одразу викликає в уяві зображення з наукової фантастики - Термінатора або Robocop’а. Однак смертоносна автономна зброя вже використовується.

Наприклад, корейська компанія Samsung виробляє не тільки смартфони, а й бойових роботів з 2006 року. Зокрема, робот-страж Samsung SGR-A1 вже охороняє кордон між Північною Кореєю і Південною Кореєю.

Подібні роботи-прикордонники, яких компанія Samsung розробила на замовлення уряду, є першою у своєму роді автономною системою.

nullробот-вартовий Samsung SGR-A1

Технічно робот здатний стріляти самостійно. Він так само здатний "гукнути" порушнику кордону, і якщо людина не зможе сказати кодове слово, робот відкриє вогонь на ураження. Однак південнокорейський уряд заперечує, що роботів переведено в такий автономний режим. За їхніми  словами, на даний момент роботами керує людина-оператор.

Але роботи-прикордонники вже не єдині автономні бойові системи. Наприклад, бойовий "невидимий" дрон Великої Британіі - "Taranis", названий на честь кельтського бога грому.

Це перший, автономний і невидимий бомбардувальник з великим радіусом дії. Оскільки дрон - автономний, оператора до нього не передбачено. Машина діятиме самостійно, згідно з програмою.

"Taranis" пройшов тестування ще 2013 року, в пустелі Австралії. Дрон може літати до 24 годин, розрізняти ціль і атакувати її без втручання людини.

Так само як і корейці, група британських розробників (BAE Systems) спочатку говорила, що не збираються використовувати дрон у бойових діях, а лише хотіли перевірити свої можливості. Однак вже 2030-го автономний дрон замінить пілотовані людиною літаки Tornado GR4 у британських ВВС.

У подібних "воїнів" є етична перевага - вони не відчувають ненависті або страху. Не вміють брехати, їх не можна переконати в чомусь. Подібні автоматизовані військові технології змінять характер війни. Скриньку Пандори вже відкрито, попри намагання Маска запобігти цьому.

Теги:
Читайте також:
Київ
+25°C
  • Київ
  • Львів
  • Вінниця
  • Дніпро
  • Донецьк
  • Житомир
  • Запоріжжя
  • Івано-Франківськ
  • Кропивницкий
  • Луганськ
  • Луцьк
  • Миколаїв
  • Одеса
  • Полтава
  • Рівне
  • Суми
  • Сімферополь
  • Тернопіль
  • Ужгород
  • Харків
  • Херсон
  • Хмельницький
  • Черкаси
  • Чернівці
  • Чернигів
  • USD 40.53
    Купівля 40.53
    Продаж 41.08
  • EUR
    Купівля 43.4
    Продаж 44.22
  • Актуальне
  • Важливе
2024, понедiлок
17 червня
19:05
повітряна тривога
На Харківщині повітряні тривоги в середньому тривають 16 годин на добу, - Синєгубов
19:00
Інтерв’ю
директор КМІС Грушецький
Близько 60% українців бачать війну як екзистенційну, - директор КМІС Грушецький 
18:53
крапельниця, лікарня
На Полтавщині помер чоловік, поранений внаслідок атаки росіян минулого тижня
18:53
Вибухи на військовому полігоні в Кіровському районі Криму, 19 липня 2023 р.
Близько 15 систем ППО, понад 10 пунктів управління: ЗСУ розповіли про ураження об'єктів у Криму впродовж двох місяців
18:44
Іван Федоров, мер Мелітополя
РФ мілітаризувала Азовське узбережжя: Федоров розповів про імітацію курортного сезону на ТОТ
18:38
Оновлено
На MEGOGO на пів години перервалася трансляція матчу Україна - Румунія на Євро-2024
18:21
"Можемо сидіти 6-7 годин зі світлом": в Yasno спрогнозували ситуацію з відключеннями взимку
18:15
Ексклюзив
територіальний центр комплектування та соціальної підтримки, ТЦК та СП
Коли ТЦК має право повторно направити повістку військовозобов'язаному і позовну заяву до суду: пояснює адвокатка Аніщенко
18:15
Новини компаній
Ferrexpo передала ЗСУ 10 пікапів
Автомобілі для потреб оборони України: Ferrexpo передала ЗСУ 10 пікапів
18:08
OPINION
Олександр Антонюк
Саміт миру у Швейцарії: Аналіз та необхідність політичних маневрів
18:02
Всеволод Князєв
Звільнення ексголови Верховного Суду Князєва: Вища рада правосуддя ухвалила рішення
17:52
Віктор Циганков, збірна України, Євро-2024
Україна розгромно програла Румунії у стартовому матчі Євро-2024
17:51
ЗСУ
ЗСУ вперше захопили російський "танк-черепаху" і взяли у полон екіпаж
17:48
Оновлено
Ілля Забарний, Збірна України, Євро-2024
Румунія - Україна 3:0: онлайн-трансляція нашого стартового матчу на Євро-2024
17:47
Ексклюзив
Дрон Stalker 5.0 може покращити логістику ЗСУ на лівобережжі Дніпра та морських напрямках і здатний бути ударним, - Defense Express
17:36
У Маріуполі окупанти зносять школу №40, яку обіцяли відновити
17:31
Вивчає будівлю станції: до українських полярників вдруге за місяць завітав імператорський пінгвін
17:13
Від російського обстрілу у Нікополі постраждали двоє жінок
16:58
Збірна України, Євро-2024
"Команда на полі завдяки вболівальникам на полі бою": українські футболісти подякували захисникам країни
16:49
Оновлено
Вибух
Окупанти атакували цивільну інфраструктуру на Полтавщині: постраждали 12 людей, серед них діти
16:45
Окупанти в Маріуполі
Росіяни бояться залишатися в Маріуполі через загрозу атаки, тому не ночують у місті, - Атеш
16:44
СБУ оголосила підозру генпродюсеру російської ТРК "Крим", яка поширює пропаганду Москви про війну в Україні
16:21
Петер Пеллегріні, Словаччина
Проросійський президент Словаччини Пеллегріні анонсував візит в Україну
16:08
OPINION
Ростислав Демчук
Саміт миру як альтернатива ООН
16:00
Ексклюзив
ЗСУ
ОСУВ "Хортиця" назвало напрямки, де точаться найжорстокіші бої
15:48
переселенці
Майже 130 тис. ВПО вимушено повернулись у зони бойових дій чи на тимчасово окуповані території, - депутат Ткаченко
15:39
карта
В документах асоціації держав ЄС виявили карту України без Криму та частини Одещини
15:31
путін
"Остання пропозиція Путіна надзвичайно щедра": фейки та маніпуляції світових ЗМІ за 17 червня
15:19
Ексклюзив
ядерна зброя рф ракета
Ставки ростуть: військовий експерт Черник про можливе підвищення ядерної небезпеки
15:06
Греція, спека
У Греції через аномальну спеку загинули четверо людей
15:02
Оновлено
Чеські військові
У Чехії на військовому полігоні вибухнув невідомий боєприпас: є постраждалі
14:42
Польща
Їхали з Білорусі у вантажному потязі: в Польщі затримали чотирьох нелегалів з Алжиру
14:35
Пошкоджені сидіння в кольорах Україниз футбольного стадіону «Сонячний» у Харкові. Інсталяція в Мюнхені, де проходитиме футбольний матч першого туру Євро-2024.
У Мюнхені перед матчем України на Євро-2024 встановили частину трибуни стадіону з Харкова, пошкодженої ракетами РФ
14:12
Українська делегація вихованців МАН здобула 46 нагород GENIUS Olympiad у США
14:11
Інфографіка
Ціни на пальне АЗС
Ціни на пальне сьогодні: скільки коштують бензин, газ і дизель
14:06
OPINION
Сергій Гузь
Навіщо у ТЦК беруть ветеранів з ПТСР
14:02
Оновлено
ЗСУ
Росіяни активізувалися на Харківщині та не зменшують інтенсивність на Покровському напрямку, - Генштаб
13:49
санкції проти Росії
ЄС продовжив на рік санкції проти РФ, запроваджені через анексію Криму
13:46
Пресреліз
Заставка програми Новий Тиждень з Христиною Яцків та Андрієм Смолієм
Телеканал Еспресо запускає нову щотижневу програму в прайм-таймі
13:34
Синоптикиня Наталка Діденко розповіла, коли в Україні закінчаться дощі і прийде спека
Більше новин