Штучний інтелект може перетворити автономну зброю на роботів-вбивць. Чому це дійсно страшно

23 серпня, 2017 середа
19:03

Роботи почнуть вбивати самостійно, і це стане третьою воєнною революцією після винаходу пороху і атомної зброї. Так думають Ілон Маск та провідні експерти в галузі штучного інтелекту

Зміст

Фахівці вимагають заборонити автономну зброю

116 провідних експертів в галузі робототехніки і штучного інтелекту (Artificial intelligence - AI) закликають Організацію Об'єднаних Націй (ООН) заборонити розробку і використання роботів-убивць. Серед цих фахівців - мільярдер і винахідник Ілон Маск.

Це не перший раз, коли Маск закликає обережніше ставиться до нових розробок у сфері штучного інтелекту. Ще на початку серпня, коли AI обіграв досвідченого гравця DotA 2, мільярдер попередив про небезпеку штучного інтелекту. Маск вважає, що AI несе "набагато більший ризик", ніж ядерні можливості Північної Кореї.

null

Ілон Маск і Мустафа Сулейман (засновник компанії DeepMind Technologies, Google, яка займається розвитком технологій AI) очолили групу з 116 експертів з 26 країн. Усі вони закликають до заборони автономної зброї.

ООН ще 2015 року планувала конференцію, щоб обговорити застосування автономної зброї: безпілотні літальні апарати, танки та автоматичні кулемети. Однак тоді у організації забракло коштів, щоб заснувати новий комітет.

У листопаді ООН знову збирає конференцію, щоб обговорити відкладені питання. Напередодні цієї події, група засновників компаній AI та робототехніки відправила до ООН відкритого листа, що закликає запобігти гонці озброєнь, яка полягає в розробці роботів-убивць.

У своєму листі до ООН учасники попереджають, що ця гонка озброєнь з використанням робототехніки загрожує вступити в стадію «третьої воєнної революції» після винаходу пороху та ядерної зброї.

На думку експертів, подібна зброя тільки збільшить площу воєнних дій та кількість смертей мирних жителів. Автономна зброя перетвориться на інструмент терору, її використовуватимуть деспоти.

"Ми не повинні довго роздумувати. Тільки-но скринька Пандори відкриється, його буде важко закрити", - йдеться в листі.

Чому треба заборонити автономну зброю вже зараз

Експерти впевнені, що технологія AI досягла точки, коли виготовлення автономної зброї можливе вже за кілька років, а не десятиліть.

Штучний інтелект можна використовувати для того, щоб убезпечити поле битви для військових. Нехай роботи борються за людей. Однак фахівці побоюються, що якщо військові не будуть фізично брати участі в боях, то бій стане більш масштабним і смертоносним.

Страх за життя часто обмежує дії військових. Але у роботів технічно не буде подібних інстинктів - вони вбиватимуть без страху і жалю, якнайшвидше, поки не зламаються. Людині, на відміну від робота, потрібно набагато більше часу на прийняття рішення. Крім того, будь-яка техніка може дати збій, а комп'ютер може бути "зламаний" злочинцями.

"На відміну від інших потенційних проявів AI, які досі залишаються в межах наукової фантастики, автономні системи зброї вже зараз перебувать на порозі виготовлення. Вони можуть завдати багато шкоди мирним жителям і принести глобальну нестабільність", - розповів засновник Clearpath Robotics Райан Гарипов для the Guardian.

Саме тому група експертів на чолі з Маском і Сулейманом вимагають розширити список забороненої зброї, який був прийнятий конвенцією ООН 1983 року.

До списку забороненої зброї вже входять хімічна та біологічна зброя, засліплююча лазерна зброя, розривні боєприпаси, осколки яких неможливо виявити рентгенівським променем. Також конвенція обмежує можливість використання протипіхотних мін.

А чи не занадто пізно

Назва "роботи-вбивці"  одразу викликає в уяві зображення з наукової фантастики - Термінатора або Robocop’а. Однак смертоносна автономна зброя вже використовується.

Наприклад, корейська компанія Samsung виробляє не тільки смартфони, а й бойових роботів з 2006 року. Зокрема, робот-страж Samsung SGR-A1 вже охороняє кордон між Північною Кореєю і Південною Кореєю.

Подібні роботи-прикордонники, яких компанія Samsung розробила на замовлення уряду, є першою у своєму роді автономною системою.

nullробот-вартовий Samsung SGR-A1

Технічно робот здатний стріляти самостійно. Він так само здатний "гукнути" порушнику кордону, і якщо людина не зможе сказати кодове слово, робот відкриє вогонь на ураження. Однак південнокорейський уряд заперечує, що роботів переведено в такий автономний режим. За їхніми  словами, на даний момент роботами керує людина-оператор.

Але роботи-прикордонники вже не єдині автономні бойові системи. Наприклад, бойовий "невидимий" дрон Великої Британіі - "Taranis", названий на честь кельтського бога грому.

Це перший, автономний і невидимий бомбардувальник з великим радіусом дії. Оскільки дрон - автономний, оператора до нього не передбачено. Машина діятиме самостійно, згідно з програмою.

"Taranis" пройшов тестування ще 2013 року, в пустелі Австралії. Дрон може літати до 24 годин, розрізняти ціль і атакувати її без втручання людини.

Так само як і корейці, група британських розробників (BAE Systems) спочатку говорила, що не збираються використовувати дрон у бойових діях, а лише хотіли перевірити свої можливості. Однак вже 2030-го автономний дрон замінить пілотовані людиною літаки Tornado GR4 у британських ВВС.

У подібних "воїнів" є етична перевага - вони не відчувають ненависті або страху. Не вміють брехати, їх не можна переконати в чомусь. Подібні автоматизовані військові технології змінять характер війни. Скриньку Пандори вже відкрито, попри намагання Маска запобігти цьому.

Теги:
Читайте також:
Київ
+0.2°C
  • Київ
  • Львів
  • Вінниця
  • Дніпро
  • Донецьк
  • Житомир
  • Запоріжжя
  • Івано-Франківськ
  • Кропивницкий
  • Луганськ
  • Луцьк
  • Миколаїв
  • Одеса
  • Полтава
  • Рівне
  • Суми
  • Сімферополь
  • Тернопіль
  • Ужгород
  • Харків
  • Херсон
  • Хмельницький
  • Черкаси
  • Чернівці
  • Чернигів
  • Біла Церква
  • USD 41.98
    Купівля 41.98
    Продаж 42.49
  • EUR
    Купівля 43.59
    Продаж 44.29
  • Актуальне
  • Важливе
2025, середа
22 січня
12:42
електроенергія
Споживання електроенергії залишається високим: ситуація в енергосистемі 22 січня
12:36
Армія РФ атакувала Костянтинівку на Донеччині: двоє поранених, пошкоджені будинки
12:31
Ексклюзив
Сергій Згурець, український журналіст, військовий експерт
Будемо очікувати на період турбулентності, де будуть різні пропозиції: Згурець про план Трампа щодо врегулювання війни
12:29
Lifecell
Оператор lifecell планує підвищити вартість тарифів
12:25
Сирія, Тартус
Сирія розірвала інвестиційну угоду з РФ щодо управління портом Тартус
12:16
Інфографіка
долар євро валюта обмін
Курс валют на 22 січня: скільки коштують євро, долар і злотий
12:14
Керівництво черкаського хімзаводу викрили на співпраці з РФ: за два роки відправили продукцію на $1,8 млн
12:08
Європарламент
У ЄС розглянуть проєкт резолюції про фальсифікацію виборів у Білорусі
12:04
OPINION
блог Арсеній Яценююк
Обіцянка Дональда Трампа про сильне лідерство США має початися з України
11:35
Командувач Обʼєднаних сил НАТО в Європі генерал Крістофер Каволі
"Є причина, чому РФ привезла солдатів із КНДР": командувач НАТО в Європі Каволі оцінив можливості росіян прорвати фронт
11:23
Огляд
світ, міжнародний огляд
Українці борються за справедливу мирну угоду, а США та ЄС готуються до економічної війни. Акценти світових ЗМІ 22 січня
11:20
Ексклюзив
Карта бойових дій за 15-22 січня
Втрачаючи живу силу сотнями, ворог не має територіальних успіхів: заступник комбата БПАК "Ахіллес" про ситуацію на Куп'янщині
11:15
ппо
Сили ППО знищили 65 російських дронів, 30 локаційно втрачені
11:15
Огляд
Карта бойових дій за 15+22 січня
Карта бойових дій за період 15-22 січня: зс РФ пішли на штурм останньої цитаделі на південному фронті Донеччини
10:57
Удосконалить надання меддопомоги: для військових запровадять електронну первинну медичну картку
10:45
Коригування ракетних ударів РФ: адвоката з Дніпра затримали на кордоні й арештували за підозрою в держзраді та виправданні окупантів
10:25
У 2024 році в Україні встановили рекорд із розкриття вбивств за час Незалежності
10:18
Ексклюзив
Воїни 24-ї ОМБр показали, як виглядає знищений росіянами Часів Яр на Донеччині
У Часовому Яру залишаються близько 220 цивільних, які відмовляються виїжджати попри бойові дії в місті, - МВА
10:13
День Соборності України
22 січня: День Соборності України. Чим відоме свято, його історія та цікаві факти
10:11
Дональд Трамп
Трамп доручив спецпредставнику Келлогу завершити війну в Україні за 100 днів, але майже ніхто не вірить у таку можливість, - WSJ
10:05
ССО ЗСУ
Бійці ССО в бою з північнокорейцями знищили 21 окупанта і поранили ще 40
10:01
OPINION
Про що свідчать перші заяви та укази Трампа
09:57
безпілотний авіаційний комплекс Poseidon
Міноборони допустило до використання в ЗСУ безпілотний авіаційний комплекс Poseidon
09:43
Донецька область
На Донеччині минулої доби через обстріли РФ загинула людина, троє отримали поранення
09:35
Володимир Зеленський
"Разом ми змогли вистояти": Зеленський привітав українців З Днем Соборності
09:32
Каховська ГЕС, підтоплення
Збитки на €72,9 млрд: за час масштабної війни Україна зафіксувала понад 7 тис. екологічних злочинів РФ
09:21
Міністерство оборони України
Наглядова рада Агенції оборонних закупівель продовжила контракт із чинною директоркою
09:02
Ексклюзив
мобілізація в Україні
Боюся, щоб армію не зробили цапом-відбувайлом за втрату територій, - депутат міськради Харкова про затримання екскомбрига Горбенка
09:00
Партнерський матеріал
Підвищення податків в Україні: експертка розповіла, як це вплине на ринок нерухомості
08:56
ґрати
Хабар у $170 тис.: до суду передали справу проти працівника Офісу генпрокурора
08:36
Марко Рубіо і Дональд Трамп
Адміністрація Трампа хоче завершити війну в Україні так, щоб вона не почалася знову через 2-4 роки, - Рубіо
08:21
Оновлено
ЗСУ
Минулої доби на фронті сталося 121 боєзіткнення, з них 61 на Покровському напрямку
08:17
Еліна Світоліна, Олімпіада-2024
Світоліна програла американці Кіз у чвертьфіналі Australian Open
08:03
OPINION
Трамп: Путін руйнує Росію. Колонка Віталія Портникова
07:59
Ілюстративне фото
У Тель-Авіві чоловік напав з ножем на перехожих, 4 постраждалих
07:30
Інфографіка
втрати окупантів
Армія РФ за добу в Україні втратила 1950 окупантів, 11 танків і 60 артсистем
07:24
Оновлено
Дональд Трамп
На адміністрацію Трампа подали до суду 22 штати через указ скасувати громадянство дітям мігрантів за правом народження
07:09
Дональд Трамп
"Його засудили покидьки": Трамп помилував засновника Silk Road, який відбував довічне покарання за продаж наркотиків
07:07
кримськотатарський прапор
Окупанти в Криму в 2024 році щонайменше 64 рази порушили права політв'язнів на здоров'я, - КРЦ
06:47
Ілюстративне фото
У Литві затримали росіянина, який постачав до РФ високотехнологічне обладнання попри санкції
Більше новин