Чи може штучний інтелект розпочати ядерну війну? Ч.2

Отже, ми бачимо, як влаштовані алгоритми доступу компетентних та наділених повноваженнями осіб до ядерної зброї в різних країнах. Однак навіть маючи це розуміння,  непросто відповісти на запитання в заголовку статті. Бо ж з "людським фактором" теж не таке все просто. Адже "ядерні кнопки" є сьогодні не лише у демократичних країн, а й у тих, кого до демократії аж ніяк не зарахуєш. І це лише один з нюансів щодо "людського фактора". Коли ж всі ці нюанси слід аналізувати на стику людини та штучного інтелекту, ще складніше.

ілюстрація: gettyimages

"Листи останнього засобу", або як відсікти людський фактор від автоматики

Система бойового застосування ядерних сил свідомо має компонент підтвердження людського наміру при натисканні "ядерного гачка". А ще  при цьому людина одночасно залучається для зняття "ядерного запобіжника" на кожному кроці прийняття рішень. Однак ніхто не може достеменно знати, чого насправді хотів би кожен наступний лідер ядерної держави, навіть безумний лідер – ядерного "двіжу" чи ядерного спокою? Або що робити, якщо бойовий наказ не може бути відданий людиною, наприклад у разі ворожого удару по тому, хто мав його віддати? Сама можливість знищення керівництва певної країни, щоб уникнути ядерного удару, може бути провокативною, особливо якщо таке керівництво видається надто агресивним.

Ще один фактор. Будь-яка велика війна включає пріоритетний вплив на військово-політичне керівництво з метою розгрому. У ядерній країні це також ризик розгрому ядерних сил ще до їх застосування. Тому різні ядерні держави намагаються розв'язувати питання, що робити, якщо людський намір, та сама політична воля до удару, не може бути застосований у потрібний момент. 

Перший варіант – зафіксувати політичну волю наперед і залишити її безпосереднім виконавцям. 

Другий – побудувати технічно живучий канал доведення, який дотягнеться до виконавців навіть крізь руїни ядерної війни й транслюватиме поточну чи заздалегідь визначену політичну волю. Обидва варіанти – способи гарантувати ядерну відповідь на напад без підміни людини машинною автоматикою.

У британській системі бойового управління, за описами, існують так звані "листи останнього засобу". Кожен новий прем’єр-міністр власноруч готує інструкції командирам підводних човнів з ядерною зброєю (єдиному типу ядерної зброї Великобританії) на випадок, якщо уряд знищено і зв’язок обірвано. Варіантами можуть бути, наприклад: завдавати удару по визначених цілях, передати човен під контроль союзника або діяти іншим чином на власний розсуд. Це заздалегідь оформлена людська політична воля, яка може бути проявлена лише після формалізованих перевірок втрати зв’язку з вищим керівництвом.

запуск балістичної ракети з-під води, фото: gettyimages

Це має сенс тільки коли екіпажі ядерних платформ мають усю необхідну інформацію для потенційного ядерного удару і несанкціоноване застосування виключається людською колективною мораллю та технічною складністю процедури удару. У США до кінця 1990-х ситуація була схожа з британською. Хоча запобіжники PAL для ядерних боєприпасів були введені, коди активації не були вилучені із сейфів підводних човнів. Драматична ситуація, коли американський човен отримав непевну команду завдати удару і виникла суперечка між двома особами на човні, отримала художнє зображення в голлівудському блокбастері "Багряний приплив" (1995). Це сприяло вибору на користь запобіжника ціною гачка. Великобританія могла зберегти стару систему. Тут варто зауважити, що королівський флот історично ніколи не зраджував корону і тому не потребує додаткового підтвердження лояльності.

Що таке "автоматика мертвої руки", або чи зможе ШІ помститися за смерть Путіна?

Радянсько-російська відповідь на проблему обезголовлення – система "Периметр". Це зовсім не "робот, що сам стріляє", а система дублювання бойового наказу. У разі реєстрації масованого удару й мовчання командного центру запускається десяток так званих командних ракет. Вони несуть замість ядерних боєголовок супутники, які передають сигнали авторизації ядерним силам, що вижили. Фінальні дії виконують екіпажі й команди, маючи для цього необхідну інформацію та коди. Це автоматизація доведення, а не автоматичний удар. Ймовірно, сигнал із супутника має асоціюватися у російських військових із Гагаріним і знімати бар’єри недовіри до автентичності бойового наказу.

Ідея "Периметру" в російській системі командування, вірогідно, щільно пов’язана з концепцією зустрічних ударів у відповідь, які, ймовірно, є основною формою дій ядерних сил. 

Нагадаємо: упродовж 2022 року Путін час від часу погрожував "миттєвими зустрічними ударами". Сенс у тому, що удар у відповідь має бути не тоді, коли пил осяде і виявиться, що мало що залишилось, а коли реєструються перші ядерні вибухи на землі. Ядерний удар навіть однієї ракети з кількома бойовими блоками не може бути односекундним. Через необхідність вистроювання у космосі бойових порядків удар розтягується щонайменше на хвилини, фактично на години, і це дає російським ядерним силам час на старт до завершення потенційного ворожого удару, поки не все знищено. Саме з розрахунку на старт за умов початку ядерної війни останні моделі радянських і сучасні російські ракети мають спеціальне покриття, зазвичай чорного кольору, яке погіршує масові характеристики, але підвищує живучість у моделі зустрічного удару у відповідь.

Для цих миттєвих зустрічних ударів і потрібен "Периметр". Коли російське керівництво опиняється у відчаї, система управління ядерними силами може передавати попередню авторизацію ядерного удару у вигляді часткового зняття запобіжників. Далі командні ракети при реєстрації ядерних вибухів можуть транслювати екіпажам ядерних платформ і командам на землі наказ "натиснути гачок".

Після закінчення "холодної війни" росіяни провели інформаційну операцію про те, що Кремль начебто має "мертву руку", яка застосує ядерну зброю навіть якщо російське керівництво буде знищене. Ця історія проникла в глибини "Вікіпедії" навіть більше, ніж "червона ртуть", інша утаємничена й нині забута радянсько-російська суперзброя.

Версії того, що має робити "мертва рука", різняться. Але правдоподібною видається лише теза, що у РФ передбачена можливість розділення у часі зняття запобіжників політичною волею керівництва й натискання гачка, яке може бути автоматизованим при початку ядерної війни. Це і є путінські "миттєві зустрічні удари у відповідь". Чи можлива у РФ інтелектуальна, хоча б автоматична "мертва рука", якій би Путін довірив помститися за своє раптове знищення? Навряд чи. Взяти Київ за три дні для РФ було б простіше, ніж створити "мертву руку" як альтер егоросійського лідера, який прагне жити вічно.

концепція російської ядерної кнопки, ілюстрація: gettyimages

Загроза того, що ШІ отримає владу над "ядерною кнопкою" малоймовірна не лише з боку Росії. Колись США мали систему ретрансляційних супутників для дублювання наказів на застосування ядерних сил. Але цей компонент управління було списано. Натомість США зробили ставку на живучі канали та резервні "людські" вузли управління: бункери в горах, повітряні командні пункти, мережі мінімально необхідного зв’язку, захищений супутниковий зв’язок. Логіка тут проста: краще за будь-яку ціну зберегти людину в контурі прийняття рішень, ніж шукати машинну заміну, якій можна було б довірити майбутнє.

Чи буде схильним ШІ до ядерної ескалації: можливі варіанти

Підсумуємо. Система управління застосуванням ядерної зброї в різних країнах виглядає збалансованою з погляду політичного контролю та воєнної експертизи, людського наміру і машинної автоматики. Людина свідомо залишена в ключових ланках ухвалення й реалізації рішень, попри те, що логіка оптимальних з погляду військової ефективності ядерних ударів давно обчислена. Вона вимагає швидкої реалізації й уже десятиліття тому могла  бути автоматизована значно більшою мірою, ніж це є сьогодні. Але бачимо, що цього свідомо зроблено не було. 

Попри це процедура застосування ядерної зброї може знову вимагати перегляду через бурхливий розвиток штучного інтелекту. Це зумовлено кількома чинниками. 

По-перше, триває оновлення ядерних сил США і Китаю, що збігається з бурхливим розвитком і стратегічною конкуренцією цих країн у сфері штучного інтелекту. У багатьох галузях ШІ дозволив здешевити процеси ухвалення рішень, прискорити їх і підвищити ефективність. Це стосується, зокрема, військової сфери. Тому може виникнути нова спокуса збільшити ступінь автоматизації рішень щодо ядерної зброї.

По-друге, цикли модернізації ядерних сил, які можуть тривати десятиліттями, зазвичай виявляються дорожчими, ніж планувалося, часто – значно дорожчими. Так відбувається і з поточним оновленням ядерних сил США і Китаю. З одного боку, це стимулює сторони до переговорів, з іншого – підсилює інтерес до ШІ, який у багатьох інших сферах дозволяє зменшити витрати. 

По-третє, штучний інтелект на певному рівні свого розвитку, який може бути досягнутий до середини 2030-х, коли завершиться модернізація американських і китайських сил, може виявитися таким, що краще за людину визначатиме, як саме варто розпоряджатися ядерною зброєю "на благо людини". Ця комбінація технічної спокуси й бюджетного тиску робить питання про межі участі ШІ у рішеннях щодо ядерної зброї особливо актуальним. Приміром, ми не зможемо визначити, чого захоче штучний інтелект, коли досягне рівня людської свідомості.  Застосувати ядерну зброю, щоб підкорити людство? А, можливо,  знищити її, щоб люди не застосували зброю проти датацентрів, де народжується нова штучна свідомість?

Але що мається на увазі під залученням ШІ у цій сфері? Існують різні рівні. 

Перший – використання ШІ для збору й фільтрації даних для стратегічної обізнаності щодо ядерних загроз, раннього попередження про ядерний напад, оцінки його наслідків. Тут машинні алгоритми та системи штучного інтелекту можуть суттєво підвищити якість ухвалення рішень людиною – з ухилом у бік уникнення застосування зброї.

колаж: ЕСПРЕСО

Другий рівень – планування і моделювання застосування ядерної зброї. Тут ризики межують із можливостями. ШІ може побачити стратегію "виграшу" у ядерній війні, яку не бачить людина. З іншого боку, більш реалістичний, позбавлений ідеологічних нашарувань прогноз ШІ може, навпаки, знизити ризик війни. Імовірно, саме тут міститься основна сфера, яку в американо-китайській декларації позначено як вимогу залишати за людиною остаточне рішення про застосування ядерної зброї. ШІ може бути лише радником, але навіть у цьому випадку – не головним.

Третій рівень – заміна людини на нижчих ланках, де потрібна перевірка бойових наказів і підтвердження людського наміру. Тут очевидно, що жоден штучний інтелект не може підмінити людину.

Нарешті, існує сфера ширшого використання ШІ у плануванні й реалізації самих програм оновлення ядерних арсеналів. Ця, здавалося б, технічно очевидна сфера застосування ШІ в оборонній промисловості породжує іншу проблему, на яку наразі немає відповіді: наскільки просунуті моделі ШІ можуть виявитися упередженими – до ядерного озброєння чи до роззброєння. Може статися, що ШІ людського рівня виявиться "генетично" схильним до ядерного стримування, але не можна виключати й протилежного – схильності до гонки озброєнь.

Обмеження ядерної зброї як альтернатива ядерної ескалації з боку ШІ

Особиста думка автора: для свідомого штучного інтелекту ядерна зброя як символ влади менш важлива, ніж ризик, який вона становить для його фізичної основи – захищених датацентрів з автономним енергоживленням. Тобто штучний інтелект, зрештою, має підштовхувати людство до ядерного роззброєння. З іншого боку, знищення ядерної зброї може відбутися і через "правильний" обмін ударами між ядерними коаліціями з порівнянними арсеналами. Оскільки прогнозування таких сценаріїв уже зараз неможливе без залучення самого штучного інтелекту, краще справді не зловживати його доступом до ядерних таємниць людства.

Отже, тотальна заборона ШІ у питаннях застосування ядерної зброї навряд чи реалістична. Але досяжною є гарантія, що людина залишається у контурі ухвалення рішень, а людська свідомість домінує в ключових моментах над штучною. Це передбачає подальше розділення контурів автоматики та людського наміру та обмеження впливу ШІ на людську свідомість при формуванні цього наміру. Не можна виключати, що на цій невідомій території центральною проблемою стане створення надійних "captcha", які здатна пройти лише людська свідомість, незатьмарена ШІ.

штучний інтелект, ілюстрація: gettyimages

Отже, є висока ймовірність, що неможливо зберегти розділення людського й автоматичного контурів управління ядерною зброєю та обмежити вплив ШІ на людську свідомість у момент ухвалення рішення. В такому разі, можливо, найкращою опцією міжнародних переговорів стане не обмеження ШІ, а під винятково людським контролем – обмеження самої ядерної зброї до мінімуму, необхідного для контролю над фізичною основою штучного інтелекту.

Матеріал підготовлено у співпраці з Консорціумом оборонної інформації (CDI), проєктом, який об’єднав українські аналітичні та дослідницькі організації та спрямований на посилення інформаційної підтримки й аналітичного забезпечення у сфері національної безпеки, оборони й геополітики.