Військове чудовисько Франкенштейна. Який кошмар чекає на людство

На чолі цього технологічного перевороту стоїть уряд президента України Володимира Зеленського, який зумів мобілізувати еліту країни в галузі комп’ютерних наук і програмування для захисту держави.

Однак нещодавно Зеленський виступив із попередженням, до якого варто прислухатися. Звертаючись до ООН, він заявив: «Ми переживаємо найруйнівнішу гонку озброєнь в історії людства — тому що цього разу в ній бере участь штучний інтелект. Зброя розвивається швидше, ніж наші здатності захищатися від неї».

Українці заново винайшли війну в технологічному сенсі

Зеленський заявив, що світ має негайно встановити правила для регулювання таких озброєнь — перш ніж стане надто пізно. Для України це не теорія, а повсякденна реальність. Уже понад три роки країна успішно бореться і фактично веде першу в історії війну, керовану штучним інтелектом. Українські дрони, які «думають», артилерія, що наводиться алгоритмами, і автономні системи наведення — це вже не майбутнє. Це сьогодення, в якому щодня вирішуються питання життя і смерті — на суші, на морі та в повітрі.

Решта лише намагаються наздоганяти Україну. Тому послання Зеленського було гранично прямим: «Нам потрібні глобальні правила — і потрібні зараз — які визначать, як ШІ може використовуватися в озброєннях. Це так само невідкладно, як і нерозповсюдження ядерної зброї», — заявив він. — «Військові машини, створені людиною, виходять з-під її контролю… Залишилося зовсім небагато часу, перш ніж дрони почнуть битися з дронами, атакувати критично важливу інфраструктуру і вибирати цілі — повністю автономно, без участі людини».

Про потенційну загрозу неконтрольованого ШІ попереджали і раніше. Ілон Маск називав ШІ небезпекою, що перевершує загрозу з боку Північної Кореї, і говорив, що він може ненавмисно поставити під загрозу все людство. Покійний британський фізик Стівен Гокінг також вважав, що розвиток повноцінного штучного інтелекту може стати кінцем людської цивілізації. Але, мабуть, найбільш тривожною була заява російського президента Володимира Путіна, який відкрито розмірковував про потенційні можливості та загрози ШІ, підкреслюючи, що лідерство в цій сфері означає світове панування. Сьогодні Москва гарячково намагається наздогнати Україну. Китай — теж.

Однак міжнародне право та етичні норми не встигають за новою реальністю. Існують договори, що забороняють протипіхотні міни і хімічну зброю. Але автономні озброєння, як і раніше, залишаються в «сірій зоні». Ось уже кілька років міжнародне співтовариство вчених та інженерів виступає за заборону смертоносних автономних систем озброєнь (LAWS) — так званих «роботів-убивць», тобто машин, здатних самостійно обирати та вражати цілі без участі людини.

Однак замість заборон і контролю світ поки що оперує «добровільними принципами»: від етичного кодексу Пентагону щодо ШІ до європейської концепції «довіреного ШІ». Але всі ці підходи — недостатні, бо не передбачають ані механізмів контролю, ані конкретних вимог, ані покарань. Це означає, що ніщо не зупинить Росію, Китай, Іран, Північну Корею або будь-яку іншу країну від розгортання дронів-убивць і автономних бойових систем.

Стурбованість Зеленського має аж ніяк не теоретичний характер. Вона ґрунтується на інформації про вже наявні озброєння, які або застосовуються на полі бою, або стоять на озброєнні у якихось держав. Наприклад, російський «Посейдон» — це, по суті, «зброя Судного дня»: підводний безпілотник із ядерною силовою установкою і ядерним зарядом, призначений для прихованого подолання океанічних відстаней і підриву біля ворожих берегів із метою створення радіоактивних цунамі.

Кілька років тому цього монстра особисто презентував Володимир Путін, а в лютому 2024 року він заявив, що пристрій «завершує етап випробувань». У Пентагоні назвали «Посейдон» «новим і дестабілізувальним» видом озброєнь, який виходить за межі всіх наявних договорів про контроль над озброєннями. На відміну від звичайної ядерної зброї, цей підводний дрон здатний самостійно орієнтуватися, ухвалювати рішення і завдавати удару після запуску — повне втілення кошмару, про який говорив Зеленський. Росіяни стверджують, що один такий торпедний дрон здатен стерти з лиця землі ціле прибережне місто.

Ще одним прикладом зброї на базі штучного інтелекту, що лякає, є «дрон-камікадзе» або «боєприпас, що баражує» (loitering munitions), — апарат, який вистежує цілі, зависає над ними, а потім пікірує для удару. Такі дрони вже застосовуються в Україні і функціонують без участі людини. «Високоточний боєприпас здатний самостійно виявляти цілі та вражати їх відповідно до заздалегідь заданих параметрів, як найбільш просунуті моделі свого класу», — запевняє російський виробник «Калашников». Про подібні озброєння Зеленський зауважив: «Тепер є десятки тисяч людей, які професійно вміють вбивати за допомогою дронів. Зупинити таку атаку важче, ніж будь-який постріл, удар ножем або вибух бомби».

Пентагон теж працює над секретними проєктами, щоб нівелювати ці можливості, а Китай відкрито переводить поле бою на індустріальну основу. У 2024 році Пекін представив «робопсів», закріплених на гвинтівках, які марширують у строю з військами. Поки що вони управляються дистанційно, але з поліпшеними «зоровими» системами вони зможуть патрулювати і вести вогонь самостійно. Народно-визвольна армія Китаю також випробовує рої дронів, створені для перевантаження оборони, порушення систем зв’язку і завдавання скоординованих ударів. Пекін залучив десятки цивільних робототехнічних компаній до співпраці з військовими і прагне «інтелектуалізувати» війну. У звіті Пентагону з похмурою прямотою зазначається: «Народно-визвольна армія Китаю прагне інтегрувати ШІ на всіх етапах „ланцюжка знищення“ — від злиття розвідданих до автономного ураження цілей».

Ще 2015 року понад тисячу дослідників і експертів у галузі ШІ підписали відкритий лист із попередженням про неприпустимість початку гонки озброєнь із застосуванням ШІ. «Розв'язування перегонів ШІ-озброєнь — погана ідея, і їй слід запобігти шляхом заборони на наступальну автономну зброю, що виходить за межі осмисленого контролю з боку людини», — йшлося у зверненні.

Але відтоді використання ШІ у військовій сфері лише розширилося, і ООН виявила безліч інцидентів, що викликають серйозні етичні та правові побоювання. Точна кількість жертв поки що невідома, але удар безпілотника в Лівії у 2020 році був визнаний Радою Безпеки ООН першим в історії випадком, коли автономна зброя позбавила життя людину. Після 2021 року дрони стали причиною загибелі безлічі мирних жителів в Африці — як під час локальних бойових зіткнень, так і в таборах біженців. Через кілька років в Афганістані дрони випадково вбили фермерів, яких прийняли за бойовиків — лише через те, що вони несли в руках інструменти.

Сьогодні в Україні безпілотники масово заполонили поле бою, небо і водний простір. У 2025 році Моніторингова місія ООН з прав людини в Україні зафіксувала різке зростання кількості випадкових жертв серед мирного населення, загиблих унаслідок дій дронів.

Гонка озброєнь у сфері штучного інтелекту прискорюється в усьому світі, і саме тому Зеленський закликав до її негайного регулювання. Автономні летальні системи необхідно заборонити — повсюдно і під міжнародним контролем. У всіх етапах ухвалення рішень про знищення цілі («kill-chain») має бути обов’язковою участь людини. Мають бути створені міжнародні механізми верифікації з санкційними заходами. А цивільні дослідження в галузі ШІ необхідно надійно захистити від військового застосування.

Очевидно, що військове чудовисько Франкенштейна вже вирвалося з лабораторії. І якщо людство не дослухається до попередження Зеленського і провідних експертів зі штучного інтелекту, наступну світову війну можуть розв’язати зовсім не люди… Але жертвами її в будь-якому разі стануть саме вони.

Вперше надруковано на dianefrancis.substack.com

NV володіє ексклюзивним правом на переклад і публікацію колонок Даян Френсіс. Републікація повної версії тексту заборонена.

Переклад NV