Розробник штучного інтелекту компанія DeepMind анонсувала новинку — бота під назвою AlphaStar, який буде грати в популярну онлайн-стратегію Starcraft-2 на рівні «гросмейстера».
Бот не вперше обігрує людей в стратегічній військовій грі. У 1981 році програма під назвою Eurisko, розроблена одним з першопрохідців штучного інтелекту Дугом Ленатом, перемогла в чемпіонаті США з Traveller — дуже складної стратегічної військової гри, де гравець повинен укомплектувати свій флот і битися з флотом противника. Eurisko в результаті присвоїли титул почесного адмірала Traveller. У 1982 році правила турніру були змінені в спробі перешкодити комп’ютеру. Але Eurisko тріумфувала вдруге поспіль. Після того як спонсори пообіцяли скасувати турнір, якщо комп’ютер знову переможе, Ленат відступив.
Піар-відділ DeepMind хотів би, щоб ви повірили, що StarCraft «з'явився на основі консенсусу як наступний грандіозний виклик (у комп’ютерних іграх)» і «був складним завданням для розробників ШІ вже більше 15 років».
В останньому чемпіонаті з Starcraft тільки 4 заявки були подані від академічних або промислових дослідницьких лабораторій. Дев’ять інших ботів були написані окремими людьми, а не в рамках основного напрямку дослідження ШІ.
Насправді, кількість авторів (42) статті DeepMind, опублікованої 31 жовтня в Nature, істотно перевищує число людей, що займаються ботами для Starcraft у всьому світі. Я не хочу затьмарювати успіх цієї інженерної співпраці, але, якщо ви вкладаєте достатньо ресурсів у вирішення проблеми — успіх гарантований.
На відміну від недавніх перемог в комп’ютерних шахах, AlphaStar не був навчений шляхом гри проти самого себе. Він навчився цьому, імітуючи найкращі епізоди з майже мільйона ігор, проведених найкращими гравцями-людьми. До цього AlphaStar в 19 з 20 поєдинків зазнав переконливої поразки, граючи зі справжніми людьми на ігровому сервері StarCraft. AlphaStar грав анонімно, щоб люди не могли використовувати ті слабкості, які могли бути виявлені в попередніх іграх.
У минулому грудні AlphaStar переміг одного з кращих в світі професійних гравців — Гжегожа MaNa Комінча. Але це була версія AlphaStar з рефлексами, які були істотно швидше людських, і необмеженим баченням ігрового поля (на відміну від гравців-людей, які бачать лише одну його частину в певний момент часу). Це насилу можна назвати рівними умовами.
Проте, у StarCraft є деякі особливості, які роблять AlphaStar вражаючою розробкою, якщо не справжнім проривом. На відміну від шахів або го, гравці в StarCraft мають недосконале уявлення про стан справ в грі, але при цьому кількість можливих дій в ній набагато більше. І бій StarCraft відбувається в реальному часі, але вимагає довгострокового планування.
Війни роботів
Виникає питання — чи побачимо ми в майбутньому як роботи не тільки беруть участь у війнах, а й планують їх? Насправді вже відбувається і те, й інше.
Незважаючи на безліч попереджень дослідників ШІ (таких як я), засновників роботехнічних компаній, лауреатів Нобелівської премії і церковних лідерів — повністю автономна зброя, відома як «робот-вбивця» вже була створена і скоро буде використовуватися.
У 2020 році Туреччина розгорне дрони-камікадзе на кордоні з Сирією. Ці дрони будуть користуватися комп’ютерним зором, щоб ідентифікувати, вистежувати і вбивати людей без людського втручання.
Це жахлива розробка. У комп’ютерів немає моральних можливостей вирішувати кому жити, а кому вмирати. Вони не володіють емпатією або співчуттям. «роботи-вбивці» змінять саму природу конфліктів в гірший бік.
А як щодо «роботів-генералів»? Комп’ютери десятиліттями допомагали генералам планувати війну. Ще на початку 90-х, під час операції Буря в пустелі в ході війни в Перській затоці, інструментарій ШІ був використаний, щоб спланувати нарощування сил на Середньому Сході до початку конфлікту. Один генерал США незабаром після цього сказав мені, що кількість зекономлених грошей дорівнює сумі всього, що було витрачено на розробку ШІ до цього.
Комп’ютери широко використовуються генералами і для розробки потенційних військових стратегій. Але ми не віддаємо всі рішення на полі бою в руки одного солдата, тому й перекладати всю відповідальність генерала в руки комп’ютера — значить зайти надто далеко.
Машину не можна притягнути до відповідальності за прийняті нею рішення. Тільки людей. І це наріжний камінь міжнародного гуманітарного права. Проте, щоб прорватися через туман війни і розібратися з великою кількістю інформації, що надходить із фронту, генерали будуть все більше покладатися на підтримку комп’ютера в своїх рішеннях.
Якщо результатом цього стане менша кількість жертв серед цивільних, зменшення вогню по своїх і більшу повагу до міжнародного гуманітарного права, ми повинні вітати таку комп’ютерну допомогу. Але остаточне рішення повинно прийматися людиною, а не машиною.
Ось останнє запитання, над яким варто поміркувати. Якщо технічні компанії, такі як Google правда не бажають, щоб ми боялися повстання машин, чому вони займаються створенням ботів для перемоги у віртуальних війнах замість того, щоб сфокусуватися на чомусь більш миролюбному, наприклад, спортивних комп’ютерних іграх? При всій повазі до спортивних фанатів, ставка була б набагато нижче.
Переклад НВ
Новое Время володіє ексклюзивним правом на переклад і публікацію колонок The Conversation. Републікація повної версії тексту заборонена.
Оригінал опубліковано на The Conversation
Приєднуйтесь до нашого телеграм-каналу Мнения НВ