Системи штучного інтелекту (АІ) більше стають подібними на нас. Ви можете попросити Google Home вимкнути світло у вашій спальні так само, як і попросити про це вашого партнера-людину.
Коли ви онлайн задаєте питання на Amazon, іноді незрозуміло, відповіла вам людина чи чат-бот цієї компанії.
Попит на машини з людськими психологічними здібностями очевидний. Та нам слід задуматись над тим, що ми можемо ненароком створити.
Що коли ми зробимо штучний інтелект настільки людяним, що наше ставлення до нього призведе до того, що він відчуватиме страждання та намагатиметься помститись нам.
Машини, які «відчувають»
Разом з людськими психологічними здібностями може прийти і свідомість. Філософи розуміють свідомість як спроможність страждати та відчувати насолоду.
І свідомі створіння можна образити. Це питання підняв австралійський філософ Пітер Сінгер у своїй книзі «Визволення тварин» 1975 року, в якій задавався питанням, як нам слід поводитись з нелюдиноподібними тваринами. Він писав: «Якщо створіння страждає, не може бути ніякого морального виправдання відмові взяти ці страждання до уваги. Немає значення, яка природа цього створіння, принцип рівності вимагає, щоб до їх страждання ставились так само як страждання – як би грубо це могло не звучати – будь-якого іншого створіння».
Сінгер присвятив свою кар’єру, говорячи від імені тварин, які є свідомими створіннями, нездатними висловитись самі за себе.
На захист АІ
Розробники АІ шукають спосіб створити AGI, або загальний штучний інтелект – машину, спроможну на будь-яке інтелектуальне завдання, яке здійснює людина. АІ може вчитись, а AGI зможе виконувати завдання, виходячи за межі запрограмованого.
Експерти не мають спільної думки щодо того, як скоро з’явиться ця нова технологія. Американський винахідник Рей Курцвейл очікує на AGI найближчим часом, може у 2029 році. Інші вважають, що ми можемо чекати на це століття.
Та якщо ми зацікавлені в тому, щоб поводитись зі свідомими створіннями правильно, нам не обов’язково чекати приходу AGI.
Сінгер відмічав, що багатьом свідомим створінням далеко до людського інтелекту. Відтак АІ не мусить бути таким же розумним, як і людина, щоб бути свідомим.
Проблема в тому, що немає однозначного тесту на свідомість.
Відправити людей з місією на Марс – це великий виклик, та принаймні ми розумітимемо, коли зробимо це.
Створити машину з почуттями – це виклик у більш загадковому, філософському, розумінні. Позаяк ми не маємо ясних критеріїв для машинної свідомості, ми не можемо бути певні, коли досягнемо її.
З точки зору наукової фантастики
Проблема неоднозначності машинної свідомості притаманна науково-фантастичному баченню АІ.
Візьмемо Ніску. Це людиноподібний робот, яка працює секс-працівницею у телесеріалі Humans. Вважається, що на відміну від багатьох інших, вона має свідомість. Коли Ніску запитали, чому вона вбила клієнта, вона пояснила: «Йому хотілось бути грубим».
Людина-адвокат Лора Хоукінс відповідає: «Та хіба це щось неправильне, що він не думав, що ти можеш відчувати? Хіба не краще, якби він втілив свої фантазії з тобою у борделі, ніж з кимось іншим, хто дійсно здатен відчувати?»
З людської точки зору, сексуальне насилля, направлене проти несвідомої машини – це злочин без жертв.
Та як щодо секс-робота, який здобув свідомість? Ніска продовжує пояснювати, що була налякана поведінкою клієнта по відношенню до неї:
«І я вибачаюсь, що не можу плакати чи.. стікати кров’ю, викручувати руки і все таке інше. Ну, ви знаєте. Та кажу вам, я була налякана».
Humans – не єдина наукова фантастика, що попереджає про напади в пориві помсти з боку машин, створених для використання людьми задля задоволення чи болю.
У телевізійному римейку сюжету Westworld, люди заходять у тематичний парк та вбивають андроїдів, відмовившись убивати в своїй комп’ютерній грі, переконані, що їхні жертви не мають сильних почуттів, так як не можуть мати ніяких почуттів взагалі.
Та знову ж таки, певні андроїди здобувають свідомість і починають відплачувати своїм людським мучителям.
Ми лише люди
Чи справді це лише наукова фантастика? І до свідомих машин ще надто далеко? Можливо. А можливо, і ні.
Та погані звички відходять довго. Ми досі переживаємо філософське похмілля від жахливої ідеї французького мислителя ХVII століття Рене Декарта про те, що тварини – це безмозкі автомати, яким не вистачає чуттєвості.
Якщо ми збираємось наділити машини людськими психологічними якостями, нам слід бути готовими до того, що вони можуть стати свідомими. Як тоді вони відреагують на нашу поведінку по відношенню до них?
Можливо, наше ставлення до несвідомих роботів зі штучним інтелектом має виходити з того, як би ми хотіли, щоб люди ставились до будь-якого майбутнього свідомого робота, який може відчувати і страждати. Як би ми хотіли, щоб цей майбутній свідомий робот реагував на нас?
Може бути велика різниця між машинами і тваринами, яких захищав Сінгер. Тварини не можуть відомстити. Проте свідомі машини – цілком.
Новое Время володіє ексклюзивним правом на переклад і публікацію колонок The Conversation. Републікація повної версії тексту заборонена.
Оригінал опубліковано на The Conversation
Приєднуйтесь до нашого телеграм-каналу Мнения Нового Времени