Люди, не злите роботов

20 мартa, 17:56
1446
Цей матеріал також доступний українською

Отправить миссию на Марс – это вызов, и по крайней мере мы будем понимать, когда сделаем это. Но когда уловить момент, что работы "проснулись"?

Системы искусственного интеллекта (AI) больше становятся похожими на нас. Вы можете попросить Google Home выключить свет в вашей спальне так же, как и попросить об этом вашего партнера-человека.

Когда вы онлайн задаете вопрос на Amazon, иногда непонятно, ответила вам человек или чат-бот этой компании.

Спрос на машины с человеческими психологическими способностями очевиден. И нам следует задуматься над тем, что мы можем ненароком создать.

Что если мы сделаем искусственный интеллект настолько человечным, что наше отношение к нему приведет к тому, что он будет чувствовать страдания и пытаться отомстить нам.

Машины, которые «чувствуют»

Вместе с человеческими психологическими способностями может прийти и сознание. Философы понимают сознание как способность страдать и испытывать наслаждение.

Нам следует задуматься над тем, что мы можем ненароком создать

И сознательные существа можно обидеть. Этот вопрос поднял австралийский философ Питер Сингер в своей книге «Освобождение животных» 1975 года, в которой задавался вопросом, как нам следует вести себя с нечеловекоподобными животными. Он писал: «Если создание страдает, не может быть никакого морального оправдания отказе принять эти страдания во внимание. Неважно, какова природа этого существа, принцип равенства требует, чтобы к их страданию относились так же как страданию – как бы грубо это могло не звучать – любого другого существа».

Сингер посвятил свою карьеру, говоря от имени животных, которые являются сознательными существами, не способными высказаться сами за себя.

В защиту АИ

Разработчики АИ ищут способ создать AGI, или общий искусственный интеллект – машину, способную на любое интеллектуальное задание, которое осуществляет человек. АИ может учиться, а AGI сможет выполнять задачи, выходя за пределы установленного уровня.

У экспертов нет единого мнения относительно того, как скоро появится эта новая технология. Американский изобретатель Рэй Курцвейл ожидает AGI ближайшее время, может в 2029 году. Другие считают, что мы можем ждать этого века.

Но если мы заинтересованы в том, чтобы вести себя с сознательными существами правильно, нам не обязательно ждать прихода AGI.

Сингер отмечал, что многим сознательным созданиям далеко до человеческого интеллекта. Поэтому АИ не должен быть таким же умным, как и человек, чтобы быть сознательным.

Проблема в том, что нет однозначного теста на сознание.

Отправить людей с миссией на Марс – это большой вызов, и по крайней мере мы будем понимать, когда сделаем это.

Создать машину с чувствами – это вызов в более загадочном, философском, смысле. Поскольку мы не имеем ясных критериев для машинного сознания, мы не можем быть уверены, когда достигнем его.

С точки зрения научной фантастики

Проблема неоднозначности машинного сознания присуща научно-фантастическому видению АИ.

Возьмем Ниску. Это человекоподобный робот, которая работает секс-работницей в телесериале Humans. Считается, что в отличие от многих других, она обладает сознанием. Когда Ниску спросили, почему она убила клиента, она объяснила: «Ему хотелось быть грубым».

Человек-адвокат Лора Хокинс отвечает: «Да разве это что-то неправильное, что он не думал, что ты можешь чувствовать? Разве не лучше, если бы он воплотил свои фантазии с тобой в борделе, чем с кем-то другим, кто действительно способен чувствовать?»

С человеческой точки зрения, сексуальное насилие, направленное против бессознательной машины – это преступление без жертв.

Но как по отношению к секс-роботу, который получил сознание? Ниска продолжает объяснять, что была напугана поведением клиента по отношению к ней:

«И я извиняюсь, что не могу плакать или.. истекать кровью, выкручивать руки и все такое. Ну, вы знаете. И говорю вам, я была напугана».

Humans – не единственная научная фантастика, предупреждающая о нападениях в порыве мести со стороны машин, созданных для использования людьми ради удовлетворения или боли.

В телевизионном римейке сюжета Westworld, люди заходят в тематический парк и убивают андроидов, отказавшись убивать в своей компьютерной игре, убеждены, что их жертвы не имеют сильных чувств, так как не могут иметь никаких чувств вообще.

Но опять же, определенные андроиды получают сознание и начинают воздавать своим человеческим мучителям.

Мы только люди

Действительно ли это только научная фантастика? И до сознательных машин еще слишком далеко? Возможно. А может и нет.

И плохие привычки уходят долго. Мы до сих пор переживаем философское похмелье от ужасной идеи французского мыслителя ХVII века Рене Декарта о том, что животные – это безмозглые автоматы, которым не хватает чувственности.

Если мы собираемся наделить машины человеческими психологическими качествами, нам следует быть готовыми к тому, что они могут стать сознательными. Как тогда они отреагируют на наше поведение по отношению к ним?

Возможно, наше отношение к бессознательным роботам с искусственным интеллектом должно исходить из того, как бы мы хотели, чтобы люди относились к любому будущему сознательному роботу, который может чувствовать и страдать. Как бы мы хотели, чтобы этот будущий сознательный робот реагировал на нас?

Может быть большая разница между машинами и животными, которых защищал Сингер. Животные не могут отомстить. Однако сознательные машины – вполне.

Новое Время обладает эксклюзивным правом на перевод и публикацию колонок The Conversation. Републикация полной версии текста запрещена.

Оригинал опубликован на The Conversation

Присоединяйтесь к нашему телеграм-каналу Мнения Нового Времени

Журнал НВ (№10)

Момент истины

Шесть главных претендентов на президентское кресло ответили НВ на семь вопросов — политических, мировоззренческих и личных

Читать журнал онлайн

Стань автором

Если Вы хотите вести свой блог на сайте Новое время, напишите, пожалуйста, письмо по адресу:

nv-opinion@nv.ua

Выбор редакции

Политика

Вчера, 10:17

thumb img
Первый указ. Известные украинцы рассказали, что бы они сделали на президентском посту
Культура

Вчера, 13:41

thumb img
Месть ей к лицу. Рецензия на криминальную драму с Николь Кидман Час расплаты
Авто

Вчера, 07:01

thumb img
Электрички в будущее. 10 лучших электрокаров нашего времени