Системы искусственного интеллекта (AI) больше становятся похожими на нас. Вы можете попросить Google Home выключить свет в вашей спальне так же, как и попросить об этом вашего партнера-человека.
Когда вы онлайн задаете вопрос на Amazon, иногда непонятно, ответила вам человек или чат-бот этой компании.
Спрос на машины с человеческими психологическими способностями очевиден. И нам следует задуматься над тем, что мы можем ненароком создать.
Что если мы сделаем искусственный интеллект настолько человечным, что наше отношение к нему приведет к тому, что он будет чувствовать страдания и пытаться отомстить нам.
Машины, которые «чувствуют»
Вместе с человеческими психологическими способностями может прийти и сознание. Философы понимают сознание как способность страдать и испытывать наслаждение.
И сознательные существа можно обидеть. Этот вопрос поднял австралийский философ Питер Сингер в своей книге «Освобождение животных» 1975 года, в которой задавался вопросом, как нам следует вести себя с нечеловекоподобными животными. Он писал: «Если создание страдает, не может быть никакого морального оправдания отказе принять эти страдания во внимание. Неважно, какова природа этого существа, принцип равенства требует, чтобы к их страданию относились так же как страданию – как бы грубо это могло не звучать – любого другого существа».
Сингер посвятил свою карьеру, говоря от имени животных, которые являются сознательными существами, не способными высказаться сами за себя.
В защиту АИ
Разработчики АИ ищут способ создать AGI, или общий искусственный интеллект – машину, способную на любое интеллектуальное задание, которое осуществляет человек. АИ может учиться, а AGI сможет выполнять задачи, выходя за пределы установленного уровня.
У экспертов нет единого мнения относительно того, как скоро появится эта новая технология. Американский изобретатель Рэй Курцвейл ожидает AGI ближайшее время, может в 2029 году. Другие считают, что мы можем ждать этого века.
Но если мы заинтересованы в том, чтобы вести себя с сознательными существами правильно, нам не обязательно ждать прихода AGI.
Сингер отмечал, что многим сознательным созданиям далеко до человеческого интеллекта. Поэтому АИ не должен быть таким же умным, как и человек, чтобы быть сознательным.
Проблема в том, что нет однозначного теста на сознание.
Отправить людей с миссией на Марс – это большой вызов, и по крайней мере мы будем понимать, когда сделаем это.
Создать машину с чувствами – это вызов в более загадочном, философском, смысле. Поскольку мы не имеем ясных критериев для машинного сознания, мы не можем быть уверены, когда достигнем его.
С точки зрения научной фантастики
Проблема неоднозначности машинного сознания присуща научно-фантастическому видению АИ.
Возьмем Ниску. Это человекоподобный робот, которая работает секс-работницей в телесериале Humans. Считается, что в отличие от многих других, она обладает сознанием. Когда Ниску спросили, почему она убила клиента, она объяснила: «Ему хотелось быть грубым».
Человек-адвокат Лора Хокинс отвечает: «Да разве это что-то неправильное, что он не думал, что ты можешь чувствовать? Разве не лучше, если бы он воплотил свои фантазии с тобой в борделе, чем с кем-то другим, кто действительно способен чувствовать?»
С человеческой точки зрения, сексуальное насилие, направленное против бессознательной машины – это преступление без жертв.
Но как по отношению к секс-роботу, который получил сознание? Ниска продолжает объяснять, что была напугана поведением клиента по отношению к ней:
«И я извиняюсь, что не могу плакать или.. истекать кровью, выкручивать руки и все такое. Ну, вы знаете. И говорю вам, я была напугана».
Humans – не единственная научная фантастика, предупреждающая о нападениях в порыве мести со стороны машин, созданных для использования людьми ради удовлетворения или боли.
В телевизионном римейке сюжета Westworld, люди заходят в тематический парк и убивают андроидов, отказавшись убивать в своей компьютерной игре, убеждены, что их жертвы не имеют сильных чувств, так как не могут иметь никаких чувств вообще.
Но опять же, определенные андроиды получают сознание и начинают воздавать своим человеческим мучителям.
Мы только люди
Действительно ли это только научная фантастика? И до сознательных машин еще слишком далеко? Возможно. А может и нет.
И плохие привычки уходят долго. Мы до сих пор переживаем философское похмелье от ужасной идеи французского мыслителя ХVII века Рене Декарта о том, что животные – это безмозглые автоматы, которым не хватает чувственности.
Если мы собираемся наделить машины человеческими психологическими качествами, нам следует быть готовыми к тому, что они могут стать сознательными. Как тогда они отреагируют на наше поведение по отношению к ним?
Возможно, наше отношение к бессознательным роботам с искусственным интеллектом должно исходить из того, как бы мы хотели, чтобы люди относились к любому будущему сознательному роботу, который может чувствовать и страдать. Как бы мы хотели, чтобы этот будущий сознательный робот реагировал на нас?
Может быть большая разница между машинами и животными, которых защищал Сингер. Животные не могут отомстить. Однако сознательные машины – вполне.
Новое Время обладает эксклюзивным правом на перевод и публикацию колонок The Conversation. Републикация полной версии текста запрещена.
Оригинал опубликован на The Conversation
Присоединяйтесь к нашему телеграм-каналу Мнения Нового Времени