Этот вопрос содержит две глобальные проблемы: могут ли компьютеры заменить человека и есть ли технологическое решение для таких задач? И второе: а стоит ли это делать? Имеем ли мы моральное право вместо человека ставить машину? Я считаю, что в этой цепочке всегда должна быть человеческая фигура. Говорим абстрактно: если у вас возникает ощущение, что человек где-то ошибся в принятии решений, то следует искать промежуточное решение.
Представим ситуацию, что юридический процесс протекает традиционно, но компьютер, иногда, вместе с гражданским обществом или без него, может следить за процессом, находить в нем недостатки: что должно было произойти по мнению компьютера, и что случилось на самом деле в судопроизводстве. Учитывая, что демократия - об увеличении роли граждан в процессе принятия решений, мое личное мнение - это не лучшее решение. Потому что оно устраняет людей из процесса гражданского контроля вообще. Я выступаю за то, чтобы мы могли с помощью компьютеров налаживать систему контроля, слежения и ответственности, но не нужно отдавать эту систему на откуп машинам.
Ценность тех или иных технологий - это также и о соблюдении определенных стандартов Этот аспект также касается этического аспекта принятия решений. Его можно разделить на три уровня.
Первый - это личность: ваши персональные решения, личная этика, на что вряд ли кто-то должен влиять, кроме вас. Я бы не советовал программистам иметь этические регулы и вообще бы ограничивал это законом.
Другой уровень - государственный: здесь этическая дилемма принятия решений более сложная. И она тесно переплетается с принятием решений на уровне бизнеса и компаний. Стоит заметить, что установление таких норм зависит и от типа стран - автократия это или демократия. Ведь в первых - деятельность бизнеса или компаний является продолжением политического вектора, а во вторых между этими двумя мирами есть выразительное разделение.
Когда наступают кризисы - в том числе, и вызовы безопасности страны, - правительство имеет непростую задачу выяснить, каким образом стране справиться с ситуацией, не жертвуя ценностями, которые делают ее демократией. В автократических странах все немного проще - таких колебаний нет, однако, там есть ряд других проблем. Например, если вы, как компания, не хотите иметь этические проблемы с искусственным интеллектом, вам стоит о них говорить, устанавливать стандарты. Однако, это не значит, что автократические системы примут те этические стандарты, которые имеете вы, и не пытаться вмешаться.
Принимая во внимание многообразие мира и различия, в том числе и между системами ценностей, находясь в рамках демократии, вы должны придерживаться убеждений этой системы и не подчиняться каким соблазнам отклониться от установленного на этическом уровне. Демократиям сложно взаимодействовать с автократиями.
Те, кто живут в демократическом мире, и люди в целом, склонны больше доверять технологиям, разработанным компаниями в демократических странах, чем в автократических. Ценность тех или иных технологий - это также и о соблюдении определенных стандартов (безопасности, в том числе).
Инженерные компании, которые разрабатывают решения по искусственному интеллекту, есть в разных странах: как в автократических, так и демократических. Именно поэтому компании должны начинать глобальный диалог по этике: несмотря на культурные и исторические разнообразия, не говоря уже о том, что и отношение к этим нормам, в зависимости от устройства стран, будет отличаться, это сложно. Однако кто-то должен взять на себя такую ответственность: даже если пока условий для этого нет - их надо создать.
Текст записан во время презентации книги «Новый цифровой мир. Как технологии меняют государство, бизнес и нашу жизнь», соавтором которой является Джаред Коэн. Событие организовано Фондом Виктора Пинчука