26 апреля 2017, среда

Лекторий. Искусственный интеллект - когда он появится и как научить его большой и чистой любви

Машины не способны будут причинить нам вред, если любовь к нам будет лежать в основах их эмоциональной модели поведения

Машины не способны будут причинить нам вред, если любовь к нам будет лежать в основах их эмоциональной модели поведения

НВ разбирается в перспективах искусственного интеллекта с помощью Всеволода Рубцова, украинского эксперта в области кибернетики и разработчика чувствующей машины Kara.

Персональные роботы и дроны, беспилотные авто и умный дом - все эти фантастические технологии уже стучатся в дверь простого обывателя. Но ключевая технология, без которой невозможно настоящее цифровое будущее, пока остается далекой от совершенства.

Искусственный интеллект (ИИ), воспетый фантастами и затасканный Голливудом, пока еще не только не стал реальностью, но и даже не получил какого-то общепринятого финального определения.

Больше того, еще нерожденный ИИ уже стал объектом масштабной паранойи и практически символом грядущего апокалипсиса. Вслед за вереницей голливудских блокбастеров - толковых и не очень - в сознании рядового человека прочно отпечатался страх перед коварными машинами.

Сначала-то они, конечно, будут служить людям, рассуждает обыватель. Но затем непременно взбунтуются и поработят человечество, превратив его в живые батарейки, или вовсе сотрут с лица Земли.

Каждая новость о том, что ИИ обыграл человека в какую-нибудь интеллектуальную игру либо же поставил правильный медицинский диагноз, сопровождается очередным витком этой паранойи.

Ее подпитывают довольно радикальными заявлениями такие авторитетные личности, как Илон Маск и Стивен Хокинг. Они предупреждают, что ИИ может стать одной из причин гибели человечества.

Оправданы ли такие страхи?

И вообще, стоит ли воспринимать ИИ всерьез?

Нужно ли ждать, что полноценный ИИ будет создан в ближайшее время? Если будет, то на основе какой технологии? И какие механизмы необходимо встроить в него, чтобы о страхах Хокинга со временем можно было вспоминать с улыбкой?

Попробуем разобраться в этих непростых вопросах вместе с Всеволодом Рубцовым.


Всеволод Рубцов
Всеволод Рубцов


Всеволод Рубцов

  • Исследователь, предприниматель, эксперт в области кибернетики и искусственного интеллекта.
  • Автор проекта по созданию эмпатического искуственного интеллекта «КАРА».
  • Основатель и CEO компании Ditcom.
  • Основатель и главный архитектор лаборатории цифровой формы жизни «Digital Life Lab».

Что такое ИИ? Сейчас любая железка умеет искать в Гугле и Википедии, в чем разница между ИИ и всякими голосовыми ассистентами?

Интеллект - это способность к обучению и действию на основе пережитого опыта.

Необходимо понимать, что фундаментальные механизмы нашего интеллекта имеют мало общего с текущей архитектурой компьютеров и языков программирования. В основе интеллекта лежат несколько ключевых аспектов: способность обучаться, способность принимать решения, способность предсказать последствия.

Причем все три фундаментальные механизма работают только вместе и по отдельности интеллектом не являются.

Большинство голосовых ассистентов (Siri, Google Assistant, Cortana) на сегодняшний день показывают зачатки в области обучения и имеют развитые алгоритмы построения диалогов с пользователем.

Однако ни одна из этих программ не формирует собственную мысль в процессе познания окружающего мира. Мы научились создавать сложные и иногда «умные» инструменты, но, к сожалению, это все еще инструменты, и они являются просто отражением результатов работы нашего мозга. Они не создают собственных идей.

Также крайне важно понимать, что интеллект является продуктом работы человеческого мозга и его изучение является ключевой проблемой ученых, занимающихся созданием ИИ.

Мозг человека насчитывает свыше 86 миллиардов нейронов, нервных клеток, соединенных между собой пластичными связями, синапсами. Связи пластичны, а это значит, что ежедневно в нашем мозге какие-то связи теряются, а новые создаются. Этот процесс происходит постоянно.

Таким образом общее количество возможных состояний нашего мозга превышает количество атомов в исследованной части нашей вселенной. Именно поэтому так сложно постичь все механизмы работы человеческого мозга с информацией.

Какими бывают ИИ? Они развиваются как продвинутые компьютеры или же пытаются имитировать человеческое сознание?

Существует две принципиальных позиции в данной области. Первая основывается на идее, что для построения ИИ совсем не обязательно строить его по образу и подобию человека, а достаточно создать систему, способную к самообучению и принятию решений.

Приверженцы подобного взгляда видят смысл в том, что машина не будет отягощена человеческим фактором и эмоциями и сможет выполнять различные задачи как минимум на уровне сложности с человеческим мозгом, но при этом гораздо быстрее. Очень часто подобные системы классифицируют как «слабый ИИ».

Вторая идея предполагает необходимость открытия и изучения всех фундаментальных законов, на которых основывается наше сознание, наш интеллект.

Если понять принципы работы человеческого мозга, то можно создать искусственную систему, которая способна будет обрабатывать информацию так же, как это делает человеческий мозг. Таким образом возможно создание машины, которая способна стать умной в процессе обучения. Такие системы классифицируют как «сильный ИИ».

В обоих направлениях ведутся работы и появляются проекты с разной степенью успешности. Большинство решений, которые сейчас воплощаются в продуктах, являются по сути слабым ИИ.

Отсутствие необходимого понимания фундаментальных механизмов заменяется очень сложными алгоритмами шаблонного поведения, которые дают на выходе результат, воспринимаемый как продукт интеллектуальной деятельности.

Однако нужно понимать, что полноценным интеллектом машины будут обладать только тогда, когда человечество добьется успеха в области сильного ИИ.

Предсказывают, что ИИ скоро превзойдет человека в интеллекте, но как быть с такими вещами, как интуиция? ИИ можно научить интуиции?

Безусловно, с момента создания ИИ будет работать на несколько порядков быстрее человеческого мозга. Изучив фундаментальные кирпичики нашего мозга, ученые получат ключи к пониманию того, как работают смежные с интеллектуальной деятельностью процессы.

На сегодняшний день интуиция до конца не изучена, однако есть предположения, что интуитивные решения являются своеобразным эхом от основного процесса обработки нейронами информации.

Наш мозг постоянно воспринимает поступающую информацию и одновременно предсказывает ее следующее состояние, опираясь на прожитый опыт. Скорее всего, этот механизм позволяет нашему мозгу генерировать решение без анализа всей информации.

Я думаю, что интуиция у машин обязательно будет присутствовать, поскольку ее нельзя вычленить из контекста.

Может ли ИИ научиться чувствовать? Или это всегда будут машины, построенные на чистой логике?

Чувства человека - очень сложный электрохимический процесс. Безусловно, мы можем создать как слабый, так и сильный ИИ без использования чувств.

Однако, мне кажется, цифровые чувства обязаны присутствовать в интеллектуальной модели умной машины, поскольку без них люди не способны будут принять умные машины в свою жизнь. Без чувств машины несут большую потенциальную угрозу человечеству.

Кстати, а зачем нам может понадобиться чувствующий ИИ?

Во-первых, с момента появления, умные машины будут занимать больше места в нашей жизни, чем мы себе сейчас представляем. Например, такие понятия, как «умный дом» станут не актуальны, поскольку умным станет не только дом, но вообще все наше окружение, улица, дорога на работу, офис, пляж и кабинет стоматолога.

Для того чтобы человеку было комфортно в подобной реальности, крайне необходимо, чтобы машина понимала, что сейчас чувствует человек.

Иначе новая реальность не станет более полезной человеку повсеместно. А понимание чувств без эмпатии невозможно. Поэтому везде, где поведение машины должно учитывать эмоциональное состояние человека, необходим чувствующий ИИ.

Допустим, мы создали реально мощный ИИ, какой может быть реальная польза от него? Кроме беспилотных авто и редактирования сэлфи для соцсетей, конечно.

С момента появления сильного ИИ наш мир изменится безвозвратно.

Представьте сознание, способное в миллионы раз быстрее учиться и создавать новые идеи. Сознание, способное ускорить наш прогресс в миллион раз во всех направлениях науки и техники.

Умные машины могут полностью изменить экономику, медицину и технику в масштабах всей планеты. И если человечеству потребовались сотни тысяч лет, чтобы создать ИИ, то новый интеллект способен изменить нашу жизнь за несколько десятилетий.

Вся история человеческой мысли не идет ни в какое сравнение с результатами работы «сверхмозга», обладающего нечеловеческой скоростью, но имеющего человеческую гибкость.

А как быть со страхами относительно того, что машины поработят людей? Этого боятся даже Хокинг и Маск, неглупые вроде бы люди...

Безусловно, ИИ можно рассматривать как некую силу, которая после своего появления на свет будет сама выбирать свой вектор применения. В этом заключается огромная проблема ИИ.

Мы даже не осознаем, что кто-то на этой планете может быть умнее и быстрее чем человек. И проблема заключается не в том, что машины поработят людей.

Давайте проведем мысленный эксперимент, в результате которого человечество появилось на свет не в процессе эволюционного развития живых существ на планете Земля. Представьте, что нас с вами придумали и создали кошки. Аналогия будет примерно такой.

Мы захотим поработить всех кошек на планете? Только в том случае, если они будут угрожать нашему существованию. Возможно, мы сможем жить с ними в одном мире только по тому, что кошки милые, и мы это понимаем, потому что кошки наделили нас чувствами? Можем ли мы существовать на равных?

Вся опасность искусственного интеллекта заключается в том, что человечество еще не представляет, как компенсировать разницу в умственном развитии человека и машины.

Как объяснить ИИ, что такое добро и зло, ведь люди сами спорят на эту тему уже пару тысяч лет?

Природа подсказывает, что единственный жизнеспособный выход в условиях эволюции - это симбиоз. Но будет ли это приемлемо для человечества? Единственный ли это выход? Ответов на эти вопросы пока не существует, однако мы должны их найти до того, как ИИ проснется в нашем мире.

Для того чтобы обезопасить людей от машин, нужно, чтобы последние были абсолютно подчинены первым, что, наверное, маловероятно. Либо же ИИ должен понимать, что такое добро и зло. Но как ему это объяснить, ведь люди сами спорят на эту тему уже пару тысяч лет?

Один из вариантов, который позволит обезопасить человечество, - это цифровые чувства, синтезированные таким образом, чтобы машины имели четкую эмоциональную привязку к человеку.

Машины не способны будут причинить нам вред, если любовь к нам будет лежать в основах их эмоциональной модели поведения. Однако этот либо какой-то другой способ, который искусственно будет ограничивать поведение машин, являются временным решением проблемы, поскольку машины смогут устранить этот механизм в процессе копирования себя.

Тогда последствия от подобных ограничений могут быть скорее негативными чем позитивными.

Готовы ли мы стать бессмертными? Что будет с человеком после оцифровки сознания (ведь перенос, это по сути копирование)?

Сегодня нет однозначных ответов на данные вопросы. Человечество еще не готово принять бессмертие, поскольку многие люди хотят жить вечно, но абсолютно не осознают ради чего им жить вечно.

Возможно ли переселение сознания человека в цифровую среду, отторжение разума от тела? Я уверен, что да, это возможно. Не на текущем уровне технологий, но это возможно. И успех в области создания первого сильного ИИ будет означать начало эры бессмертия для нашего сознания.

Наш опыт накапливается десятилетиями, формирует сложнейшие физиологические структуры в мозге и изменяется каждую секунду. Но если мы сможем заменить нашу физиологию на цифровую среду, то перенос сознания уже не кажется чем-то неосуществимым.

Однако главный вопрос заключается в том, как мы будем с этим жить?

Мне кажется, что люди, получившие бессмертие, навсегда изменятся. Изменятся как вид.

Человечество сделает шаг в новый мир, где материя потеряет свою роль ограничителя для сознания. Мир, где человеку перестанут быть интересны старые ценности, где разум, не ограниченный временем и формой, сможет искать новые пути удовлетворения жажды познания.

Этот мир может принести человечеству множество новых, неизвестных возможностей. И также принесет новые глобальные проблемы.

Разница между ИИ и человеком существует только сейчас, пока мы все еще заблуждаемся в своей уникальности

Сознание человека, перенесенное в компьютер, будет отличаться от ИИ только воспоминаниями, пережитыми до момента копирования.

И безусловно, это также указывает на то, что человечество в привычном нам виде прекратит свое существование. На свет придет новое общество, живущее по абсолютно другим правилам, законам и измерениям.

Общество, в котором не будет биологического разделения видов. Но наши воспоминания будут также вечными. Став бессмертными, мы всегда будем помнить о том, что же мы чувствовали, что пережили.

Читайте также: Лекторий. Темная материя - фантастический зверь и где ее искать

Комментарии

1000

Правила комментирования
Показать больше комментариев

Последние новости

ТОП-3 блога

Читайте на НВ style

Лекторий ТОП-10

Подписка на новости
     
Погода
Погода в Киеве

влажность:

давление:

ветер: