8 декабря 2016, четверг

Сценарий терминатора. Опасен ли искусственный интеллект

ROBOY, робот, разработанный в лаборатории искусственного интеллекта из университета Цюриха

ROBOY, робот, разработанный в лаборатории искусственного интеллекта из университета Цюриха

Ведущие IT-компании удивляют мир инновационными разработками — предвестниками искусственного интеллекта, который может быть создан уже в ближайшее время

Вопрос в том, какой будет эта машина — бесчувственным слугой человечества или его агрессивным завоевателем. 

Опустевшая земля. Руины городов, в которых хозяйничают бесчувственные машины. Закопченное небо. Катастрофическая экология. Немногочисленные люди, которые прячутся от машин в подземельях и ведут отчаянную войну за выживание…

Не исключено, что такой апокалиптический сценарий так и останется прерогативой классической фантастики 1980‑х благодаря всего-навсего одному клочку бумаги. Чеку на $10 млн, который известный американский изобретатель и предприниматель Илон Маск выписал в качестве пожертвования исследовательской организации Future of Life Institute. Организация объединяет множество ведущих исследователей в области искусственного интеллекта (ИИ) и своим основным приоритетом называет безопасность разработок в этой области.


Уже этим летом беспилотный автомобиль от Google выйдет на дороги общего пользования
Уже этим летом беспилотный автомобиль от Google выйдет на дороги общего пользования


Маск — не первый публичный человек, который выражает озабоченность мрачными перспективами разработок ИИ. Например, до него об этой опасности неоднократно высказывался знаменитый британский физик Стивен Хокинг, буквально предостерегавший мир от реализации пророчества культового фильма 1984 года Терминатор режиссера Джеймса Кэмерона.

Но Маск — один из тех, кто активно действует. В день, когда мир облетело известие о его крупном пожертвовании, создатель SpaceX и Tesla Motors написал в своем Twitter: “Мы должны быть чрезвычайно осторожными с ИИ, это потенциально большая опасность, чем ядерное оружие”.

Воспрепятствовать тому, чтобы люди своими руками создали что‑то наподобие кэмероновского Skynet, который со временем восстанет против людей, можно, только озаботившись этим вопросом заранее, убежден изобретатель.

“Все разработчики должны объединиться и признать, что безопасность искусственного интеллекта — это приоритет в его разработке”,— говорит Маск, который недавно пообещал, что к 2020 году электрокары Tesla станут беспилотными, следовательно, будут задействовать если не совершенный ИИ, то по крайней мере его элементы.

Уже сегодня во многих странах люди пользуются технологическими новациями, которые свидетельствуют о приближении эры ИИ: кроме беспилотных автомобилей, которые пока используются лишь в тестовом режиме, это еще и голосовые сервисы от производителей современной электроники, технологическое наполнение так называемого умного дома, которое может поставить любой желающий, были бы средства, и прочие предвестники будущего.

Однако вопрос, каким станет это будущее, тревожит все большее число людей. “Маск понимает, что люди все еще негативно воспринимают перспективу умных машин, и нужно заранее изменить их отношение”,— считает американский аналитик и колумнист Forbes Эрик Мак.

Нечеловеческая сила

Google, Facebook, Microsoft, IBM — практически любая известная компания IT-рынка в той или иной степени заявила о себе в контексте исследования ИИ. Даже вроде бы далекие от этой темы компании General Motors и Boeing объединились и инвестируют в собственную лабораторию по разработкам ИИ.

По оценкам экспертов, совокупные затраты ведущих игроков индустрии в этой области оцениваются в сотни миллионов долларов ежегодно.

У каждой из вышеупомянутых компаний уже есть разработки, которыми можно похвастаться, однако до сих пор никто не стремился продемонстрировать какие‑то реальные достижения в области этического контроля над ИИ.


Стивен Хокинг предсказывает победу искусственного интеллекта над человеческим в ближайшие сто лет
Стивен Хокинг предсказывает победу искусственного интеллекта над человеческим в ближайшие сто лет


В большинстве интервью крупнейшие разработчики уклоняются от прямого ответа на вопрос, как избежать потенциальных конфликтов между ИИ и людьми. Чаше всего они отшучиваются, ссылаясь на три закона роботехники фантаста Айзека Азимова или указывая на то, что знаменитый Т-1000 — робот из жидкого металла из второй части Терминатора — в принципе не мог существовать.

“Такое ощущение, что все сначала стараются заставить ИИ хоть как‑то функционировать и лишь затем будут думать, как избежать того, чтобы поумневшие машины могли нанести вред человечеству”,— отмечает Тони Прескотт, британский нейрофизик из Университета Шеффилда.

Тем не менее разработки ведутся, и сегодня они вполне мирные. Одним из пионеров этих исследований стала американская компания Apple. Инженерам компании пришла в голову идея о том, что самое логичное место для появления ИИ (или его прообраза) — это самый популярный гаджет современности, то есть смартфон. Их уникальная разработка — голосовой ассистент Siri — появилась в iPhone 4S осенью 2011 года и буквально потрясла IT-индустрию. Журнал Time даже назвал Siri изобретением года.

Пользователю достаточно было нажать кнопку и произнести вслух свой вопрос, и Siri тут же устремлялась в интернет на поиски необходимой информации. Также по запросу пользователя она могла сделать новое напоминание в календаре или набрать текстовое сообщение.

Казалось бы, Apple в очередной раз произвела революцию и оторвалась от конкурентов на годы. Однако уже спустя несколько месяцев об “изобретении года” стали забывать. Выяснилось, что Siri — довольно унылая собеседница, в большинстве случаев попросту выдающая пользователю банальные поисковые результаты из Google.

Спустя некоторое время в игру вступил Google, показавший свой “умный” сервис Google Now. В отличие от Siri, детище Google старается быть полезным не только, когда этого хочет пользователь, но и когда пользователь о нем даже не вспоминает. А именно — Google Now молча следит за перемещениями и действиями пользователя и изучает его привычки. Через некоторое время он уже в состоянии упреждать их, о чем услужливо оповещает.

Например, вычислив время, когда пользователь регулярно возвращается домой с работы, Google Now заранее сверяется с сервисом дорожных пробок и к моменту выезда прокладывает оптимальный маршрут навигации.

Свой конкурент Siri есть и у Microsoft. Виртуальный ассистент с женским голосом и именем Cortana умеет все то же, что и Siri, но отличается повышенной общительностью. Cortana заточена под диалоги и сама может задавать пользователю вопросы.

Экспансия роботов

Другой сферой, где начинается практическое применение ИИ, является умный дом. Об этой концепции говорят уже не одно десятилетие. К примеру, у компании Microsoft посещение прототипа умного дома уже много лет является обязательной программой пресс-туров журналистов в штаб-квартиру в Редмонде, штат Вашингтон.

До недавнего времени прототипы оставались прототипами, и о практической реализации умного дома речь не шла. Во второй половине 2014 года лед тронулся, и на сегодняшний момент сразу несколько крупных компаний прилагают серьезные усилия для продвижения на рынок вполне конкретных решений.

Среди них и Apple, которая представила единый протокол беспроводного соединения для управления предметами домашней утвари при помощи iPhone. Однако больше всего шума наделали новинки от китайской компании Xiaomi, начавшей свое шествие по этому пути с освежителя воздуха, который был оснащен модулем Bluetooth и мог уведомлять пользователя о том, что в нем пора поменять фильтр.

В январе Xiaomi представила сразу четыре модуля умного дома, включая умную веб-камеру, которая может контролировать телевизор, кондиционер, музыкальный центр. Умную розетку, которая позволяет дистанционно отключить от сети любой бытовой прибор, а также умную лампочку, которая может светить разными цветами и постепенно наращивать яркость для комфортного пробуждения утром.

Все эти гаджеты пользователь может контролировать при помощи смартфона, в частности голосовых команд.

Есть и первые разработки, которые позволяют зачаткам ИИ самостоятельно управлять функционалом умного дома. Например, менять освещение в зависимости от того, насколько бодрую музыку слушает пользователь.

Беспилотные автомобили — еще один повод говорить о том, что эра ИИ не за горами. Уже сегодня владельцы премиальных машин могут наслаждаться такими функциями бортового компьютера, как слежение за рядностью движения, адаптивный круиз-контроль, система оповещения о столкновении, умеющая сама сбрасывать газ и даже тормозить.

В частности, такими решениями оснащают свои автомобили Volvo, Audi, Volkswagen, Range Rover, Acura и другие бренды.

И это только начало. Тестовые беспилотные автомобили компании Google намотали по дорогам США уже более 1 млн км без серьезных аварий.

Прекрасное далеко

Некоторые эксперты предсказывают, что не за горами то время, когда людей будут пускать за руль транспортных средств только на специально отведенных для этого полигонах, как сегодня ковбоев на родео. А по дорогам общего пользования будут ездить только беспилотные автомобили. И управлять ими будет ИИ.

И здесь особенно остро становится вопрос о доверии пользователей разумным машинам, подчеркивают эксперты.

Илон Маск сравнивает эру зарождения ИИ с “укрощением демонов” и призывает к осторожности и поискам решений, которые позволят обезопасить человечество от собственных детищ.

Вызов принимают разработчики многих компаний мира, в том числе украинские. Это стартап Digital Life Lab, который занимается проектом K.A.R.A — разработкой эмпатической, то есть сопереживающей модели ИИ.

“Мы должны сначала научить машину чувствовать, и только после этого — логически мыслить”,— поясняет идею проекта один из его авторов Всеволод Рубцов.

K.A.R.A уже находится на стадии предварительного тестирования. По словам ее создателей, она будет способна распознавать человеческие чувства, то есть будет доброй по умолчанию.

Мы должны сначала научить машину чувствовать и лишь затем — логически мыслить, - Всеволод Рубцов, соавтор проекта K.A.R.A

Тем временем ученые рассуждают о будущем, в котором немалую роль будет играть ИИ, и это, по их мнению, случится совсем скоро. Так, Хокинг заявляет, что уже в течение ста лет искусственный интеллект возобладает над человечеством. Если коротко резюмировать рассуждения Хокинга на этот счет, то он видит будущее в соревновании между здравым смыслом и технологическим прогрессом.

Причем британец подчеркивает, что если биологическая эволюция человеческого вида идет чрезвычайно медленно, то машины прогрессируют довольно быстро. А со временем они сами смогут усовершенствовать себя.

Хотя знаменитый ученый мыслит вполне реалистично, его сложно упрекнуть в излишнем оптимизме. Так, некоторое время назад он заявлял о том, что человечество сможет выжить только в том случае, если покинет Землю. “Мы должны продолжить исследования космоса во благо будущего человечества”,— говорил он.

В то же время профессор Оксфордского университета Ник Бостром не склонен сгущать краски — он говорит о том, что сейчас самое время позаботиться о безопасности ИИ, “чтобы, когда мы наконец достигнем уровня технологий, необходимого для их создания, проблема их дружелюбности к человеку уже была решена”.

Материал опубликован в №18 журнала Новое Время от 22 мая 2015 года

Комментарии

1000

Правила комментирования
Показать больше комментариев

Последние новости

ТОП-3 блога

Фото

ВИДЕО

Читайте на НВ style

Статьи ТОП-10

Подписка на новости
     
Погода
Погода в Киеве

влажность:

давление:

ветер: