История закончилась, остались только новости

Йеллоустонская кальдера, столкновения с астероидами, коричневые карлики, вспышка сверхновой в окрестностях Солнечной системы – это все тут ни при чем. Безусловно, многие ждут красочного апокалипсиса, но вероятность этих событий существенно не изменилась за последнюю пару миллионов лет, так что и говорить об этом просто скучно. Риски пандемий несколько выросли, но все равно не настолько, чтобы говорить о приближении последних дней.

Более того, в сущности, ничего апокалипсического, даже в масштабах Земли, не произойдет. Просто сменится эпоха. В этом уже не приходится сомневаться.

Представьте себе неандертальца, каким-то невероятным образом попавшего в Сингапур наших дней. Это не сюжет второсортного фантастического рассказа. Это положение, в котором мы с вами окажемся через 20 лет. Впрочем, лишь в самом оптимистичном сценарии. При этом неандерталец в современном городе стал бы диковинкой и сенсацией, у нас на это нет никаких шансов.

В чем же, собственно, дело? Мы выбрались из пещер благодаря соревнованию. Приспособленный выживал, менее приспособленный, в лучшем случае, ассимилировался более развитой – в первую очередь, технологически – культурой. До поры до времени, несмотря на темные века и локальные провалы, эта тенденция скорее вызывала оптимизм. Луддиты неизменно оказывались на поверку фанатиками и занудами. Алармизм давно уничтожили саркастическими напоминаниями о том, как в XIX веке пророчили гибель мегаполисов под метрами конского навоза. Людям творческого склада – от Оруэлла до Кубрика – их пророчества прощали, главным образом, потому, что антиутопии и сценарии техногенных катастроф можно успешно приспособить для сиюминутной политической борьбы, обвиняя оппонентов в том, что именно они ведут мир к гибели. Но все это уже не важно.

Мы уже не сможем остановиться, даже если захотим. Никакие законодательные ограничения или договоренности высоколобых – которые, по преданию, могли предотвратить создание атомной бомбы – уже ничего не изменят. Только немного отсрочат неизбежное. Точка невозврата пройдена.

Совокупность созданных нами технологий делает нас же архаикой. Экономисты и лидеры мнений – такие, как Маск – обозначают некоторые угрозы ближайшего будущего.

«Генералы всегда готовятся к прошлой войне», – писал Черчилль. Сегодня это можно сказать про всех, кто рассуждает о том, какие показатели будут у той или иной индустрии через 5-10 лет. Уже сейчас, при желании, благодаря платформам AI и киберфизическим системам, даже в развитых странах, можно сократить две трети ставок (в том числе, белых воротничков), а для сохранения номинальной конкурентоспособности человека в новом дивном мире уже предлагают превратить его в киборга. Но и это лишь вершина айсберга.
Ирония заключается в том, что единственное наше конкурентное преимущество – способность синтезировать нечто новое – будет полностью утрачено в ближайшее время именно из-за этой способности. Не осталось ничего, в чем нас не превзойдут наши же творения. Неважно, что общее аналитическое описание интеллекта так и не создано – эффект от появления достаточно производительных систем, решающих задачи «в лоб», при этом используя весь накопленный нами опыт в качестве обучающих выборок, сам по себе будет ошеломительным. И это не завтра. Это уже сегодня. Нет никакого заговора, никто особенно ничего не скрывает, все очевидно уже сейчас по открытым источникам, вопрос лишь в том, способны ли вы увидеть за деревьями лес.

В любой экономике все определяется целесообразностью. Ее можно подменить лозунгами, но тогда она рухнет в достаточно короткие (с исторической точки зрения) сроки. Все, что бесполезно, будет выброшено из игры и никакой вэлфэр не может стать решением. Так вот, впервые в истории, мы становимся лишними, как биологический вид. Можно предположить, что некоторые владельцы нынешних «юникорнов» будут играть в социалочку и пытаться «гуманизировать» свои платформы. Равно как «сильные мира сего», далекие от четвертой индустриальной революции, попытаются их приспособить к своим пещерным нуждам и монетизировать, в меру своего понимания мира. Но это не играет никакой роли.
Когда по любому заданному вектору параметров, созданные на конкурентном рынке системы превосходят человека, для этого самого человека просто не остается места. В самом деле, исторически, у раба была ценность, определяемая спросом и возможностью его заменить. Как бы ни развивались экономика и социальные институты, все то же самое можно сказать про клерка, инженера, физика или артиста. Что произойдет, когда в «живых» специалистах не будет никакой необходимости? Что станет ценностью и кто будет ее определять, если сама экономика и ее контрагенты в нынешнем значении этих слов утратят смысл?

Безусловно, в системе, где автоматизация, в том числе, платформы искусственного интеллекта, все шире вводятся в контур управления, а сама система разрастается и усложняется все быстрее, риски катастроф растут стремительно. Сбои, ошибки, намеренная атака могут породить цепную реакцию или эффект бабочки, который окажется губительным для всей системы.

Но даже если этого не произойдет, не приходится сомневаться в том, что уже через 15-20 лет мы окажемся в мире, в котором ничто из того, что мы сегодня умеем, знаем, считаем полезным, ценным, значимым не будет востребовано. Откуда взялась эта цифра? Из достаточно несложного функционального анализа, призванного оценить робастность модели, описывающей наблюдаемые тенденции. Если проанализировать скорость изменений в экономике, технологии, социальной сфере, станет очевидно, что она хорошо аппроксимируется показательной (не обязательно экспоненциальной) функцией от времени. И сейчас перемены происходят настолько быстро, что мы уже не в состоянии не только предсказать ближайшее будущее, но даже строго описать то, что уже произошло. В итоге, именно через 15-20 лет экстраполяция любых исторических тенденций перестанет работать, что, собственно, и будет означать наступление новой эпохи.
Мы уже не контролируем собственную деятельность. По большому счету потому, что момент, когда инструменты для комплексного анализа кумулятивного воздействия созданных нами технологий еще позволяли описать происходящее, уже пройден, а глобальная конкурентная борьба обострилась до предела. Отказаться от дальнейшего развития технологических платформ никто не может, но даже грубо смоделировать эффект, производимый ими, уже не представляется возможным, поскольку эта задача порождает дурную бесконечность.

Мир, уже совсем скоро, изменится не просто до неузнаваемости. Увы, в нем не будет места не только реднекам, но и тем, кто, как им кажется, стоит на переднем краю цифровой революции. Мы будем теми самыми неандертальцами в появившемся, словно ниоткуда, непостижимом мегаполисе. Судя по всему, мы будем проигрывать на собственном поле – «интеллектуальной деятельности» – созданным нами же полностью автономным системам больше, чем эректусы сапиенсам.

С точки зрения теории динамического хаоса или теории игр, перспективы наши не выглядят особенно обнадеживающими. Мы просто лишние в любом сценарии (даже самом оптимистичном). По большому счету, как культура, мы просто трусливые, эгоистичные, беспощадные, циничные, лицемерные, конформистские потребители, которые позволили лучшим представителям своего вида создать что-то незаурядное, лишь чтобы обрести более совершенные инструменты убийства себе подобных или ради весьма незамысловатого в эстетическом плане «процветания». Даже понимая, что это приведет нас к катастрофе, мы не могли отказать себе в создании технологий, которые сделают это максимально эффективно. Так что едва ли приходится сетовать на то, что новый мир будет не слишком гуманен. Не важно, что там получается в модифицированном уравнении Дрейка. Плакать по нам точно никто не будет.

В любом случае, все к лучшему. Осталось лишь решить, как провести следующие 20 лет.