Livin 'on the edge: нова діалектика

В современной «цифровой вселенной» объем данных, равно как и число источников их генерирующих, стремительно растет. Времени на поиск, верификацию и, в особенности, на интерпретацию информации становится все меньше. Технологии развиваются все быстрее, а расчетные модели применяются во всех областях человеческой деятельности - от психологии до экономики.

Нередко мы оказываемся в ситуации, когда необходимо изучить множество элементов, характеристики и связи которых друг с другом неизвестны либо слишком сложны. Для того, чтобы разобраться в этом хаосе, создаются платформы, анализирующие по определённым критериям имеющиеся данные. Все активнее применяются системы «машинного интеллекта», способные самостоятельно «учиться» в процессе обработки поступающей информации и действовать не по заранее прописанным алгоритмам, но руководствуясь «собственным» опытом.

Большинство методов современного машинного обучения (ML) тесно связано с использованием искусственных нейронных сетей. Они могут обучаться с «учителем» (анализируя совокупность опорных данных об откликах на воздействие), без «учителя» и с подкреплением (по сути, это частный случай обучения с «учителем», однако в систему вводится обратная связь со средой).

Для решения практических задач рабочие гипотезы, дающие удовлетворительное описание явлений, зачастую важнее природы этих явлений. Найти «общее» решение удастся не всегда, но, если статистика, связанная с тем или иным процессом, позволяет заключить, что за неким событием A всегда наступает событие B, этого, нередко, оказывается достаточно.

Разумеется, такой подход скрывает определённые опасности. В частности, никогда нельзя быть до конца уверенным, что поведение системы не зависит от каких-то «скрытых» параметров, которые попросту не учтены в модели. Ошибки экстраполяции порождают риск появления «черных лебедей». Насим Талеб определяет такие события как удовлетворяющие следующим критериям: они оказывают значительное влияние, наблюдатель не ожидает их, и существует возможность их предсказания «задним числом». В любой достаточно сложной инфраструктуре такие события происходят достаточно часто.

Большинство реальных систем находятся в состоянии неустойчивого равновесия. При этом на них воздействуют множественные обратные связи со средой. Это означает, что процессы в системе регулярно проходят через «точки бифуркации», а лавинообразные «эффекты бабочки» фактически исключают возможность долгосрочного прогнозирования даже на основе вероятностного подхода.

Скорость глобальной трансформации неуклонно растет, равно как и влияние технологий. Все больше специалистов прогнозирует наступление момента, после которого прогресс станет настолько быстрым, а наш уровень понимания явлений и контроль над ними будут настолько незначительными, что любая экстраполяция ранее известных тенденций утратит смысл. Произойдет слом всех основных паттернов, относящихся не только к технологии, но и к самому человеку, который станет объектом этих перемен. Этот момент принято называть технологической сингулярностью. Предполагается, что ее спровоцирует появление достаточно мощного AI (искусственного интеллекта), цели и действия которого человек уже не сможет предсказывать.

Пока философы ломают копья вокруг таких понятий, как «сознание» и AGI, практики уже внедряют решения, которые могут изменить наш мир до неузнаваемости. Реализованные на аппаратном уровне или эмулированные нейронные сети бьют все новые рекорды и грозят оставить без работы миллиарды людей.

Разработчики даже достаточно простых алгоритмов ML зачастую имеют довольно смутное представление о том, что в данный момент происходит в построенных ими платформах AI. Анализ текущего состояния системы в реальном времени, вообще говоря, требует создания еще более производительной системы, попытка мониторинга которой, в свою очередь порождает дурную бесконечность.

Многих пугает перспектива появления «верховного алгоритма», который запросто может «упразднить» человечество. Например, когда сотрудники Facebook отключили одну из тестируемых ими систем искусственного интеллекта, после того, как обнаружили, что боты начали «общаться» между собой не на английском, а на собственном, непонятном экспериментаторам языке, созданном AI для того, чтобы эффективнее обмениваться информацией, многие услышали в этом неумолимую поступь грядущего «восстания машин».

Свой вклад в цифровую революцию вносят многие технологии. Однако, что, в конечном счете, является ключевой характеристикой новой экосистемы? Пожалуй, в качестве таковой выступает беспрецедентная плотность взаимосвязей между людьми во всем мире.

Посредников в любых процедурах взаимодействия становится все меньше, скорость операций и объем циркулирующих в сети данных стремительно растут, условия сделок определяются исключительно их непосредственными участниками, а информацию люди получают децентрализовано.

Как это обычно бывает с явлениями, разобраться в которых очень сложно, технологии кажутся многим своеобразным магическим артефактом, безграничные возможности которого подвластны лишь узкому кругу посвященных.

Много шума было вокруг расследования Das Magazin, посвященного тому, как анализ больших данных с помощью ML применялся для манипулирования пользователями социальных сетей что, якобы, предопределило победу Дональда Трампа. Это предположение пока остается бездоказательными. Однако нет сомнений в том, что технологии, давно известные, например, маркетологам, потенциально способны решать широкий круг задач. Профайлинг и Big Data успешно применяются для того, чтобы, проанализировав поведение целевой аудитории, побудить ее совершить тот или иной поступок. Виртуальная реальность сегодня действительно определяет ценности и мотивацию, желания и страхи.

Для того, чтобы предсказать реакцию социума на те или иные факторы, зачастую используются модели, в которых люди представлены искусственными нейронами (например, сумматорами) с неким набором параметров и правил обработки поступающей информации.

Что собой представляет искусственный нейрон в современных сетях и моделях? По большому счету, это очень простой элемент, у которого есть какое-то ограниченное количество входов. К каждому из них «привязан» некоторый вес, а «нейрон» просто суммирует данные с этих входов, учитывая их вес. Процесс «обучения» нередко сводится к подбору правильных весов. Самые крупные построенные сегодня платформы насчитывают миллионы узлов. Для сравнения, в человеческом мозге без малого 100 миллиардов нейронов.

Машинное обучение, как и сингулярность, обычно обсуждаются лишь в контексте «мыслящих машин». А что, если самая грандиозная искусственная нейронная сеть уже создана? Что нам мешает рассмотреть платформу, элементами которой являются живые люди?

Число пользователей крупнейших социальных сетей уже сейчас уступает числу нейронов в головном мозге homo sapiens лишь немногим более чем на порядок. При этом в отличие от нейронов ЦНС и устройств/функций, используемых для их имитации в моделях, каждый человек может обрабатывать информацию из миллионов источников (входов) и «возвращать» под ее воздействием очень широкий диапазон реакций. В конечном счете, речь идет об огромной нейронной сети, каждый узел которой сам является колоссальной нейронной сетью.

Другими словами, уже сегодня появилось нечто, что можно назвать искусственной нейронной суперсетью, алгоритмы работы которой не до конца понятны даже тем, кто создал технологии, предопределившие ее возникновение. Можно ли «обучить» человечество подобно титаническому многослойному перцептрону?

Отсутствие в данный момент общего «аналитического» описания процессов в такой системе (во многом обусловленное зачаточным состоянием дисциплин, связанных с психологией), в значительной степени компенсируется колоссальным объемом накопленных данных, которые можно разделить на обучающую и контрольные выборки. При обработке на современных вычислительных платформах с практически неограниченной мощностью, они позволяют задействовать различные эвристические методы. Иначе говоря, можно тестировать сеть как «черный ящик», сопоставляя информацию/раздражители, подаваемые на вход, и поведение системы на выходе для выявления тех или иных паттернов.

Можно полемизировать о том, в какой степени эти процессы сводятся к таким привычным типам ML, как «обучение с подкреплением» или «обучение без учителя». В сущности, это не так уж и важно. Что действительно интересно, так это то, как можно управлять подобной системой, и какие цели будут преследовать те, кто осознал ее огромный потенциал. Возможности сверхдержав, величие самых грандиозных империй прошлого меркнут на фоне той власти, которую могут получить гики, всего 15 лет назад разрабатывавшие в студенческом общежитии сайты для оценки привлекательности фотографий сокурсников.

Все это, кстати, не означает, что «технологическая сингулярность» маловероятна. Если на то пошло, сценарии, связанные с появлением суперкластера, построенного на «биологических» элементах, можно рассматривать как ее частный случай. Более того, предложения превратить человека в киборга, для того, чтобы он мог остаться конкурентоспособным в мире «разумных» машин (звучавшие, в том числе, от Илона Маска), в этом контексте лишь приближают сингулярность.

При этом «архаика» не сдаст свои позиции без боя. Слишком многое на кону. Мы видим, как с каждым годом растут риски, вызванные попытками авторитарных режимов приспособить новые технологии к своим пещерным нуждам.

В каком-то смысле, вопрос сводится к тому, что произойдет раньше. Условная «Кремниевая долина», осознав свою мощь, упразднит архаику, или архаика, понадеявшись на комфортабельный бункер и «Мертвую руку», успеет дать последний бой. К сожалению, последний во всех смыслах. Есть и третий вариант. Стороны заключат союз. Но очень хочется верить, что на этот раз лучшие умы не станут обслуживать худшие режимы. Хотя бы потому, что впервые в истории талантливым людям для достижения успеха не требуются договоренности с государством и посредственностями.