Політ за приладами

Однако неблагоприятный прогноз не означает, что нам следует стать пассивными наблюдателями и запасаться попкорном в ожидании неминуемого светопреставления. Некоторые тенденции, по большому счету, не стоит экстраполировать не только на отдаленную перспективу, но, теперь уже, и на ближайшее будущее. Нельзя забывать о проблемах индукции - «черные лебеди» Юма и Талеба неумолимы. Ироничный Бертран Рассел говорил, что курица, обобщая свой опыт на будущее, могла бы сделать вывод, что ее будут кормить вечно, но в итоге ей просто сворачивают шею.

Можно провести аналогию с хорошо известной историей рейса British Airways BA9. 24 июня 1982 года на высоте более 11 километров самолет внезапно оказался в облаке пепла, выброшенного в атмосферу вулканом Галунггунг. В то время считалось, что такого рода явления не оказывают существенного влияния на безопасность полетов. Это был новый опыт, и ничто не предвещало беды. Однако, когда у Боинга 747 за несколько минут поочередно отказали все четыре двигателя, ситуация стала катастрофической.

Экипаж, совершающий полет в строгом соответствии с инструкциями и утвержденным маршрутом, непосредственно перед инцидентом наблюдает на ветровом стекле огни святого Эльма. На радаре при этом все чисто, нет никаких признаков грозовой активности. В салоне появляется дым и пахнет серой. Источник возможного возгорания не обнаружен. Затем, без видимых причин, появляются признаки помпажа, из двигателей начинает вырываться пламя, и они отказывают один за другим.

Серьезность ситуации сразу становится очевидной пилотам. Однако они не имеют ни малейшего представления о том, что ее спровоцировало. Над Индийским океаном, к югу от Явы, где в этот момент находится самолёт, уже полчаса как стемнело, дым от вулкана не виден. Все, что можно разглядеть в иллюминаторы – странное свечение, исходящее от крыльев и фюзеляжа.

Даже самому отстранённому и не склонному к анализу человеку, по всей вероятности, в этой ситуации стало бы очевидно, что происходит нечто необычное. Однако осведомленность находящихся в салоне о масштабе проблемы определяется комментариями со стороны тех, кто управляет воздушным судном. Стоит отметить, что объявление для пассажиров, сделанное капитаном Эриком Муди, вошло в историю, как «одно из самых больших преуменьшений». КВС сообщил буквально следующее:

Дамы и господа, говорит командир корабля. У нас небольшая проблема. Остановились все четыре двигателя. Мы делаем всё возможное, чтобы запустить их вновь. Надеюсь, это не доставляет вам слишком много беспокойства.

Итак, мы имеем самолет, находящийся на эшелоне 370, у которого отказали все силовые установки, обеспечивавшие его полет до этого. Какими могут быть подходы к выработке решений и стратегии действий в этом случае?

Если бы за судьбу самолета отвечали аналитики, она и в самом деле была бы незавидной. Исходя из имеющихся данных, а точнее, отсутствия релевантной информации - никто не предполагал, что над самолетом нависла угроза, вплоть до того момента, когда у него отказали двигатели. Индустрия смело прокладывала путь прямо через облако вулканического пепла, хотя элементарный здравый смысл подсказывает, что это не самая удачная идея. С другой стороны, когда самолет оказался в беде, вся накопленная статистика, данные о самолете, параметрах его полета и расположении ближайших аэропортов после прогона всевозможных сценариев на расчетных моделях недвусмысленно подтвердили бы одно – никто не выживет.

Однако если проводить параллели с реалиями сегодняшнего дня, нам открылась бы еще более прискорбная картина. «Эксперты» в уже планирующем с неработающими двигателями самолете, выглянув в иллюминатор и не увидев там ничего, кроме искрящихся предкрылков, сообщили бы, что:

• Обратите внимание, как мы сократили выброс вредных веществ в окружающую среду после отключения двигателей, и насколько комфортнее лететь в тишине.
• Наше плавное снижение может продолжаться сколько угодно.
• Насколько необычно и красиво выглядит светящийся самолет, и какие в этой связи открываются широкие перспективы для индустрии.

Вполне вероятно, что эти настроения стали бы преобладающими на все то время, что оставалось до удара о поверхность планеты. До последнего момента ее было просто невозможно заметить в темноте. Так что экстраполяция предшествующего опыта или наблюдаемой динамики могут сослужить плохую службу.

Однако и рассуждения о грядущей «сингулярности» это не более чем простая рекомендация. Если показатели альтиметра все быстрее приближаются к нулю, следует, как минимум, обратить внимание на этот факт.

Пассажирам трудно повлиять на развитие событий. Несмотря на то, что они заплатили за билет, «клиент всегда прав», а смертельная угроза нависла над всеми, вероятно, в таком положении лучше не решать вопросы голосованием, но положиться на специалистов. Разумеется, при условии, что именно они находятся за штурвалом. На рейсе BA9 в кабине пилотов находились профессионалы.

Из-за выключения системы наддува, давление в салоне начало быстро падать и экипажу пришлось пожертвовать высотой, чтобы избежать гипоксии. Самолет снизился до четырех с небольшим километров, пропал с экранов радаров и с учетом его аэродинамического качества (отношения горизонтальной скорости к скорости снижения с неработающими двигателями), не имел шансов преодолеть горную гряду, преграждающую путь к ближайшему аэропорту. Если формально подойти к решению задачи, Боинг был обречен. Пилотам оставалось попытаться в полной темноте сесть на воду, но никаких инструкций по «приводнению» на поверхность океана для воздушного судна этого типа не существовало.

Самообладание и профессиональные действия пилотов рейса BA9 позволили им в последний момент запустить один из двигателей, а затем оживить остальные. Вскоре выяснилось, что абразивные частицы вулканического пепла полностью лишили ветровое стекло прозрачности, а система инструментального привода на посадку неисправна. Однако экипаж сумел посадить самолет, фактически, вслепую. Никто на борту не пострадал.

Может показаться, что если бы в этих обстоятельствах самолетом управляла система искусственного интеллекта, у него не было бы шансов уцелеть. Факторы и параметры, выходящие далеко за границы модели, отказ критически важных систем сбора информации о полете и потеря связи с наземными пунктами контроля – этого более чем достаточно для того, чтобы сегодняшние платформы ИИ «сошли с ума». С другой стороны, перспективные системы, работающие с огромными выборками гетерогенных данных, интегрированные с такими решениями как digital twins, просто не позволили бы самолету оказаться в облаке вулканического пепла.

Но самое главное даже не это. Действия любых систем машинного интеллекта, даже тех, что используют обучение без учителя/подкрепления, определяются паттернами, заложенными в подаваемые «на вход» данные и правилами их обработки. По крайней мере, пока. Что это означает? В данных могут содержаться некоторые неявные закономерности – собственно, для их выявления зачастую и используют ИИ. В зависимости от целей специалистов, участвующих в такого рода проектах, и подходов к «воспитанию» их детища, «поведение» созданной платформы в одной и той же ситуации может разительно отличаться.

Складывается чрезвычайно интересная ситуация. До сегодняшнего дня любой новатор, даже создавший чрезвычайно успешный бизнес, был вынужден считаться с мнением большинства. Решение, опережающее время, к которому люди и существующая инфраструктура были не готовы, не могло оказаться успешным. Предрассудки, невежество, нежелание развиваться, присущие большинству, а также всевозможные запреты, очень сильно ограничивали даже выдающихся изобретателей, а темпы научного и технического прогресса, в конечном счете определяемые подавляющим меньшинством – стремительно опережали развитие популяции в целом. Собственно, этот разрыв, ставший действительно колоссальным, и вызывал наибольшие страхи в 20 веке.

И вот теперь мы впервые вплотную подошли к моменту, когда влиянием большинства, а равно устоявшимися концепциями, можно будет пренебречь. Интеллектуально и экономически это большинство будет исключено из игры. Кто-то уже говорит о том, что виртуальная реальность, поглотит в ближайшие годы четыре пятых населения планеты, просто потому что этим людям будет абсолютно нечем заняться.

И главный вопрос состоит в том, чему «научат» свои творения те, кто пока не проявляют политических амбиций, но уже сегодня контролируют практически каждый аспект жизни современников. Все эти вчерашние стартапы, превратившиеся в могучие корпорации, стремительно меняющие на наших глазах мир, в действительности уже сопоставимы по влиянию с правительствами крупнейших держав. Их способность влиять на все - от общественного мнения и формирования новых ценностей, до сохранения работоспособности современных институтов и систем - по-прежнему недооценивается. И это они определят облик платформ, которые превзойдут человека. Между прочим, стать одним из их числа можно очень быстро. При этом барьер входа в индустрию как никогда низок и высок одновременно: все определяется наличием непраздного интеллекта.

В зависимости от внутренних договоренностей этой новой элиты, а также ее готовности вести за собой, противостоять худшим проявлениям архаики и ограничивать свои амбиции ради лучшего будущего (каким она его себе представляет), «технологическая сингулярность» может стать как полномасштабной катастрофой, так и невероятным шагом вперед.