Глубокие темные воды. Куда ныряет мир

2 февраля, 09:05
3197
Цей матеріал також доступний українською

Вместе с беспрецедентными обещаниями надвигается беспрецедентная опасность. Как же мы зашли так глубоко – туда, где живут акулы?

В конце каждого года большие словари объявляют свое «слово года». В 2018 году на Merriam-Webster.com чаще всего искали слово justice, то есть справедливость. Что ж, хоть еще и слишком рано, но я готов объявить слово-2019.

И это – deep, глубокий.

Почему? Потому что недавний прогресс в скорости и масштабе диджитализации, связи, больших данных и искусственного интеллекта затягивают нас «вглубь» тех мест и тех сил, которые нам никогда не приходилось исследовать ранее, и которые правительства никогда раньше не регулировали. Я говорю о глубоком изучении, глубоких инсайдах, глубоком надзоре, глубокой системе распознавания лиц и голоса, глубокой автоматизации и глубоком искусственном интеллекте.

Некоторые из этих технологий олицетворяют беспрецедентные обещания, а некоторые – беспрецедентные опасности, но все они сейчас являются частью нашей жизни. Все глубоко развивается.

Это вызывает тревогу, и да – назад уже не поплывешь

Вот почему может быть не случайным, что одним из самых больших хитов является сегодня песня Shallow из фильма Звезда родилась. Главный рефрен в исполнении Леди Гаги и Брэдли Купера звучит так: «Я отчаянно в омут ныряю ... Сегодня мы далеки от мели».

Без сомнения, далеки. И пляжный спасатель до сих пор на берегу, и вот что действительно пугает – он не умеет плавать! Больше об этом позже. А сейчас: как мы зашли так глубоко – туда, где живут акулы?

Короткий ответ: технологии движутся шагами, и каждый шаг, каждая новая платформа обычно направлена на открытие нового ряда возможностей. Где-то в 2000 году мы осуществили огромный шаг, нацеленный на налаживание связи вследствие бума оптоволоконного кабеля, беспроводного сообщения и спутников.

Внезапно связь стала настолько быстрой, дешевой, простой и вездесущей, что появилось ощущение, будто вы можете коснуться того, кого никогда раньше не касались, и вас также может коснуться кто-то, кто никогда до этого вас не касался.

Где-то в 2007 мы совершили еще один большой шаг вперед. Айфоны, сенсоры, диджитализация, большой объем данных, интернет вещей, искусственный интеллект и облачные вычисления смешались вместе и создали новую платформу, направленную навстречу абстрактной комплексности со скоростью и масштабами, ранее невиданными.

Так много вещей стали упрощенными. Комплексность стала настолько быстрой, бесплатной, легкой в использовании и невидимой, что вскоре одним прикосновением к приложению Uber мы смогли найти такси, оплатить его, оценить таксиста и быть оцененным этим таксистом.

В течение последнего десятилетия этот прогресс скорости связи и устранения комплексности стремительно вырос. Потому что большой объем данных стал действительно большим, широкополосное соединение – действительно быстрым, алгоритмы – слишком умными, 5G действительно разворачивают, а искусственный интеллект действительно поумнел. Поэтому сейчас, без прикосновения, а только с помощью голоса или автоматизированных машин мы можем пойти гораздо глубже во многих сферах.

Ученые и доктора сейчас могут рассматривать нить в сене медицинских данных как норму, а не исключение, а затем распознать и определенные модели заболевания, не обнаруженные ранее. Машины могут распознать ваше лицо настолько точно, что китайское правительство может наказать вас за переход улицы в неположенном месте в Пекине, используя только камеры уличного наблюдения – и вы при этом никогда не столкнетесь с полицейским.

На самом деле с сегодняшней технологией распознавания лица я могу обойтись без карточки-входа у ворот моего офиса вместо этого используя свое лицо сотрудника как ID. И машины могут ездить сами по себе.

DeepMind, рука искусственного интеллекта своего отца Google, развила AІ-программу AlphaGo, сейчас победившую ведущих мировых игроков в древнюю игру стратегию Go – намного сложнее шахмат – изучая человеческую манеру игры.

Как пишут в The Times, DeepMind «демонстрирует еще один способ, которым компьютеры могут быть развиты настолько, чтобы вести себя лучше людей при выполнении задач высокой сложности» и «имитировать способ функционирования мозга». Следующий прорыв DeepMind, а именно AlphaZero, даже не имеет потребности учиться у людей. Программа учится даже быстрее, повторно играя против самой себя.

Сегодня «виртуальные агенты» – за использование разговорного интерфейса, усиленного искусственным интеллектом – могут все больше понимать ваши намерения, когда вы звоните по сервису в банк, компанию по изготовлению кредиток или страховую, только услышав ваш голос.

Это значит, что машины могут ответить на гораздо больше вопросов чем не машины, также известные как «люди». Процент вызовов чат-бота или виртуального агента, способного обрабатывать просьбы, не переадресовывая абонента на человека, называется его «скоростью сдерживания», и показатели эти постоянно растут. Вскоре автоматизированные системы станут настолько человекообразными, что возникнет необходимость идентифицировать их как машины.

Автоматизация также быстро движется вглубь. Кевин Руз из The Times процитировал Мохита Джоши, президента Infosys, технологической фирмы, помогающей другим бизнесам автоматизировать их операции. На прошлой неделе в Давосе этот человек сказал: «Люди стремятся достигать очень больших показателей. Ранее они имели постепенную цель – сократить рабочую силу на 5-10%. Сейчас они говорят: «Почему мы не можем делать это только с 1% наших людей?»

Но плохие парни, которые обычно раньше всех переходят на новые технологии, также видят такой же потенциал в продвижении вглубь полностью новых методов.

Они могут фальсифицировать ваше лицо и голос настолько хорошо, чтобы иметь возможность создать безумно популярное Youtube-видео, где вы говорите расистские вещи, или же выглядите как президент США, только что заявивший о ядерной атаке на Россию. Они могут создать технологию фальсификации голоса менеджера банка настолько хорошо, что он сможет позвонить вашей бабушке и с помощью голосовой команды попросить ее перевести 10 000 долларов на швейцарский счет – и она сделает это, и вы никогда не поймаете этих людей вовремя.

Вот почему прилагательное – характеризующее то, как много людей закреплены ко всем этим новым возможностям для передачи их замечательной власти – именно «глубокий».

20 января The London Observer обозрел новую книгу профессора Гарвардской бизнес-школы, Шошани Зубофф, название которой идеально описывает те глубокие темные воды, в которые мы заходим «Эра наблюдательного капитала».

«Наблюдательный капитализм, – пишет Зубофф – в одностороннем порядке провозглашает человеческий опыт как свободное сырье для перевода в поведенческие данные. И хотя некоторые из этих данных применяют для улучшения сервиса, остальные объявляют собственным поведенческим избытком, которые ложатся в основу передового производственного процесса, известного как «машинный интеллект», и становятся материалом для продукции прогнозирования, которая пророчит, что вы будете делать сейчас, скоро, или позже. Наконец эта пророческая продукция придет на новый рынок, который я называю рынком поведенческого будущего. Наблюдательные капиталисты будут бесконечно богатыми благодаря этим торговым операциям, поскольку многие компании пожелают сделать ставку на то, как мы поведем себя в будущем».

К сожалению, мы не развили регуляционных механизмов и не масштабировали этические принципы, чтобы управлять миром настолько глубокого взаимодействия и потенциального злоупотребления.

Две цитаты могут быть показательными. В прошлом апреле сенатор Оррин Хетч опрашивал CEO компании Facebook Марка Цукерберга в течение общего слушания коммерческого и судебного комитетов. В какой-то момент Хетч спросил Цукерберга: «Так как вы поддерживаете бизнес-модель, в которой пользователи не платят за ваш сервис?».

Цукерберг, очевидно пытаясь подавить смех, ответил: «Сенатор, мы размещаем рекламу». Кажется, что Хетч не сообразил, что бизнес-модель Facebook – это владеть данными пользователей и затем размещать таргетинговой рекламу. И Хетч был одним из регуляторов Facebook.

Но и Цукерберг также был наивен в отношении того, как глубоко могут достичь возможности платформы Facebook – достаточно глубоко, чтобы несколько находчивых русских хакеров могли манипулировать ими, чтобы помочь Дональду Трампу выиграть президентство.

Столкнувшись с доказательством того, что фейковые новости, которые распространялись на Facebook, повлияли на результаты выборов-2016 Цукерберг отверг эту мысль как «достаточно безумную идею». И выяснилось, что все это происходило в производственных масштабах, и впоследствии он должен извиняться.

Регуляторные механизмы часто отстают от новых технологий, и когда они движутся так быстро и поражают так глубоко, этот отрыв может быть по-настоящему опасным. Я хотел бы думать, что вот-вот они сравняются. Но я так не думаю. Наша национальная дискуссия еще никогда не была более поверхностной – уменьшенной до 280 знаков.

И это создало нескрываемый и растущий спрос на политических, социальных и религиозных лидеров, правительственные учреждения и бизнес, которые могут пойти вглубь – так, чтобы утверждать, что является реальным, и предлагать общественности глубокую правду, глубокую защиту приватности и глубокое доверие.

И глубокое доверие и преданность нельзя подделать за ночь. Это требует времени. И это одна из причин, почему эта старая газета, на которую я работаю – это Серая Леди, как ее называют – так хорошо себя чувствует сегодня. Не все, но многие люди отчаянно нуждаются в навигаторах, которым можно доверять.

Многие также будут искать этот атрибут в нашем будущему президенте, потому что чувствуют: глубокие изменения приближаются. Это вызывает тревогу, и да – назад уже не поплыть. Мы действительно сегодня далеки от мели.

Перевод НВ

Новое Время обладает эксклюзивным правом на перевод и публикацию колонок Томаса Фридмана. Републикация полной версии текста запрещена 

Оригинал опубликован на The New York Times

Присоединяйтесь к нашему телеграм-каналу Мнения Нового Времени

Читайте новый номер журнала НВ

Подписывайтесь на журнал НВ и читайте свежий номер прямо сейчас. Все подписчики также получают доступ к архивным выпускам журнала. Стоимость подписки на три месяца всего 59 гривен.

Подписаться и читать журнал

Стань автором

Если Вы хотите вести свой блог на сайте Новое время, напишите, пожалуйста, письмо по адресу:

nv-opinion@nv.ua

Выбор редакции

Политика

Сегодня, 08:15

img
Шанс на власть без пафоса и ритуалов. Известные украинцы поделились мнением о Зеленском
Культура

Вчера, 21:14

img
Закрытие Каннского кинофестиваля 2019. Как это было
Политика

Сегодня, 09:24

img
Перезагрузка парламента. Каким может быть следующий созыв Рады — инфографика