Наприкінці кожного року великі словники оголошують своє «слово року». У 2018-му на Merriam-Webster.com найчастіше шукали слово justice, тобто справедливість. Що ж, хоч ще і надто рано, але я готовий оголосити слово-2019.
І це – deep, глибокий.
Чому? Тому що недавній прогрес у швидкості та масштабі диджиталізації, зв’язку, великих даних та штучного інтелекту затягують нас «вглиб» тих місць і тих сил, які нам ніколи не випадало досліджувати раніше, і які уряди ніколи раніше не регулювали. Я кажу про глибоке вивчення, глибокі інсайди, глибокий нагляд, глибоку систему розпізнавання лиць і голосу, глибоку автоматизацію та глибокий штучний інтелект.
Деякі з цих технологій уособлюють безпрецедентні обіцянки, а деякі – безпрецедентну небезпеку, але всі вони зараз є частиною нашого життя. Все глибоко розвивається.
Ось чому може бути не випадковим, що одним із найбільших хітів сьогодні є пісня Shallow з фільму Зірка народилася. Головний рефрен у виконанні Леді Гаги та Бредлі Купера звучить так: «Я відчайдушно у вир пірнаю… Сьогодні ми далекі від мілини».
Без сумніву, далекі. Та пляжний рятувальник ще досі на березі, й ось що дійсно лякає – він не вміє плавати! Більше про це згодом. А зараз: як ми зайшли так глибоко – туди, де живуть акули?
Коротка відповідь: технології рухаються кроками, і кожен крок, кожна нова платформа зазвичай спрямована на відкриття нової низки можливостей. Десь у 2000 році ми здійснили величезний крок, націлений на налагодження зв’язку внаслідок буму оптоволоконного кабелю, бездротового сполучення та супутників.
Раптово зв’язок став настільки швидким, дешевим, простим і усюдисущим, що з’явилось відчуття, наче ви можете торкнутись того, кого ніколи до того не торкались, і що вас також може торкнутись хтось, хто ніколи до того вас не торкався.
Десь у 2007 ми здійснили ще один великий крок вперед. Айфони, сенсори, диджиталізація, великий об’єм даних, інтернет речей, штучний інтелект і хмарні обчислення змішались докупи та створили нову платформу, спрямовану назустріч абстрактній комплексності зі швидкістю та масштабами, раніше небаченими.
Так багато речей стали спрощеними. Комплексність стала настільки швидкою, безкоштовною, легкою у використанні та невидимою, що невдовзі одним доторком до додатку Uber ми змогли знайти таксі, оплатити його, оцінити таксиста й бути оціненим цим таксистом.
Протягом останнього десятиріччя цей прогрес швидкості зв’язку й усунення комплексності стрімко виріс. Тому що великий об’єм даних став справді великим, широкосмугове з’єднання – справді швидким, алгоритми – надто розумними, 5G справді розгортають, а штучний інтелект справді порозумнішав. Тож зараз, без доторку, а лише за допомогою голосу чи автоматизованих машин ми можемо піти набагато глибше у багатьох сферах.
Науковці та доктори зараз можуть розглядати нитку в сіні медичних даних як норму, а не виняток, а відтак розпізнати і певні моделі захворювання, не виявлені раніше. Машини можуть розпізнати ваше обличчя настільки точно, що китайський уряд може покарати вас за перехід вулиці в неналежному місці у Пекіні, використовуючи тільки камери вуличного спостереження – і ви при цьому ніколи не зіштовхнетесь з поліцейським.
Насправді з сьогоднішньою технологією розпізнавання обличчя я можу обійтися без картки-входу біля воріт мого офісу і натомість використовувати своє обличчя співробітника як ID. І машини можуть їздити самі по собі.
DeepMind, рука штучного інтелекту свого батька Google, розвинула AІ-програму AlphaGo, що нині перемогла провідних світових гравців у стародавню гру-стратегію Go – що набагато складніша за шахи – вивчаючи людську манеру гри.
Як пишуть у The Times, DeepMind «демонструє ще один спосіб, у який комп’ютери можуть бути розвинуті настільки, щоб вести себе краще за людей при виконанні завдань високої складності» та «імітувати спосіб функціонування мозку». Наступний прорив DeepMind, а саме AlphaZero, навіть немає потреби вчитись у людей. Програма вчиться навіть швидше, повторно граючи проти самої себе.
Сьогодні «віртуальні агенти» – за використання розмовного інтерфейсу, посиленого штучним інтелектом – можуть все більше розуміти ваші наміри, коли ви дзвоните за сервісом у банк, компанію з виготовлення кредиток чи страхову, лише почувши ваш голос.
Це значить, що машини можуть відповісти на набагато більше питань ніж не машини, що також відомі як «люди». Відсоток викликів чат-боту або віртуального агента, здатного обробляти запит, не переадресовуючи абонента на людину, називається його «швидкістю стримування», і показники ці постійно зростають. Невдовзі автоматизовані системи стануть настільки людиноподібними, що виникне потреба ідентифікувати їх як машини.
Автоматизація також швидко рухається вглиб. Кевін Руз із The Times процитував Мохіта Джоші, президента Infosys, технологічної фірми, що допомагає іншим бізнесам автоматизувати їх операції. Минулого тижня в Давосі цей чоловік сказав: «Люди прагнуть досягати дуже великих показників. Раніше вони мали поступову ціль – скоротити робочу силу на 5-10%. Зараз вони кажуть: «Чому ми не можемо робити це лише з 1% наших людей?»
Але погані хлопці, які зазвичай раніше за всіх переходять на нові технології, також вбачають такий же потенціал у просуванні вглиб цілковито нових методів.
Вони можуть фальсифікувати ваше обличчя та голос настільки добре, щоб мати змогу створити шалено популярне Youtube-відео, де ви говорите расистські речі, або ж виглядаєте як президент США, який щойно заявив про ядерну атаку на Росію. Вони можуть створити технологію фальсифікації голосу менеджера банка настільки добре, що він зможе подзвонити вашій бабусі та за допомогою голосової команди попросити її перевести 10 тисяч доларів на швейцарський рахунок – і вона зробить це, і ви ніколи не зловити цих людей вчасно.
Ось чому прикметник – який характеризує те, як багато людей закріплені до всіх цих нових можливостей для передавання їх чудової влади – саме «глибокий».
20 січня The London Observer оглянув нову книжку професора Гарвардської бізнес-школи, Шошани Зубофф, назва якої ідеально описує ті глибокі темні води, в які ми заходимо: «Ера спостережного капіталу».
«Спостережний капіталізм, – пише Зубофф, – в односторонньому порядку проголошує людський досвід як вільну сировину для переведення у поведінкові дані. І хоча деякі з цих даних застосовують для покращення сервісу, решту оголошують власним поведінковим надлишком, що лягають в основу передового виробничого процесу, відомого як «машинний інтелект», і стають матеріалом для продукції прогнозування, яка пророкуватиме, що ви будете робити зараз, скоро, чи згодом. Насамкінець ця пророча продукція прийде на новий ринок, який я називаю ринком поведінкового майбутнього. Спостережні капіталісти стануть безмежно багатими завдяки цим торговельним операціями, оскільки багато компаній будуть охочими зробити ставку на те, як ми поведемо себе в майбутньому».
На жаль, ми не розвинули регуляційних механізмів і не масштабували етичні принципи, щоб керувати світом настільки глибокої взаємодії та потенціального зловживання.
Дві цитати можуть бути показовими. Минулого квітня сенатор Оррін Гетч опитував CEO компанії Facebook Марка Цукерберга протягом спільного слухання комерційного та судового комітетів. В якийсь момент Гетч запитав Цукерберга: «Тож як ви підтримуєте бізнес-модель, у якій користувачі не платять за ваш сервіс?».
Цукерберг, вочевидь намагаючись придушити сміх, відповів: «Сенаторе, ми розміщуємо рекламу». Здається, що Гетч не збагнув, що бізнес-модель Facebook – це володіти даними користувачів і потім розміщувати таргетингову рекламу. І Гетч був одним з регуляторів Facebook.
Та і Цукерберг також був наївним щодо того, як глибоко можуть сягнути можливості платформи Facebook – достатньо глибоко, щоб кілька кмітливих російських хакерів могли зманіпулювати ними, щоб допомогти Дональду Трампу виграти президентство.
Зіштовхнувшись з доказом того, що фейкові новини, які поширювались на Facebook, вплинули на результати виборів-2016, Цукерберг відкинув цю думку як «доволі божевільну ідею». Та з’ясувалось, що все це відбувалось у виробничих масштабах, і згодом він мусив вибачатись.
Регуляторні механізми часто відстають від нових технологій, та коли вони рухаються так швидко і вражають так глибоко, цей відрив може бути по-справжньому небезпечним. Я хотів би думати, що ось-ось вони зрівняються. Але я так не думаю. Наша національна дискусія ще ніколи не була більш поверхневою – зменшеною до 280 знаків.
І це створило неприхований і зростаючий попит на політичних, соціальних та релігійних лідерів, урядові інституції та бізнеси, які можуть піти вглиб – так, щоб стверджувати, що є реальним, і пропонувати громадськості глибоку правду, глибокий захист приватності та глибоку довіру.
Та глибоку довіру та відданість не можна підробити за ніч. Це потребує часу. І це одна з причин, чому ця стара газета, на яку я працюю – ця Сіра Леді, як її називають – так добре почувається сьогодні. Не всі, але багато людей відчайдушно потребують навігаторів, яким можна довіряти.
Багато хто також буде шукати цей атрибут у нашому майбутньому президентові, тому що відчуває: глибокі зміни наближаються. Це викликає тривогу, і так – назад уже не попливеш. Ми і справді сьогодні далекі від мілини.
Переклад НВ
Новое Время володіє ексклюзивним правом на переклад і публікацію колонок Томаса Фрідмана. Републікацію повної версії тексту заборонено
Оригінал опубліковано на The New York Times
Приєднуйтесь до нашого телеграм-каналу Мнения Нового Времени