Програма Час відповідати виходить в ефірі Радіо НВ щоп'ятниці о 20:00 - 21:00

Іван Яковина: Сегодня у нас необычный эфир - будем говорить об искусственном интеллекте; о том, что он нам может дать; где мы сейчас находимся в плане его создания, и чем он нам может грозить. Говорить будем с кандидатом физико-математических наук Святославом Вакарчуком. Он также выпускник Стэнфорда и Йеля, Львовского университета, музыкант и общественный деятель. Славик, добрый вечер.

Святослав Вакарчук: Доброго вечора, Іване, дуже приємно тут знову бути, у цій студії - вона у мене тепер асоціюється тільки з наукою.

Іван Яковина: В общем, так и есть. Я всегда стараюсь в своих передачах говорить о науке.

Святослав Вакарчук: Особливо, коли ти говориш про midterm elections [проміжні вибори, - Ред.] в Америці.

Іван Яковина: Между прочим, я тоже начал с научного, в самом начале мы говорили о космосе. Ну да ладно, не об этом сейчас речь. Речь о том, что искусственный интеллект… Сегодня у нас уже, кстати, третья передача: две предыдущих - о квантовой механике и об освоении космоса - вы можете найти в YouTube и у нас на сайте, сегодня будет третья - об искусственном интеллекте.

Об искусственном интеллекте говорят многие. По крайней мере, Илон Маск - небезызвестный многим человек - говорит, что это может быть самое важное и в то же время последнее изобретение человечества, что дальше уже мы, может быть, ничего не изобретем по причине того, что: а) мы будем уничтожены; б) потому что нам больше ничего не понадобится.

Но это пока отдаленная перспектива, есть ближайшие дела. Сегодня поговорим о том, что сначала нас ждет поближе, и в конце пофилософствуем. Я уже так скажу: вот именно будем философствовать о том, что нас ждет в отдаленной перспективе, в некотором будущем. Начать я бы хотел с напоминания легенды о Големе.

Святослав Вакарчук: Так, давай я теж спробую щось сказати. Коли ми готувалися до ефіру, Ваня запропонував почати з казок. Ці казки, насправді, дуже важливі, одна з них - це казка про Голема. У Празі в єврейській громаді була така легенда, що один раввін створив Голема, який би допомагав людям у якихось добрих справах. Він був таким сильним і могутнім, що ним користувалися, щоби добро насправді перемогло зло.

Але за легендою він у якийсь момент вийшов з-під контролю, і що було далі? Як і в усіх казках, зрозуміло, що творець втратив з ним зв'язок. І зараз є така легенда, що він досі живе в Празі в цьому районі (або в інших місцях), треба бути обережним, тому що невідомо, з яким наміром він буде - добрим чи злим. Насправді, така казка є типовою, ми можемо згадати і пізніші історії.

Іван Яковина: Легенда о чудовище Франкенштейна.

Святослав Вакарчук: Так, ми можемо згадати роман Мері Шелі про Франкенштейна, ми можемо згадати і про більш філософські речі, коли, умовно кажучи, в саму людину вселялася друга частина людини, яку вона не контролювала, - це доктор Джекіл і містер Хайд Оскара Уайльда.

Але найголовніше в усіх цих казках і легендах те, що людина завжди боялася (або уявляла і боялась одночасно), що буде створений такий об'єкт або суб'єкт, який в якийсь момент буде нагадувати людину або буде людської подоби, але вийде з-під контролю її творця, і потім будуть творитися якісь жахи. До речі, людина-невидимка звідти.

Фото: Unsplash

Іван Яковина: В общем, пока мы находимся далеко от этого. По самым оптимистичным прогнозам создание общего искусственного интеллекта (то есть искусственного интеллекта, который бы включал в себя маленькие искусственные подинтеллекты) в самом [лучшем] случае [стоит ждать через] пять-десять лет, но говорят о двадцати и даже пятидесяти годах.

Святослав Вакарчук: Давай почнемо з того, що таке штучний інтелект, і що люди називають штучним інтелектом. Насправді, є дуже багато назв і…

Іван Яковина: Определений.

Святослав Вакарчук: Дефініцій штучного інтелекту, і вони дуже часто відрізняються. Давай вирішимо, що ми з тобою під цим розуміємо. Що ти розумієш під словом "штучний інтелект"?

Іван Яковина: Два вида, я бы так сказал: первый - это общий; и второй - частный искусственный интеллект, он также называется узким. Это, например, то, что содержит Siri; это, например, система, управляющая движением самолетов, автомобилей…

Святослав Вакарчук: Давай інакше: [що] ти маєш на увазі під цим?

Іван Яковина: Способные к обучению программы, которые самостоятельно решают определенную задачу.

Святослав Вакарчук: Конкретну задачу.

Іван Яковина: Одну конкретную задачу. Например, искусственный интеллект, способный выиграть у человека в шахматы или в GO, - вот это было достаточно серьезное достижение, потому что это не просто перебор вариантов, а искусственный интеллект учится будто бы думать, так получается, учится разным тактикам.

И есть общий [искуственный интеллект]: по сути дела, это интеллект вроде человеческого, в котором, правда, не очень понятно, есть ли сознание, потому что сознание - это отдельное, очень сложное…

Святослав Вакарчук: Так от, дуже важливо, що насправді можна сказати, це розділ комп'ютерної інформатики, який опікується формалізацією проблем і завдань, подібних до тих дій, які виконує людина. Треба почати розповідати про історію штучного інтелекту.

Для чого почали створення, і взагалі - в чому суть, як ми дійшли до штучного інтелекту сьогодні? Починалося все з бажання людини спростити собі життя і створення машин, які будуть виконувати за людину різні роботи. У старі часи, коли це починалося, до інтелекту не мало стосунку, спочатку люди зробили собі помічників у фізичній праці; наприклад: парові машини, верстати, автомобілі, - ті речі, які виконували за нас фізичну роботу.

Зокрема і перших примітивних роботів, які просто мали команди, заводські конвеєри тощо, які мали руки, наприклад, або ноги, але не мали голови. А в якийсь момент ми почали думати: а що, якщо ми почнемо створювати такі машини, які почнуть думати або як мінімум спочатку рахувати швидше за нас?

Перші комп'ютери, сам по собі комп'ютер - це вже перша заявка до інтелекту, тому що ми ставимо перед ним якусь задачу, і він без нашого відома виконує її за поставленим аргументом. Але знаменитий англійський вчений Алан Тюрінг (ви, до речі, я думаю, всі бачили цей фільм - Гра розуму)…

Іван Яковина: Я, до речі, не бачив.

Святослав Вакарчук: Де його чудово грає Бенедикт Камбербетч, він розповідає про його історію. Це той хлопець, який розшифрував Енігму - код німецької машини; він був знаменитим математиком, який створив потім знаменитий тест Тюрінга, що полягає в дуже простому: якщо ви можете відрізнити…

Нехай є машина, яка вміє щось робити, відповідати вам на запитання, - якщо людина може за запитаннями та відповідями зрозуміти, людина це чи робот, це означає, що це або людина, або робот. Він говорив, що завжди можна дійти до такої точки, де ти зрозумієш, що тобі відповідає робот, а не людина. І люди поставили завдання: а чи можна обійти цей тест? Чи можна дійти до такого рівня, що ми перестанемо взагалі думати…

Іван Яковина: Создать машину, которая сможет обмануть.

Святослав Вакарчук: Так. В 50-60-ті роки американські вчені почали цим займатися, це щедро фінансувалося Пентагоном, тому що зрозуміло, що це чудова історія для можливого… Уяви собі солдата, ми всі бачили ці фантастичні фільми, як його можна запрограмувати, а далі він думає, приймає рішення сам, уяви собі…

Іван Яковина: До речі, вже є такі солдати.

Святослав Вакарчук: Так. Уяви собі шпигуна, штучний інтелект, який вміє обманювати тощо. В 50-60-х роках це дуже активно піднімалося, це був Гарвард, MIT, Гарвардський коледж, вони це все робили. Це був збір математиків, зокрема, знаменитий мінський спеціаліст та інші, вони займалися моделями, для них це було мистецтво. Але в якийсь момент це перестало давати конкретні результати, і Пентагон зупинив дослідження, на якийсь час вони перестали давати результати. Чому вони перестали давати результати?

Фото: Unsplash

Тому що штучний інтелект побудований на дуже простому принципі, який ще називається рекурентним принципом: ти запускаєш вхідне завдання, є якась функція, яка щось вирішує, дає вихід, повертається на початок і бере нову інформацію. Чим більше інформації, тим ближче вона доходить до справжнього розв'язку. Для якісного існування штучного інтелекту нам потрібно багато інформації. Ми не мали такої інформації раніше.

З появою а) інтернету і б) з тим, як комп'ютери почали за законом Мура ставати все більш і більш працездатними, більш і більш продуктивними, в 90-х роках ми отримали “нове дихання” для штучного інтелекту. Інформації стала купа, ми почали терабайтами завантажувати, тоннами терабайт цю інформацію, і виявилося, що ці формули і функції починають працювати набагато ефективніше. У 2000-х у нас почався “бум”.

Іван Яковина: Big data и вот это все дало огромный толчок развитию искусственного интеллекта. Я хочу сказать, смотрите, что уже есть: самоуправляемые автомобили (пока есть ограничения на их использование, но в общем они существуют); есть компьютерные игроки на бирже, которые часто работают даже эффективнее, чем обычные трейдеры; есть переводчики - всем известный Google Translate, который постоянно самообучается; есть врачи-диагносты, которые на основании миллионов самых разных случаев болезней ставят диагноз даже лучше, чем врачи (причем часто делают это гораздо лучше, чем врачи (врачи-люди, имеется в виду). Недавно китайцы создали даже телеведущего...

Святослав Вакарчук: Так, я теж бачив...

Іван Яковина: Компьютерного, которого очень сложно отличить от обычного человека. Искусственный интеллект проявляется везде, но это пока узкий искусственный интеллект.

Святослав Вакарчук: Треба сказати, що штучний інтелект - це дуже широке поняття. Сьогодні під штучним інтелектом дуже часто мають на увазі машинне навчання і глибоке навчання - machine learning і deep learning - це коли ти даєш машині можливість самій себе вдосконалювати, і сьогодні це використовується - ти правильно говориш - у дуже багатьох речах: у фінансових сервісах, в уряді (ми про це поговоримо трошки пізніше), в охороні здоров'я, в маркетингу, в видобуванні газу й нафти, тому що вони…

Іван Яковина: В космосе - да где угодно.

Святослав Вакарчук: У транспорті, в космосі. Давай швиденько, коротко пройдемося, щоби люди зрозуміли, де воно зараз працює. Не на словах, а конкретно.

Наприклад, у фінансових сервісах: сьогодні машини можуть краще проаналізувати фінансові ризики, і якщо не буде людського фактору (він, на жаль, є, бо це політика, але тим не менш), там, де немає людського фактору, вони фактично давно переплюнули будь-яких фінансових аналітиків, і їх використовують. Але найголовніше - вони можуть запобігти шахрайству. Поки що штучний інтелект дуже допомагає у запобіганні шахрайству.

Медицина: в медицині це не тільки діагноз, тому що очевидно, що сьогодні штучний інтелект, який має мільйони даних про пацієнтів, може ставити діагнози, аналізуючи ці дані набагато краще. Але крім того, він може показувати аналізи. Сьогодні ваш ведучий говорив про те, що бачачи аналізи людини, він може поставити “червоні прапорці” набагато раніше, ніж рання людська діагностика, він може відчувати.

Іван Яковина: А люди даже не обратят на это внимания.

Святослав Вакарчук: Газ і нафта: не тільки знаходити нові родовища, але крім цього всього, він може зробити логістику, передачу; він знатиме, яким способом набагато ефективніше це зробити. Це ж стосується в принципі транспорту. Я Вані вже розповідав у приватній розмові, що МакДональдз давно поставив…

Штучний інтелект займається продажами, прийняттям замовлень на МакДрайві: в американських містах ти під'їжджаєш до МакДрайву, вводиш замовлення, воно передається в їх штаб (я не пам'ятаю, в якому місті він знаходиться) за тисячі кілометрів звідти; за секунду передає тому, хто робить це замовлення; і ти приходиш, отримуєш своє замовлення так, ніби хтось, як у старі часи, кричав. Виявляється, що це ефективніше, економить час, збільшує точність, і головне - зменшує кількість людей, яким треба платити зарплату (про це ми окремо поговоримо, це призводить до проблеми безробіття).

І, нарешті, дуже цікава історія - це, по-перше, маркетинг і продажі. Ми ж розуміємо, що рітейл - тобто звичайні магазини - скоро зникнуть, ми будемо купувати тільки все те, що ми насправді хочемо, і штучний інтелект буде допомагати це робити. Вже сьогодні ми можемо робити це через інтернет; я думаю, за цим майбутнє.

Іван Яковина: Например, на Амазоне, когда покупаешь что-нибудь, он предлагает тебе, что бы ты еще мог купить. И часто…

Святослав Вакарчук: Я думаю, що це тільки початок, майбутнє рітейлу саме таке.

Іван Яковина: Особенно это касается книг - очень часто “попадает”.

Фото: Unsplash

Святослав Вакарчук: І головне, що я хотів сказати, - уряд: вже сьогодні в багатьох країнах у публічній сфері - в закупівлях, в логістиці, в бюджетуванні - використовується штучний інтелект. І рано чи пізно ці конкретні формальні процедури будуть робитися машинами, які швидко думають, рахують і точно ефективніші, і головне - вони не будуть (як мінімум, якщо люди не даватимуть їм можливості це робити), не буде маневру для шахрайства, все буде чітко і “по книжці”.

Тут взагалі цікаво, чи штучний інтелект зможе допомагати боротьбі з корупцією і чи зможе він зменшити, знищити корупцію як явище. Це дуже цікаві філософські теми, я коли думав про це, навіть дійшов до того, а чи взагалі не настане такий момент, що штучний інтелект зможе управляти політично державами…

Іван Яковина: Сможет, уже сейчас это происходит...

Святослав Вакарчук: Краще, ніж це роблять політики. Тим більше, ми бачимо, що - принаймні, поки що - у штучного інтелекту відсутні такі поняття, як персональні амбіції, бажання помститися; такі людські якості, які поки що, на щастя, імітувати або повністю перебрати на себе штучний інтелект не може.

Іван Яковина: Жажда власти и все такое. Смотри, это уже используется в Китае, это очень интересная тема, может быть, даже для отдельного разговора. В Китае очень сложные алгоритмы искусственного интеллекта используются для тотального контроля над жителями Синьцзян-Уйгурского автономного округа.

• Читайте также: Большой Брат на самом деле. Как Китай превращается в страну тотальной слежки

Там благодаря искусственному интеллекту построили просто дистопию - адское общество, где все люди находятся под контролем этого искусственного интеллекта; где алгоритмы следят за каждым шагом потенциально неблагонадежных людей; поощряют тех, кто любит Китай, и наказывают тех, кто не любит. И благодаря этому искусственный интеллект…

Святослав Вакарчук: Це вже якийсь Оруел.

Іван Яковина: Да-да, и это есть уже сейчас. Кроме того, что касается управления государством: в Гарвардском университете (ты, по-моему, знаешь эту историю) шесть с лишним миллионов самых разных дел оцифровали, загрузили в компьютер, он сейчас занимается машинным обучением, и из него пытаются сделать искусственный интеллект. Будет судья…

Святослав Вакарчук: Штучного суддю.

Іван Яковина: Будет искусственный судья с искусственным интеллектом, который будет видеть любого человека насквозь: будет видеть, когда человек волнуется, когда он неуверен, когда наоборот - уверен, когда дает какие-то показания, и на основании миллионов реально существовавших уголовных, административных и других дел [будет] выдавать единственно возможное и абсолютно справедливое судебное решение.

Хотел бы ты, чтобы тебя судил, например, в каком-то споре (не берем какие-то уголовные варианты, просто в споре), чтобы тебя судил искусственный интеллект? Потому что, как мне кто-то написал, там будет решать не интеллект, а какой-то дядя с рубильником.

Святослав Вакарчук: Людський фактор поки що стоїть за будь-якою історією, пов'язаною зі штучним інтелектом. Чого ми прагнемо у правосудді? Незалежності, неупередженості і справедливості. Якщо би ми знали, що доступу до цього штучного інтелекту людина не має, то я не виключаю, що у більшості своїй такі рішення були би справедливішими саме тому, що одна з речей, яку повинен мати суддя - бути абсолютно нейтральним до всіх сторін.

А оскільки люди сьогодні мають емоції, почуття і переживання, тому будь-який суддя, яким би чесним він не був, завжди має цей людський фактор і часто може навіть без злого умислу впливати, його рішення так чи інакше може порушувати справедливість. Але я тобі скажу, що…

Іван Яковина: А такие понятия, как человечность?

Святослав Вакарчук: Іронічно кажучи, з українською судовою системою, я думаю, що було би не складно; думаю, що велика кількість бізнесменів і звичайних людей…

Іван Яковина: Буде краще, ніж з українською.

Святослав Вакарчук: Люди би зраділи з великою радістю, бо те, що виробляє сьогодні українська судова система - це тема окремої передачі, але ми всі прекрасно розуміємо, що якщо довіра до суддів 1%, то я думаю, що до штучного інтелекту довіра буде точно вищою, навіть якщо там будуть питання. Жарти жартами, але насправді треба готуватися до цього…

Іван Яковина: Я думаю, что это абсолютно неизбежно, потому что уже сейчас появляются автомобили, которые, по сути дела, управляются искусственным интеллектом - беспилотные автомобили. Потом эти автомобили будут обязательными, потому что они будут управляться гораздо более надежно, чем управляемые людьми, сажать человека за руль будет просто опасно.

А потом и судебные решения будут приниматься только искусственным интеллектом, потому что будет опасно сажать судью: судья - человек, на него можно влиять, он может быть таким-сяким-пятым-десятым, и в результате останется только искусственный интеллект в качестве суда.

Фото: Unsplash

И тут возникает такой, очень интересный вопрос: если искусственный интеллект видит гораздо дальше, знает гораздо больше (судебный искусственный интеллект); для всех людей человек кажется не виновным, а искусственный интеллект этого человека “бах” - и сажает на 100 лет, руководствуясь какими-то своими очень глубокими мотивами, которые мы даже понять не можем. Мы будем доверять такому искусственному интеллекту или нет? Или отменим его решение?

Святослав Вакарчук: Я думаю, що це питання, про яке ми хотіли говорити далі, але давай почнемо зараз. Я вважаю, що штучний інтелект не буде приймати якихось… Або змінювати людське життя на принциповому рівні, поки людина [його] контролює. Тому що наш егоїзм, наші страхи, наша ненависть, наше кохання - це насправді наші інстинктивні реакції, які нам буде дуже-дуже важко пригнітити.

Знаючи, що є якась машина, яка може робити за нас те, що пригнічує наші первинні інстинкти, ми не погодимося на те, щоби вона це робила, ми завжди будемо тримати руку про всяк випадок на кнопці. І тут питання, про яке ми, мабуть, маємо поговорити: пам'ятаєш "Ури, где он, его кнопка?".

Іван Яковина: Да-да.

Святослав Вакарчук: Питання в тому, до якого моменту ми будемо спокійні, розуміючи, що ми завжди знаємо, де в цього штучного інтелекту є кнопка.

Іван Яковина: В этой всей системе искусственного интеллекта это называется “проблема контроля”, она абсолютно фундаментальна. Илон Маск говорит, что мы не имеем права создавать искусственный интеллект до тех пор, пока мы не будем точно - на 120% - знать, как мы можем в любой момент его выключить.

Святослав Вакарчук: Але ж ти прекрасно усвідомлюєш, що це теж питання часу. Дуже важливо сказати (я думаю, що це треба сказати якраз зараз, у цей момент), що сьогодні великих підстав вважати, що штучний інтелект уже десь близько до того, щоби вийти з-під контролю людини, немає.

Наприклад, я поясню вам, чому: те, що машина виграє у людини в шахи або в GO і навіть через мільйони завантажених судових справ зможе справедливо судити конкретні речі, ще нічого не означає - це дуже лінійні процеси. Тобто ці машини можуть робити конкретні речі, яким їх навчили, запрограмували.

Іван Яковина: Узкий искусственный интеллект, да.

Святослав Вакарчук: Але, наприклад, відчуття математики у штучного інтелекту немає. Я поясню слухачам, що я маю на увазі. Ви, наприклад, знаєте, що маленька дитина, яка тільки народжується, яка ще немовля, не знає ні мови, нічого. В неї інстинктивно є відчуття, що цифра 1 відрізняється від цифри 2 (або цифра 2 від цифри 3). Наскільки воно є вище - цього я не знаю, але я знаю точно про цифру 1 і 2.

Більше того, це стосується кошенят і будь-яких маленьких інших тварин. Наприклад, коли маленькій дитині два рази підряд увімкнути світло, вона відчуває, що це два спалахи, і вона відрізняє їх від одного. Якщо маленькій дитині з послідовністю два рази після того ввімкнути звук, то вона буде асоціювати ці два рази вмикання звукового сигналу з такими самими двома разами, коли були спалахи світла.

Це означає, що в дитини інтуїтивно - або з народження - присутнє відчуття того, що один раз і два рази - це різні речі, і їй все одно, чи це стук по столу, чи це кліпання очима, чи це якісь інші речі, - вона однаково і слухом, і зором сприймає це як цифру 2, а не 1.

Так от робота ми досі не можемо навчити це робити. Ще один приклад: маленька дитина, яка нібито не має ніякого інтелекту, яка тільки народилася, коли вона чує звук збоку, вона інстинктивно повертає голову вліво, тому що звук був ліворуч; вона не повертає голову вправо. Вона не знає, ліво це чи право, але вона знає, куди повертати голову.

Робот не може сам себе навчити це робити. І тут дуже важливе питання, щоби ми зрозуміли, що людський розум поки що має велику кількість нелінійних зв'язків між нейронами, які одночасно роблять мільярди операцій на секунду. Не кількість операцій - мільярди в секунду, а мільярди операцій в той же момент, які між собою пов'язані-не пов'язані, і поки що нам не вистачає потужності і близько, щоби це зрозуміти. Але колись ми дійдемо до цього моменту, коли…

Іван Яковина: Да, смотри, тут какой важный момент: прогресс не остановить, постоянно идет развитие, поэтому рано или поздно мы сделаем компьютер с достаточной мощностью. Тут уже возникает вопрос, сможем ли мы в него вдохнуть душу. И тут вопрос - ты сравнивал ребенка и робота, нам задают вопрос: что будет, когда роботы начнут создавать музыку, рисовать картины и трактовать Евангелие, прости господи?

Святослав Вакарчук: Про музику: сьогодні вже є дуже цікавий момент - компанія Google зробила свій стартап, він називається Magenta. В цьому стартапі (я його навіть спеціально завантажив) вони займаються і малюванням штучним інтелектом, створенням картин, і створенням музики. Вони досліджують ці речі.

І що дуже важливо, яка їх ідея? По-перше, штучний інтелект у творчості на сьогодні нам не потрібен для того, щоби стати кращим, ніж Леонардо да Вінчі; чи стати кращим, ніж Рахманінов. Нам потрібен штучний інтелект для допомоги; для того, щоби людина краще себе почувала і ставала більш творчою.

Фото: Unsplash

Поясню, що я маю на увазі: коли придумували електрогітару, ніхто не думав про щось інше, ніж про те, щоби просто посилити звук акустичної гітари. Насправді, Джимі Гендрікс через декілька років перевантажив підсилювач, зробив звук дисторшна - перевантаженої гітари - і з цього створив цілий новий стиль рок-музики тощо. Ніхто й не думав у цей момент про таку місію підсилювача.

Те саме зі штучним інтелектом: те, що він може створювати якісь нові речі; наприклад, він може змішати звук мукання корови і звук скрипки і зробити щось середнє між муканням корови і скрипкою - не штучним чином, як ми це робимо, а від нуля і до 100%. І він може запропонувати нам якийсь новий звук, якийсь композитор або продюсер почує цей звук і подумає: “О, класно! Корова, яка мукає подібно до скрипки - це щось нове”. Таким чином, на сьогодні те, що вони пропонують...

Те саме з зображенням: можна зробити кота, який насправді нагадує нам космічний корабель, і ми ніколи цього не намалюємо так, як це зробить комп'ютер, тому що у нього немає упереджень, йому все одно, кіт це чи космічний корабель, він буде малювати щось середнє. І таким чином ми розширюємо свої діапазони. На сьогодні у творчості штучний інтелект тільки допомагає, він не забирає функцію “Моцартів і Леонардо да Вінчі”.

Іван Яковина: Но зато он будет забирать очень много других функций.

Святослав Вакарчук: Це правда.

Іван Яковина: Поговорим об угрозах, которых нам надо ждать от искусственного интеллекта. Первое, что приходит на ум лично мне - это то, что в результате тотальной, повальной автоматизации огромное количество рабочих мест исчезнет. У нас появится огромный класс новых луддитов, которые начнут сжигать и уничтожать все на свете, начнется ад и космическое вторжение. О чем речь…

Святослав Вакарчук: Я хочу одразу опонувати, тому що…

Іван Яковина: Как минимум 15% американских рабочих мест так или иначе завязаны на транспорт США. То есть 15% населения США с появлением беспилотных автомобилей лишится работы - это как минимум.

Святослав Вакарчук: Ваню, це правда. Я хочу сказати, що таке масове безробіття дійсно очевидне, але воно швидше за все торкнеться одного конкретного покоління людей, яке живе зараз, і, може, трошки після нас.

Ти згадував луддитів: луддити протестували, це був рух в Англії, коли почався масовий рух ткацьких верстатів, вони протестували проти того, що ткацькі верстати забирають їх роботу, дуже сильно здешевлюють їх продукцію і вони стають непотрібними, тому що все можуть робити машини, не потрібні кравці і спеціальні робітники. Але виявилося, що побічним ефектом ткацьких верстатів було здешевлення продукції, більше людей змогли собі купити продукт, який раніше виробляли лише кравці.

І це означає, що потрібно було більше фабрик - ці ж люди пішли автоматизовано працювати на більше фабрик, і в результаті через покоління навіть більше людей стали зайнятими на фабриках, ніж працювали ткачами і кравцями до цього. Тому не можна робити лінійних висновків. Я особисто вважаю, що поки не вв'яжешся у бійку, ти не зрозумієш, що буде.

Очевидно, що зараз ті, кого називають “blue-collar” і “white-collar” (сині комірці і білі комірці, тобто люди, які мають університетську освіту, але виконують інтелектуально уніфіковану лінійну роботу, наприклад, брокери, юрисконсульти, спеціалісти з логістики, бухгалтери тощо), матимуть великі проблеми з роботою.

Іван Яковина: Телеведущие (как я иногда), радиоведущие.

Святослав Вакарчук: Та сама історія - ти точно проблем із роботою мати не будеш (у крайньому разі, ми візьмемо тебе до себе гітарним техніком). А от музиканти точно не переведуться.

Іван Яковина: Добре.

Святослав Вакарчук: Якщо говорити серйозно про голубих комірців, зрозуміло, що на фабриках, можливо, також зникне проста уніфікована робота. Але уяви собі, що оскільки, знову-таки, здешевляться всі речі, з'явиться потреба в тому, щоби обслуговувати так звані штучні інтелекти і все, що вони роблять.

Це означає, що в рази збільшиться - можливо, навіть експоненційно - кількість айтішників; людей, які займаються обслуговуванням всього, що пов'язано зі штучним інтелектом, комп'ютерами тощо; кількість тих, хто виробляє деталі для них, хто видобуває рідкоземельні метали, хто займається кремнієм тощо.

Я впевнений, що через одне-два покоління людство підлаштується під цю ситуацію; і зараз лінійно прогнозувати, що буде, наперед не можна. І останнє - найголовніше, - що точно збільшиться кількість творчих професій.

Якщо раніше тільки люди, які добре знали нотну грамоту, могли стати композиторами, то сьогодні ми бачимо, що будь-хто, хто завантажив собі програму Ableton або GarageBand, може записати класну пісню, виставити в YouTube і також стати музикантом і композитором. Те саме поступово почне бути актуальним щодо будь-кого, хто хоче займатися творчістю.

Фото: Unsplash

Таким чином, я просто закликаю всіх (особливо молодих людей) пам'ятати, що ваш рівень творчого, абстрактного, інтуїтивного мислення, насправді, буде годувати вас у майбутньому. Те, що ви щось можете робити прогнозовано - те, що можуть робити й інші, - не врятує вас, а швидше за все приведе вас до безробіття. Тому вчіться робити, займайтеся творчістю - ось мій основний меседж.

Іван Яковина: Смотри, какая история. Все, что ты говоришь, это правильно, учитывая нынешний уровень развития искусственного интеллекта. Но если роботы начнут лучше писать музыку, лучше рисовать картины, лучше писать коды (в том числе компьютерные коды), вот тут-то мы и “попляшем”, потому что тут, получается, люди не нужны.

Более того, даже если у нас появится общий искусственный интеллект (а до его появления по самым оптимистичным оценкам осталось 10 лет, по пессимистичным - 50, в общем, через 50 он все равно наверняка уже появится), и в этом случае этот общий искусственный интеллект в своем развитии настолько превзойдет человека интеллектуально, что он будет делать и физическую, и постоянно повторяющуюся, и творческую работу гораздо лучше людей. И вот тут возникнут очень серьезные вопросы: а зачем вообще нужны люди?

Святослав Вакарчук: Дивись, це питання дуже філософське, і я не знаю, чи вистачить нам десяти хвилин, які у нас залишилися, для того, щоби про це поговорити. Але я хочу ще раз перед філософією звернутися до практичного застосування і того, що відбудеться.

Поки що є велика проблема з розумінням того, як працює відчуття, як працює інтуїція, хоча вже існують програми так званої штучної інтуїції, які починають моделювати людську інтуїцію. Але тим не менше, до кінця ми в цьому не розібралися. І як працює те, що ми називаємо людськість, humanity…

Іван Яковина: Human touch [с англ. человеческое касание, - Ред.].

Святослав Вакарчук: Human touch, так. І є така теорія, що це все питання часу - все одно це хімічні процеси, і ці хімічні процеси рано чи пізно…

Іван Яковина: Электрохимические.

Святослав Вакарчук: Так, ми рано чи пізно їх розшифруємо, прорахуємо, екстраполюємо і симулюємо. Можливо, це так; але, можливо, на якомусь глибокому етапі ми стикнемося ще з якоюсь проблемою, якої ми зараз не бачимо, і це нас ще трошки віддалить. Не виключено, що Творець (я розумію, що дехто з дуже матеріалістичних людей, які нас зараз слухають, будуть думати, що я зайшов в нецікаві категорії, але тим не менше) - той Творець, який усіх нас створив, - можливо, придумав це як про черепаху і Ахілла? Пам'ятаєш...

Іван Яковина: Парадокс Зенона.

Святослав Вакарчук: Так, парадокс Зенона, що як би не було, але Ахілл ніколи не дожене черепаху в тому парадоксі, тому що… Або згадай нашу попередню програму - першу, - де ми говорили про подорож у часі, що не може бути швидкості більшої, ніж світло, тому що як тільки ми наблизимося так близько, щоби бути біля швидкості світла, час почне сповільнюватися, а відстань почне зменшуватися, і ми ніколи не досягнемо.

Можливо, Творець задав таку схему, що чим ближче ми будемо наближатися до того, щоби повторити людину, тим нам буде складніше і складніше це робити. І він буде віддаляти цей момент аж до безмежності, можливо.

Іван Яковина: Но это если верить в бога. А если нет?

Святослав Вакарчук: Ти знаєш, Ваню, тут я мушу зізнатися: я вірю в бога, і тому мені складно зробити…

Іван Яковина: Понятно. Я вот не верю, поэтому оцениваю все с сугубо материалистической точки зрения: мне кажется, что это все может довольно паршиво закончиться для нас.

Святослав Вакарчук: Давай тоді я скажу тобі останній аргумент, і, можливо, він теж буде… До речі, як людина, яка вірить у бога не у вузькому релігійному сенсі цього слова, а у великому, філософському сенсі цього слова; що все, що має свій початок, все має свій кінець.

Так от, якщо вважати, що є певна початкова сила (назвемо її або богом, або по-іншому), яка почалася, яка створила все, то в якийсь момент буде закладений механізм переходу людства, - як поки що вершини творіння, природи - у щось інше.

І не виключено, що одне з двох: або людство зупиниться на цьому етапі, просто самознищиться і не доживе до моменту, поки штучний інтелект його переборе; або, можливо, цей штучний інтелект, про який ми говоримо, який почне жити в умовній мережі сам по собі, стане наступним еволюційним творінням бога, можна і так про це думати.

Іван Яковина: То есть мы уже скатимся до уровня каких-то неандертальцев.

Святослав Вакарчук: Чому до рівня? Давай будемо прямим текстом говорити: до рівня спочатку риб чи якихось…

Іван Яковина: А потом микробов.

Святослав Вакарчук: Найпростіших організмів тощо. Це можна продовжувати вічно. Я думаю, що ні ми з тобою, ніхто сьогодні не дасть реальної відповіді на питання, що точно буде з нами через 200 років. Я думаю, що не існує такої відповіді.

Іван Яковина: Есть такая очень интересная теория, что мы не видим инопланетян, потому что все инопланетяне в своем развитии рано или поздно доходят до момента создания искусственного интеллекта, после чего он либо а) уничтожает всех инопланетян; либо б) они полностью все свое сознание загружают в компьютерную сеть, в этой компьютерной сети они себе сами изготавливают “рай” - место бесконечного счастья, бесконечного удовольствия, что-то такое, чего в обычной жизни быть даже близко не может, и таким образом они просто исчезают от старости, умирают. И все - на этом заканчивается история человечества.

Фото: Unsplash

Святослав Вакарчук: Якщо проблема репродуктивності штучним інтелектом буде вирішена і проблема безперебійних джерел енергії буде вирішена, то я не виключаю, що цей варіант можливий. Я просто не вважаю, що це суперечить вірі в бога, от і все. Ти пам'ятаєш цю знамениту… Я думаю, що я це скажу в кінці, нагадай мені в кінці, за одну чи дві хвилини, розказати сюжет знаменитого роману Айзека Азімова.

Іван Яковина: Хорошо. Я сейчас пока хочу рассказать один известный сюжет Курта Воннегута. Он рассказывал историю тральфамадорцев - воображаемых существ, инопланетян.

Я прямо зачитаю: “В одно время на Тральфамадоре жили существа, совсем не похожие на машины. Они были ненадежны. Они были плохо сконструированы. Они были непредсказуемы. Они были недолговечны. И эти жалкие существа полагали, что все сущее должно иметь какую-то цель и что одни цели выше, чем другие. Эти существа почти всю свою жизнь тратили на то, чтобы понять, какова цель их жизни. И каждый раз, когда они находили что-то, что казалось им целью жизни, она оказывалась такой ничтожной и низменной, что эти существа не знали, куда деться от стыда и отвращения. Тогда, чтобы не служить низменным целям, эти существа стали делать для этих целей машины. Это давало существам возможность на досуге служить более высоким целям”, - то есть заниматься творчеством.

Святослав Вакарчук: Голем.

Іван Яковина: Да. “Но даже когда они находили более высокую цель, она все равно оказывалась совершенно недостаточной. Тогда они стали делать машины для поиска более высоких целей. Машины делали все так безошибочно, что им в конце концов даже доверили поиски цели жизни самих этих существ. Машины честно выполнили свою работу и выдали ответ: по сути дела, никакой цели жизни этих существ обнаружить не удалось. Тогда существа принялись истреблять друг друга, потому что никак не могли примириться с бесцельностью собственного существования. Они сделали еще одно открытие - они даже истреблять друг друга толком не умели. Тогда они передали это дело машинам. И машины закончили с этим быстрее, чем вы успеете сказать слово "Тральфамадор". Вот такая история.

Святослав Вакарчук: Так, Ваню, ти намалював дуже апокаліптичну картину. Мені цікаво…

Іван Яковина: Это не я, это Курт Воннегут.

Святослав Вакарчук: Я сподіваюся, що всі люди, які їхали за кермом, зараз спокійно проїхали цю частину, ніхто не порушив правила, всі живі-здорові і щасливі. Я думаю, що наступного разу, коли Ваня починає таку тираду, ви або вимикайте, або перемикайте на радіо, де грає джаз.

Всім хочеться дожити до того моменту. Ми приходимо у філософське питання, і воно до науки має мало стосунку. Я би сказав так: поживемо - побачимо. Ми вже вв'язалися в цю бійку, яка називається "а що буде, якщо ми створимо машину, яка буде думати і відчувати так, як ми".

І тільки в кінці нам буде відомий результат цієї бійки. Якщо вже говорити слово "бійка", що ми почали самі з собою або зі своєю власною цивілізацією; або, можливо, зі своєю власною гордістю чи жадобою до знань; почали бійку на рингу, якщо вважати, що це боксерський поєдинок, то ми десь у другому, можливо, третьому раунді професійного поєдинку.

У нас ще багато раундів попереду, і хто переможе - чи людська жадоба до знань, чи людське марнославство в якомусь сенсі, чи закони еволюції - цього ніхто не знає. Я би хотів закінчити на дуже простій і дуже філософській, але дуже конкретній історії Айзека Азімова, коли був створений…

Іван Яковина: У нас еще три минуты, мы пока еще не заканчиваем.

Святослав Вакарчук: Тоді розкажи, що ти ще хотів сказати?

Іван Яковина: Да, смотри, какая еще интересная вещь: в чем еще опасность создания общего искусственного интеллекта - такого, который будет умнее человека, и будет соображать быстрее, чем человек?

В том, что перед тем, как такой интеллект появится, скажем, если он будет появляться в Америке, Китай и Россия могут начать атомную войну, потому что это получается ситуация “the winner takes it all” [победитель получает все, - Ред.], появится глобальный лидер, догнать которого будет невозможно никогда, вообще никогда.

И поэтому у Китая и России останется только один метод догнать Америку (или вообще хоть что-то с ней сделать) - начать атомную войну. Слухи о возможном появлении искусственного интеллекта могут привести к уничтожению человечества, - причем руками самого человечества - еще до того, как появится интеллект.

Святослав Вакарчук: Ваню, я тобі хочу сказати відверто: до таких серйозних загроз і зникнення людства можуть призвести багато інших речей, крім цієї, ця не найбільш небезпечна. Я так не вважаю, я думаю, що коли нам стане не вистачати енергії, яку ми видобуваємо на Землі, коли у нас почнуться проблеми з перенаселенням, і взагалі - від звичайних амбіцій якихось лідерів ми можемо отримати великі проблеми.

Коли було створено ядерну зброю, ніхто не хотів будь-якою ціною зупинити іншу країну, всі просто старалися зробити це першими. Америка зробила це першою, але дуже швидко це зробив Радянський Союз та інші країни, почалася гонка озброєнь.

Фото: Unsplash

Швидше за все, я підозрюю, що буде щось подібне, певна гонка озброєнь штучних інтелектів, але поки ще раз кажу: людство контролює і знає, де кнопка, і поки в нас є свідомість, яка розуміє, який наступний крок ми робимо, я сподіваюся, що людству вистачить колективної мудрості не створити Франкенштейна.

Іван Яковина: Давай Азимова, у нас осталось совсем мало времени.

Святослав Вакарчук: На завершення я хотів розповісти історію. Колись люди, які просунулися набагато далі, ніж ми, і вже мали штучний інтелект, вирішили створити рівняння Всесвіту. Просто розв'язати рівняння всього Всесвіту і зрозуміти, як же все функціонує.

Вони завантажили все у комп'ютер, а штучний інтелект сказав - "недостатньо інформації". Пройшла ще тисяча років, вони просунулися набагато далі, почали літати в інші галактики. Знову завантажили всю світову інформацію у штучний інтелект, він довго думав і видав - "недостатньо інформації".

Нарешті, пройшли ще мільйони років, і вони вже освоїли повністю весь Всесвіт, завантажили всю інформацію Всесвіту, яка в них була, вони знали все. Комп'ютер довго-довго думав і сказав "інформації достатньо", і почав рахувати. Вони чекали-чекали, і в кінці він видав розв'язок: "Спочатку було Слово, Слово було в Бога і Слово було Бог".

Програма Час відповідати виходить в ефірі Радіо НВ щоп'ятниці о 20:00 - 21:00