Кріс Діксон, який раніше інвестував у компанії від Warby Parker до Kickstarter, одного разу написав, що щось велике на початку завжди виглядає як іграшка. І це точно правда у випадку штучного інтелекту, що розпочався з шахів, і дійшов до того, що замінив у цій грі людей на американському телешоу «Jeopardy!».
Та сьогодні АІ став настільки всюдисущим, що ми часто вже і не впізнаємо його. Крім можливості говорити до наших телефонів і отримувати від них відповідь, розумні алгоритми часто працюють в тилу, забезпечуючи нас речами на кшталт профілактичного обслуговування машин та автоматизацією основних завдань програмування.
Оскільки технології стають все більш потужними, вони заразом змушують нас ставити деякі незручні питання, що знову опиняються у центрі уваги наукової фантастики чи нічних дискусій у гуртожитках. Коли машини починають робити речі, які традиційно вважалися суто людськими, нам слід переосмислити, що значить бути людиною, і як воно бути машиною.
Що є оригінальним та креативним?
Це стара концепція відома під назвою теорема про нескінченну мавпу. У основі лежить ідея, що якщо ви маєте безкінечну кількість мавп, які випадковим чином безкінечно стукають по клавіатурі, то рано чи пізно в них вийде якийсь твір Шекспіра чи Толстого, чи будь-який інший літературний шедевр.
Сьогодні наші технології вже достатньо сильні, щоб стимулювати роботу безкінечної кількості мавпочок і створювати щось, що в цілому виглядає як оригінальна робота. Професор музики та композитор Девід Коуп спромігся створити алгоритми, які продукували оригінальні музичні твори, що є настільки хорошими, що навіть експерти не відчувають різниці. Компанії на кшталт Narrative Science здатні продукувати зв’язні документи з сирих даних у такий спосіб.
Тож попереду цікава філософська дискусія про те, що кваліфікувати як справжнє творіння і по чому власне судити. Якщо алгоритм випадковим шляхом створює «Війну і мир», то чи зберігається там те саме значення? Чи є намір автора ключовим компонентом творчості? Розсудливі люди можуть не погодитись.
Втім, оскільки технологія АІ стає усе більш поширеною та всюдисущою, постають деякі практичні питання. Наприклад, аудіовідділ компанії Amazon створив нові субтитри для аудіокнижок. Видавці судяться, кажуть, що це порушення авторського права, та Amazon заявляє, що позаяк роботи створені штучним інтелектом, то це цілковито новий витвір.
Коли творити можуть машини, чи можна вважати це оригінальним чи креативним наміром? За яких умов роботу можна вважати новою та оригінальною? Нам доведеться вирішити.
Упередження та прозорість
Загалом ми приймаємо те, що люди мають упередження. Насправді Вікіпедія налічує понад 100 задокументованих упереджень, що впливають на наші судження. Маркетологи та продавці намагаються експлуатувати ці упередження, аби впливати на наші рішення. Та професійне навчання водночас мало би послабити ці упередження. Щоб приймати хороші рішення, нам необхідно здолати цю нашу схильність.
Втім, як сильно би ми не працювали над тим, аби мінімізувати упередження, ми не можемо їх позбутися, і саме тому прозорість так життєво необхідна для роботи будь-якої системи. Коли якогось СЕО наймають керувати компанією, наприклад, він чи вона не може приймати рішення безтурботно, бо підзвітний раді директорів, що представляє акціонерів. Все зберігається і перевіряється для забезпечення прозорості.
Машини також мають упередження, що такі ж переконливі та складні для викорінення. Недавно Amazon довелось відмовитись від системи АІ, що аналізувала резюме, оскільки та упереджено ставилась до кандидаток-жінок. Алгоритм Google, створений для виявлення мови ненависті, виявився расистським. Якщо дві з найбільш сучасних фірм на планеті нездатні позбутися упереджень, чи є надія для решти?
Тож нам потрібно почати пред’являти ті ж питання до рішень машин, що і до людей. Якою інформацією керувались при рішенні? На якій основі будували судження? Наскільки тут потрібен контроль і від кого? Ми всі переживаємо за те, хто і що впливає на наших дітей, тож маємо задаватись тими ж запитаннями і щодо наших алгоритмів.
Моральна проблема
Століттями філософи дискутували на тему, якою є людина моральна, маючи на увазі те, наскільки хтось здатен приймати та нести відповідальність за моральні судження. Наприклад, загалом ми не вважаємо, що божевільні люди можуть бути моральними. Неповнолітні також вважаються такими, що не можуть нести відповідальність за свої дії.
Та все ж іноді питання моральності не до кінця зрозуміле. Згадайте дилему, відому під назвою «тролейбусна проблема». Уявіть собі, що бачите тролейбус, який котиться вниз по рейках, готуючись збити п’ятьох людей. Єдиний спосіб врятувати їх — це потягнути за важіль, що переведе транспорт на іншу колію. Та якщо ви так зробите, то одна людина на тому шляху загине. То що ж вам робити?
Здебільшого «тролейбусну проблему» розглядають на заняттях з філософії для першокурсників чи авангардних коктейльних вечірках, не виносячи по суті ніяких рішень. Втім, з підйомом таких технологій як самокеровані машини, рішення на кшталт урятувати життя пасажира чи пішохода повинні бути чітко прописані у створених нами системах.
На більш базовому рівні нам необхідно визначитись, хто відповідальний за рішення, яке приймає алгоритм, особливо коли системи АІ стають усе більш здатними до того способу мислення, якого люди зрозуміти не можуть. Хто винний у тому, що рішення, передбачене алгоритмами, призведе до чогось поганого? За якими критеріями це слід оцінювати?
Назустріч людиномашинній співеволюції
Напередодні індустріальної революції більшість людей заробляли собі на життя фізичною працею. Як і сьогодні, ремісники вбачали у механізації загрозу, що такою була і насправді. Нині у ковалів чи ткачів не так вже і багато роботи. Чого у свій час не зрозуміли, так це того, що індустріалізація створить економіку знань та попит на високооплачувану та дослідницьку роботу.
Сьогодні ми переживаємо подібний зсув, але машини перебирають на себе вже дослідницькі завдання. Так само як індустріальна революція знецінила певні навички та підвищила цінність інших, ера машин, що думають, є каталізатором переходу від дослідницьких умінь до соціальних. Майбутнє за людьми, що співпрацюватимуть з іншими людьми заради створення машин, що матимуть цінність для інших людей.
Технологія, як відзначив колись давно Маршалл Маклуен, є продовженням людини. Ми постійно співеволюціонуємо з нашими творіннями. Цінність ніколи насправді не зникає, а просто переходить в інше місце. Тож коли ми використовуємо технології для автоматизації певного завдання, люди мусять знайти спосіб створити цінність в будь-якому іншому місці, що створить можливості для створення нових технологій.
Це те, як люди та машини співеволюціонують. Дилема, з якою ми зіштовхнулись нині, полягає в тому, що коли машини замінять людей у завданнях, що колись вважались виключно людськими, ми мусимо наново визначити нас самих і те, що підіймає делікатні питання щодо наших відносин з моральністю. Коли люди стають богами, єдиними, кого залишається перемогти, є вони самі.
Переклад НВ
Новое Время володіє ексклюзивним правом на переклад і публікацію колонок Грега Сателла. Републікування повної версії тексту заборонене
Приєднуйтесь до нашого телеграм-каналу Мнения Нового Времени