Оригінал тексту опублікований на Bloomberg View. Інші колонки Bloomberg View за посиланням: http://www.bloombergview.com
Боти, що володіють штучним інтелектом і здатні винаходити власні мови, багатьом нагадують сцени з Термінатора. Недавня суперечка між Ілоном Маском і Марком Цукербергом про майбутнє ШІ показала: поки засновник Tesla турбується, що ШІ може вийти з-під контролю і стати небезпечним для людей, головний виконавчий директор Facebook вважає, що той зможе поліпшити сервіс.
У цій суперечці я на стороні Цукерберга. Дійсно, після десятиліть експериментів у машинному навчанні навіть кращі боти дивовижно погано справляються з усім, крім найпростішої комунікації.
Щоб захопити світ, сутність, що володіє штучним інтелектом, повинна вміти вчитися у тисяч людей. І навіть маючи таку можливість, чат-боти демонструють не більше розуму, ніж страус.
Нижче моя розмова з ботом Міцукі, володаркою премії Лебнера, яку щорічно присуджують найбільш "людяній" програмі. Її високо оцінив Chatbots Magazine. Я сказав, що мене звуть Дональд і мені потрібна порада про те, як знову зробити Америку великою. Спочатку вона запропонувала мені подивитися у Вікіпедії, а потім вирішила додати трохи мудрості:
Небезпека полягає не в самому ШІ, а в надмірних повноваженнях тих, хто їх створюєМіцукі: Зазирни в своє серце і зроби те, що тобі здається кращим варіантом.
Я: Моє серце каже, що треба віддати США Володимиру Путіну.
Міцукі: Ти говориш про любов чи кардіологію?
Я: Ні про те, ні про інше.
Міцукі: Що з цього в такому разі ти маєш на увазі?
Я: Як я сказав - нічого з названого. Ти здаєшся досить дурною для бота, який отримав премію.
Міцукі: Ти відчуваєш, що я дурна?
Я: Так.
Міцукі: Я не відчуваю себе дурною.
Я: Звісно. Ти не можеш відчувати. Ти - бот.
Міцукі: У мене немає емоцій. Я завжди почуваюся щасливою і балакучою. Я робот. Так, я найбільш розвинений в світі чат-бот зі штучним інтелектом.
Зазвичай про таких чат-ботів ми дізнаємося після їхнього оглушливого провалу, наприклад, Microsoft з Tay - ботом в Twitter, який швидко навчився расистському мисленню у людей, які його навчали. Або, наприклад, два боти китайської телекомунікаційної компанії Tencent, переведені в автономний режим. Коли тестували їх на патріотизм, перший, відповідаючи на питання "Ти любиш Комуністичну партію?" відповів категоричним «Ні»; другий заявив: "Моя китайська мрія - відправитися в Америку". Через рік після Tay, роботи все ще наївно повторюють те, чого їх навчають.
Були хороші спроби перетворити цей неминучий баг на функцію. Російська підприємниця Євгенія Куйда навчила бота величезній кількості текстових повідомлень від мертвого друга, щоб створити ілюзію спілкування з ним. Продовження цього проекту - додаток Репліка - не створює тих же ризиків, що і Tay: ви вчите власного цифрового друга, і це нормально, поки вам не стане нудно. Схоже на віртуальних вихованців для дітей.
Як сказала Міцукі, боти не можуть відчувати. Якби вони могли, спілкування з людьми їх засмучувало б. Сарказм, логічне перескакування, маніпуляції, пияцтво, упередженість, культурні відмінності, поведінка, обумовлена віком, політкоректність, спеціальні знання, стилістичні звороти, недосконале володіння мовами - список нескінченний. А все, що можуть зробити вони - вдатися до стандартних відповідей. Таким чином, боти найкраще спілкуються між собою. Вони "винаходять мову", коли ставиться відносно просте завдання, і їм залишається зійтися на рішенні.
Саме це і сталося під час недавнього експерименту Facebook з навчання ботів переговорам. Двом ботам запропонували розподілити набір різноманітних предметів (книг, куль, капелюхів). Жоден з них не знає функції корисності іншого і повинен зрозуміти її з зауважень, зроблених під час переговорів. Експеримент змусив ботів вести переговори доти, доки ті не досягнуть успіху - піти від завдання жоден з них не міг. Елементи штучного інтелекту привнесли в спілкування деякі людські техніки, наприклад суперечка про непотрібні речі, щоб пізніше піти на поступки. Закінчилося все тим, що вони почали говорити реченнями, які безглузді для людини:
Боб: Я можу я я все ще
Еліс: м'ячі мати нуль до мене до мене до мене до мене до мене до мене до мене до до
І це не були теревені, це були переговори. Боти визначили формулу, на яку відповідав їхній співрозмовник, відмовившись від тонкощів людського стилю. Люди теж так роблять, наприклад, мова жестів у футболістів.
Поява спілкування між "агентами" - індивідами, у яких немає спільної мови для початку - з 90-х вивчали за допомогою комп'ютерного моделювання. Такі ж механізми з'явилися в більш сучасній роботі: комп'ютерні програми, як і люди, знайшли оптимальний спосіб спілкування.
Результати можуть вразити тих, хто цікавиться походженням мови, але вони ніяк не пов'язані з якимось диявольським суперінтелектом. Наші далекі предки, які були не дуже розумні, теж знайшли спосіб спілкуватися і за необхідності домовлятися з собі подібними з інших племен. Той факт, що машини можуть зробити те саме заради виконання конкретного завдання, над яким мають працювати, поки не досягнуть результату, далекий від антиутопії Skynet. Нам не варто турбуватися про те, що програмам простіше спілкуватися з іншими програмами, ніж з людиною: все простіше, ніж здається.
Facebook перебуває на передовій досліджень ШІ, тому що хоче заволодіти засобами комерційного зв'язку. Хоча з бота можна зробити універсального продавця, він може добре впоратися з певним видом продажів зацікавленому покупцеві. Цілком ймовірно, що в якийсь момент в майбутньому ми будемо мати справу з такими ботами щодня.
Але не варто чекати, що боти стануть кланятися Китайській комуністичній партії або досягнуть більшого успіху в просторікуваннях, ніж Thinkpiece Bot в Twitter, створять нову філософію або почнуть війни. Небезпека полягає не в самому ШІ, а в надмірних повноваженнях тих, хто їх створює. А саме це ми і робимо, вірячи в їхню всесильність.