Корупція та штучний інтелект

Це питання містить дві глобальні проблеми: чи комп’ютери можуть замінити людину та чи є технологічний розв’язок для таких задач? І друге: а чи варто це робити? Чи маємо ми моральне право замість людини ставити машину? Я вважаю, що в цьому ланцюжку завжди має бути людська постать. Говоримо абстрактно: якщо у вас виникає відчуття, що людина десь схибила у прийнятті рішень, то варто шукати проміжне рішення.

Уявімо ситуацію, що юридичний процес протікає традиційно, але комп’ютер, часом, разом з громадянським суспільством чи без нього, може слідкувати за процесом, знаходити в ньому хиби: що мало статися на думку комп’ютера, і що трапилося насправді в судочинстві. Враховуючи те, що демократія – про збільшення ролі громадян в процесі прийняття рішень, моя власна думка – це не найкраще рішення. Бо воно усуває людей з процесу громадянського контролю взагалі. Я виступаю за те, щоб ми могли за допомогою комп’ютерів налагоджувати систему контролю, стеження та відповідальності, але не потрібно віддавати цю систему на відкуп машинам.

Цінність тих чи інших технологій – це також і про дотримання певних стандартівЦей аспект також стосується етичного аспекту прийняття рішень. Його можна поділити на три рівні.

Перший – це особистість: ваші персональні рішення, особиста етика, на що навряд чи хтось має впливати, окрім вас. Я б не радив програмістам мати етичні регули і взагалі б обмежував це законом.

Інший рівень – державний: тут етична дилема прийняття рішень більш складна. І вона тісно переплітається з прийняттям рішень на рівні бізнесу та компаній. Варто зауважити, що встановлення таких норм залежить і від типу країн – чи є це автократія, чи демократія. Адже у перших – діяльність бізнесу чи компаній є продовженням політичного вектору, а в другій між цими двома світами є виразний поділ.

Коли настають кризи – в тому числі, і виклики безпеці країни, – уряд має непросте завдання з’ясувати, яким чином країні впоратися з ситуацією, не поступаючись цінностями, що роблять її демократією. В автократичних країнах все трохи простіше – таких вагань немає, проте, там має ряд інших проблем. Наприклад, якщо ви, як компанія, не хочете мати етичні проблеми щодо штучного інтелекту, вам варто про них говорити, встановлювати стандарти. Проте, це не означає, що автократичні системи приймуть ті етичні стандарти, що ви маєте, і не намагатимуться втрутитися.

Беручи до увагу різноманіття світу та відмінності, в тому числі і між системами цінностей, перебуваючи в межах демократії, ви маєте триматися переконань цієї системи та не коритися якимось спокусам відхилитися від встановленого на етичному рівні. Демократіям складно взаємодіяти з автократіями.

Ті, хто живуть в демократичному світі, та й люди загалом, схильні більше довіряти технологіям, розробленим компаніями в демократичних країнах, ніж в автократичних. Цінність тих чи інших технологій – це також і про дотримання певних стандартів (безпеки, в тому числі).

Інженерні компанії, які розроблюють рішення щодо штучного інтелекту, є в різних країнах: як в автократичних, так і демократичних. Саме тому компанії мають починати глобальний діалог щодо етики: зважаючи на культурні та історичні різноманіття, не говорячи вже про те, що і ставлення до цих норм, залежно від устрою країн різнитиметься, це складно. Проте хтось має взяти на себе таку відповідальність: навіть, якщо поки умов для цього немає – їх треба створити.

Текст записано під час презентації книги «Новий цифровий світ. Як технології змінюють державу, бізнес і наше життя», співавтором якої є Джаред Коен. Подія організована Фондом Віктора Пінчука