Користувачі, які шукають інформацію в США, тепер іноді отримують згенероване ШІ узагальнення знайдених результатів, за якими йде звичний список сайтів, відсортованих за релевантністю.

Уже за кілька днів люди почали повідомляти про дивні, хибні та відверто небезпечні відповіді, пропоновані цією новою функцією, яка отримала назву AI Overviews. Вона запропонувала використовувати клей, щоб сир краще приклеювався до піци; вона міркувала про те, що для серця корисно бігати з ножицями; і заявила, що колишній президент США Барак Обама — мусульманин.

Компанія Google спішно почала виправляти ці помилки, проте багато експертів стверджують, що вони неминучі для цієї технології. Гендиректор Google Сундар Пічаї назвав подібні «галюцинації» «нерозв'язною проблемою» і «невід'ємною властивістю» ШІ-технологій. Негласно визнавши свій провал, Google явно скорочує частку користувачів, яким пропонують АІ-узагальнення.

Google широко — і справедливо — розкритикували за випуск продукту, який явно не придатний для використання і може нашкодити користувачам. Але мало хто задався питанням, а чому взагалі цей техногігант зміг діяти настільки нахабно. Відповідь проста: ця компанія, як висловилася голова Федеральної торгової комісії Ліна Хан, «занадто велика, щоб про щось піклуватися». Google контролює близько 90% світового ринку веб-пошуку, і в нього майже немає конкурентів. Ця компанія може пропонувати ненадійну або небезпечну продукцію, і при цьому не боятися, що клієнти підуть до конкурентів.

Ринкова сила Google позбавляє компанію стимулів до підтримки якості

Ринкова сила Google позбавляє компанію стимулів до підтримки якості. Останніми роками якість її пошукової системи швидко знижується, при цьому «органічні результати» дедалі частіше витісняють реклама і спам.

Корі Доктороу вигадав термін «лайнофікація» для опису методів технокомпаній, які спочатку надають споживачам корисні та фінансово доступні (або навіть безоплатні) послуги, а потім, щойно вони захоплюють ринок, починають підвищувати ціни та знижувати якість.

Прикладів удосталь: компанія Amazon поступово підвищує комісійні для продавців, а покупцям дедалі частіше пропонує проспонсоровані результати пошуку товарів. Мережі Instagram і Facebook, що належать компанії Meta, стали частіше пропонувати рекламу, відео й інший клікбейт-контент замість достовірних новин і повідомлень друзів та членів сім'ї.

Ця логіка може бути застосована і до «оновлень», включно з функцією AI Overviews від Google. Подібні зміни, свідомі й іноді вкрай радикальні, підносять під, здавалося б, прогресивним прапором «інновацій», але в підсумку якість обслуговування користувачів може значно погіршитися. Розвиваючи ідею Доктороу, можна навіть назвати їх «лайноноваціями».

Google — далеко не єдиний монополіст, який випускає погано підготовлені АІ-продукти. Компанія Meta нав’язує своїх нових ШІ-агентів мільйонам користувачів в Instagram і Facebook, хоча вони вигадують факти і видають себе за людей. У лютому чат-бот ChatGPT компанії OpenAI почав нести повну маячню, включно з текстами із суміші різними мовами. Інженери Microsoft критикують власну компанію за реліз генератора зображень (на базі технологій OpenAI), який створює агресивний, сексуалізований і політично упереджений контент.

Кожна з цих компаній цільовим чином виправила ці помилки, але такий підхід у стилі гри «злови крота» виявляється неадекватним, коли ми маємо справу з технологією, яка фундаментально явно ненадійна.

Поспішність релізу продукції з генеративним ШІ частково пояснювана монополістичною самовпевненістю, але водночас вона дає змогу закріпити ринкову силу великих технокомпаній, що забезпечує їх величезними масивами даних, обчислювальною потужністю, експертними знаннями та капіталами. Усе це, власне, і дало змогу цим компаніям розробити великі мовні моделі.

Google і Meta використовують генеративний ШІ для посилення своєї дуополії на ринку цифрової реклами, а стимульоване ШІ зростання попиту на обчислювальні потужності закріплює контроль Microsoft і Amazon над хмарними обчисленнями. ШІ-інструменти підживлюють також створені цими компаніями машини стеження і маніпулювання людьми. Питання, наскільки ця технологія корисна користувачам, виявляється другорядним.

Суперництво між технокомпаніями, особливо гонитву за генеративним ШІ, іноді наводять як приклад дії конкурентних сил у галузі. Однак цей аргумент не розрізняє конкуренцію «за ринок» і конкуренцію «на ринку». Може здатися, що техногіганти конкурують один з одним, але це майже завжди міраж. У реальності кожна компанія намагається поглибити рів навколо своєї сфери впливу, що призводить до напруженого, але загалом статичного співіснування. У рідкісних випадках прямої конкуренції, наприклад, між Microsoft і Google у сфері веб-пошуку, частки ринку залишаються майже незмінними.

Ще більше тривог викликає той факт, що ШІ-екосистема сьогодні вкрай схильна до змови: техногіганти формують партнерства, схожі на прибуткові угоди, які компанія Google укладала для збереження панування на ринку веб-пошуку. Серед них угода Microsoft і Meta про хмарні обчислення, нещодавно оголошене партнерство Apple і OpenAI, плани Google упровадити технологію ШІ в телефонах Samsung. Деякі з цих угод уже привернули пильну увагу антимонопольних органів.

Техногіганти конкурують реально лише в одній сфері: кожен із них потребує підтримки інвесторів і хоче уникнути враження, ніби він пасе задніх у перегонах ШІ-озброєнь. Однак токсичне поєднання нерозважливого прагнення до зростання з придушенням конкуренції призводить до небезпечного і збиткового впровадження неперевірених технологій.

Недостатньо заохочувати трохи сильнішу конкуренцію між техномонополістами в надії, що вони будуть змушені приділяти більше уваги безпеці та надійності. Обов’язкові для виконання норми регулювання, подібні до закону ЄС «Про штучний інтелект», є необхідним першим кроком на шляху до притягнення цих компаній до відповідальності.

Утім, влада має винахідливіше застосовувати наявні в неї інструменти, сприяючи появі реальних альтернатив техногігантам і гарантуючи, що користувачі перестали грати роль мимовільних піддослідних кроликів. Це можуть бути заходи антимонопольної політики або інвестиції в компанії, здатні кинути виклик сьогоднішнім монополіям у сфері хмарних обчислень і виробництва чипів.

Не менш важливо перестати вважати інновації самоціллю, не звертаючи уваги на цілі, яких вони допомагають досягти, або інтереси, яким вони сприяють. Ми маємо навчитися краще розуміти, як саме інвестори, панівні фірми й інші впливові особи формують і керують уявленнями про інновації. Лише тоді ми зможемо вести змістовну розмову про роль ШІ в нашому суспільстві.

NV має ексклюзивне право на переклад і публікацію колонок Project Syndicate. Републікація повної версії тексту заборонена

Оригінал

Copyright: Project Syndicate 2024

Приєднуйтесь до нашого телеграм-каналу Погляди NV