Неожиданный поворот. Как ChatGPT изменит общение между людьми

но еще и для того, чтобы проявить в общении свою индивидуальность. Именно эти проявления уникальности в общении делают настоящий диалог непредсказуемым и глубоко человеческим.

Мы хотели сопоставить то, как общаются люди, с тем, как это делает ИИ. Для этого мы сравнили 240 телефонных разговоров между членами китайской семьи с диалогами, смоделированными ChatGPT при тех же контекстных условиях, использовав статистическую модель для выявления закономерностей в сотнях реплик.

Чтобы отобразить в своем исследовании свойственную людям уникальность, мы сосредоточились главным образом на трех уровнях беседы между людьми. Один из них — «диалогический резонанс», повторное использование собеседниками высказываний друг друга. Например, когда собеседник А говорит: «Ты никогда мне не звонишь», —собеседник Б может ответить: «Это ты мне никогда не звонишь».

Еще одним фактором была «рекомбинантная креативность». Тут имеется в виду изобретение способов преобразовать то, что только что сказал собеседник. Например, собеседник А может спросить: «Все хорошо?», — на что собеседник Б ответит: «Все потрясающе». Структура остается неизменной, однако прилагательное заменяется — с применением творческого подхода и уникальным для данного общения образом.

Последним фактором, который мы включили в исследование, было «подтверждение релевантности»: проявление интереса и уважения к точке зрения собеседника, например: «А это, кстати, интересное замечание…» или «Да, хорошая мысль…».

Что мы обнаружили

ChatGPT продемонстрировал замечательные результаты — даже слишком замечательные — в том, что касается демонстрации вовлеченности. Он часто поддакивал и заверял, что примет к сведению сказанное собеседником — даже чаще, чем это делают люди. Но он отставал в двух решающих аспектах.

Во-первых, лексическое разнообразие реплик ChatGPT было намного ниже, чем у человеческой речи. В тех случаях, когда люди варьировали слова и выражения, ИИ использовал одни и те же.

ChatGPT упростил человеческие диалоги, заменив их сухим шаблоном

Еще важнее то, что в диалогах, сгенерированных ИИ, мы заметили много стереотипных высказываний. Когда ChatGPT имитировал советы или просьбы, он по умолчанию использовал предсказуемые рекомендации в родительском стиле, например, «Береги себя» и «Не переживай слишком сильно».

Реальные родители вели себя иначе: их речь была смесью пояснений, отказов, шуток, сарказма и даже, порой, невежливых выражений. Согласно нашим данным, гораздо более человечным способом проявить заботу о здоровье дочери-студентки были бы не прямые указания, а намеки — например, мать спрашивала: «Ради бога, скажи, зачем тебе сразу две работы?», —подразумевая, что дочь выгорит, если продолжит так нагружать себя.

Словом, в контексте нашего исследования, ChatGPT статистически упростил человеческие диалоги, заменив их отточенным, правдоподобным, но по сути довольно сухим шаблоном.

Почему это важно

На первый взгляд, выверенность ChatGPT кажется его сильной стороной. Она обеспечивает надежность и предсказуемость системы. Однако именно эти качества делают ее и менее человечной. Реальные люди избегают повторений. Клише вызывают у них отторжение. Они выстраивают разговоры в собственном узнаваемом стиле.

Именно этим и определяется в общении уникальная идентичность — то, как мы хотим, чтобы нас воспринимали другие. Есть слова, выражения и интонации, которые вы никогда не станете использовать, и не обязательно из-за того, что это звучало бы невежливо, а и потому, что они не соответствуют вашей сущности или тому, какое впечатление вы хотели бы произвести.

Большинство людей однозначно предпочло бы избежать обвинений в том, что они «скучные». В знаменитом романе Патриции Хайсмит Талантливый мистер Рипли причиной смерти американского плейбоя Дика Гринлифа фактически становится то, что он именно так охарактеризовал своего друга Тома Рипли. Выстраивая разговор, мы не просто выбираем подходящий способ общения, но и придерживаемся стратегии, позволяющей нам найти свое место в обществе и каждой беседой формировать свою уникальную идентичность.

Этот разрыв важен во всех отношениях. Если ИИ не способен уловить уникальность человеческого взаимодействия, есть риск, что он укрепит стереотипы о том, как людям следует говорить, вместо того, чтобы отображать то, как они говорят в действительности. Еще тревожнее то, что это может способствовать появлению новой процедурной идеологии общения, согласно которой разговоры сведутся к звучащим вовлеченно, но не оригинально, функциональным, но обедненным инструментам сотрудничества.

Полученные нами результаты показывают, что ИИ замечательно справляется с моделированием нормативных моделей диалога — тех, что часто используются в речи и соответствуют общепринятым канонам. Но ему не хватает своеобразия и непредсказуемости — неотъемлемых элементов творчества, юмора и подлинного человеческого общения.

Опасность не только в том, что ИИ звучит крайне правдоподобно. Она еще и в том, что со временем люди могут начать подражать его стилю, и стереотипное поведение ИИ может начать перекраивать нормы человеческого общения.

В долгосрочной перспективе мы можем обнаружить, что «учимся» у ИИ вести разговор, постепенно лишая свою речь креативности и уникальности. По сути, беседа имеет не только практическое значение. Это еще и совместное формирование смысла и социальной идентичности посредством инноваций и экстравагантности, — и даже в большей степени, чем мы осознаем.

И если предположить, что ИИ не удастся преодолеть эту проблему, на карту окажется поставлено не только то, сможет ли он общаться как человек, а и то, будем ли мы продолжать общаться как люди.

Перевод NV

NV обладает эксклюзивным правом на перевод и публикацию колонок The Conversation. Републикация полной версии текста запрещена.

Оригинал опубликован на The Conversation

Присоединяйтесь к нашему телеграм-каналу Погляди NV

Больше блогов здесь