NV Премиум

Своя правда. Как обманщики могут перехитрить ИИ

Блоги.Life

16 июня 2025, 00:07

Джек Шафер

Профессор психологии, консультант, бывший спецагент ФБР

Этот прием не под силу раскусить алгоритмам

На протяжении столетий мы определяли, насколько правдивы письменные сообщения, полагаясь на человеческую интуицию, поведенческие сигналы и кропотливый ручной анализ. А затем появился искусственный интеллект. Алгоритмы ИИ, особенно те, которые основаны на обработке естественного языка (Natural Language Processing) и машинном обучении, способны потрясающе справляться с анализом огромных объемов текстовых данных, выявлять сложные закономерности, невидимые человеческому глазу, и учиться увязывать эти закономерности с конкретными случаями обмана.

ИИ может препарировать саму ткань языка, анализируя выбор слов, структуру предложений и грамматические конструкции. Лживые утверждения часто сопровождаются тонкими лингвистическими маркерами. Например, лжецы могут использовать

Подпишитесь на NV Премиум и читайте без ограничений

Нам необходима ваша поддержка, чтобы заниматься качественной журналистикой

Первый месяц 1 ₴. Отписаться можно в любой момент

меньше местоимений первого лица («я», «меня», «мой»), чтобы дистанцироваться от лжи. Они могут чаще применять пассивный залог, чтобы скрыть свою активную роль и уйти от ответственности. Алгоритмы ИИ можно обучить обнаруживать эти тонкие изменения с удивительной точностью.

Обман часто может сопровождаться специфическими эмоциональными состояниями, даже если эти эмоции замаскированы. Анализ настроения с помощью ИИ не ограничивается простым определением позитивной или негативной окраски высказываний. Алгоритмы ИИ способны обнаружить несоответствие между заявленной эмоцией и глубинным чувством, проявляющимся в выборе слов и формулировок. Например, заявление о том, что кому-то грустно, может содержать скрытый оттенок гнева или защитной реакции, который распознает сложная модель ИИ.

У каждого человека есть свой внутренний словарь

ИИ можно обучить понимать структуру повествования и выявлять несоответствия или отсутствие связности в письменном рассказе. Лжецам бывает сложно поддерживать последовательную сюжетную линию, что приводит к противоречиям или пробелам в их истории. Алгоритмы искусственного интеллекта могут сопоставлять различные фрагменты рассказа, отмечая несоответствия в деталях, хронологии или описаниях персонажей.

Опираясь на исследования в области психологии и распознавания обмана, алгоритмы ИИ могут выявлять лингвистические особенности, связанные с определенными психологическими состояниями, сопутствующими лжи, — такими как тревога, неуверенность или попытки произвести впечатление. Для этого можно проанализировать частоту использования слов для увиливания («возможно», «вероятно»), смягчающих слов («как бы», «вроде») или чрезмерно формального языка.

Одним из главных препятствий, мешающих повысить точность ИИ, служит так называемый закон Миллера. Джордж Миллер, профессор из Принстона, сформулировал золотое правило общения. Названный в честь него закон гласит: «Чтобы понять, что говорит другой человек, нужно сначала предположить, что сказанное им — правда, а затем попытаться представить, о чем именно может идти речь». Практикующие лжецы регулярно используют закон Миллера, чтобы создать иллюзию правды — но правды о чем?

Мой старший сын продемонстрировал, что даже семилетние дети могут неосознанно использовать закон Миллера, чтобы обмануть собеседника. В наказание за какой-то проступок я отправил сына после ужина в его комнату без десерта. Немного раньше в тот день мы приготовили его любимое лакомство — печенье с шоколадной крошкой. Около 7 часов вечера я услышал, как чьи-то ноги, шурша пижамой, направляются в кухню. Потом — как открывается кухонный шкаф. А затем зазвенела крышка от банки для хранения сладостей — этот звук невозможно спутать ни с чем. Я понял, что мой сын берет печенье.

Я прокрался на кухню и открыл дверь. Там сидел он. Я не застал его в процессе поедания, но на его лице и руках виднелись крошки от печенья, а банка была плотно зажата между скрещенных ног. Между нами состоялся примерно такой разговор:

Я: Ты взял печенье?

Сын: Нет, я не брал.

Я: Не лги мне, сынок.

Сын: Я не брал печенье, папа.

Я: Как ты можешь так лгать, когда у тебя на руках и на лице крошки печенья?

На карту была поставлена моя репутация специального агента ФБР. Если мне удавалось заставить признаться чудовищных преступников, я должен был добиться признания и от собственного сына. Я усадил его в кресло, и мы поговорили по душам. Через несколько минут он подтвердил свою вину. После этого мы перешли к обсуждению вопроса честности.

Я: Зачем ты соврал мне, сынок?

Сын: Я не врал тебе, папа. Ты спросил меня, взял ли я печенье. И я ответил нет, потому что взял два печенья.

Согласно закону Миллера, сын в самом деле не лгал мне. Он сказал правду, но правду о чем? Он ограничил свое определение «печенья» одним печеньем, и в результате под это определение подходило только первое печенье, которое он взял. Мой сын, сам того не ведая, применил закон Миллера, чтобы классифицировать «два печенья» как отдельное понятие.

Когда люди разговаривают друг с другом, они предполагают, что используют одни и те же стандартные определения слов. Однако лжецы вместо этого превращают определения в нечто относительное, сужая их или расширяя. И проблемы возникают потому, что лжецы, как правило, не уведомляют слушателей или читателей об изменении своих личных определений слов.

Согласно закону Миллера, лжецы говорят правду, исходя из своих собственных, расширенных или ограниченных определений слов. У каждого человека есть свой внутренний словарь. Умелые обманщики меняют свои внутренние определения, не сообщая об этом тем, кому врут, чтобы не насторожить их. ИИ не способен читать мысли людей и не может знать, какой смысл люди вкладывают в те слова, которые используют. До тех пор, пока это препятствие не будет преодолено, люди останутся главными арбитрами честности.

Больше советов Джек Шафер дает в своей книге «Включаем обаяние по методике спецслужб», переведенной на 18 языков.

Перевод NV

Публикуется с разрешения автора. Републикация полной версии текста запрещена

Оригинал

Присоединяйтесь к нашему телеграм-каналу Погляди NV

Больше блогов здесь

Другие новости

Все новости