Чат-боты с искусственным интеллектом могут лучше людей убеждать сторонников теории заговора

Вера в теории заговора широко распространена, особенно в США, где, по некоторым оценкам, до 50 процентов населения верят хотя бы в одно из этих запредельных утверждений. И эти убеждения, как известно, трудно развенчать. Если предъявить убежденному конспирологу факты и доказательства, он, как правило, просто удвоит свои убеждения - психологи обычно объясняют это мотивированными рассуждениями, то есть предвзятым способом обработки информации.

Однако новая работа, опубликованная в журнале Science, ставит под сомнение эту общепринятую точку зрения. Эксперименты, в которых чат-бот с искусственным интеллектом вступал в беседы с людьми, верившими хотя бы в одну теорию заговора, показали, что взаимодействие значительно уменьшило силу этих убеждений даже два месяца спустя. Секрет успеха: чатбот, имея доступ к огромному количеству информации по огромному спектру тем, мог точно подбирать контраргументы для каждого человека.

«Это одни из самых захватывающих результатов, которые я когда-либо видел», - сказал на брифинге для СМИ соавтор исследования Гордон Пенникук, психолог из Корнельского университета. «Эта работа переворачивает многие наши представления о заговорах, о том, что они являются результатом различных психологических мотивов и потребностей. [Участники] удивительно чутко реагировали на доказательства. Много чернил было пролито по поводу того, что мы живем в мире постправды. Очень полезно знать, что доказательства действительно имеют значение. Мы можем действовать более адаптивно, используя эту новую технологию для получения хороших результатов.Столкнувшись с фактами, которые ставят под сомнение глубоко укоренившееся убеждение, люди часто стремятся сохранить его, а не обновить свои предположения (говоря языком Байеса) в свете новых доказательств. Так что в последнее время было много пессимизма по поводу того, удастся ли достучаться до тех, кто погрузился глубоко в кроличью нору теорий заговора, которые, как известно, являются стойкими и «представляют серьезную угрозу для демократических обществ», по словам авторов. Пенникук и его коллеги-соавторы придумали альтернативное объяснение этому упорному сохранению веры.

Контраргументы на заказ

Дело в том, что «теории заговора очень сильно отличаются от человека к человеку», - говорит соавтор исследования Томас Костелло, психолог из Американского университета, также работающий в Массачусетском технологическом институте. «Они весьма неоднородны. Люди верят в самые разные из них, и конкретные доказательства, которые люди используют для обоснования даже одного заговора, могут отличаться от одного человека к другому. Поэтому попытки развенчать теорию заговора, когда вы пытаетесь аргументировать ее в широком смысле, не будут эффективными, потому что у людей в голове есть разные версии этого заговора».

ИИ-чатбот, напротив, сможет адаптировать усилия по развенчанию к этим различным версиям заговора. Таким образом, теоретически чатбот может оказаться более эффективным, чтобы переубедить человека от его любимой теории заговора.

Чтобы проверить свою гипотезу, команда провела серию экспериментов с 2190 участниками, которые верили в одну или несколько теорий заговора.Участники провели несколько личных «бесед» с большой языковой моделью (GT-4 Turbo), в ходе которых они рассказывали о своей любимой теории заговора и доказательствах, которые, по их мнению, поддерживают эту веру. В ответ LLM предлагал фактические и основанные на доказательствах контраргументы, разработанные специально для каждого участника. Ответы GPT-4 Turbo прошли профессиональную проверку фактов, которая показала, что 99,2 процента заявлений были правдивыми, и только 0,8 процента были признаны недостоверными, а ноль - ложными. Сначала участники отвечали на ряд открытых вопросов о теориях заговора, в которые они твердо верили, и о доказательствах, на которые они опирались, чтобы поддержать эти убеждения. Затем ИИ составил краткое изложение каждого убеждения в одном предложении, например, «11 сентября было внутренним делом, потому что X, Y и Z». Участники оценивали точность этого утверждения с точки зрения своих собственных убеждений, а затем заполняли анкету о других заговорах, своем отношении к доверенным экспертам, ИИ, другим людям в обществе и так далее.

Затем наступало время диалогов один на один с чатботом, которого команда запрограммировала на максимальную убедительность. Чатбот также получал открытые ответы участников, что позволяло ему подбирать контраргументы индивидуально. Например, если кто-то считал, что 11 сентября - это внутренняя работа, и приводил в качестве доказательства тот факт, что реактивное топливо не горит достаточно жарко, чтобы расплавить сталь, чатбот мог возразить, например, отчетом NIST о том, что сталь теряет прочность при гораздо более низких температурах, достаточных для ослабления конструкций башен, чтобы они рухнули. Тот, кто считал, что 11 сентября - это внутренняя работа, и приводил в качестве доказательства подрывные работы, получил бы другой ответ, соответствующий этому.Как отмечают Бенс Баго (Тилбургский университет) и Жан-Франсуа Боннефон (CNRS, Тулуза, Франция) в сопроводительном обзоре, это значительный эффект по сравнению с 1-6-процентным снижением убеждений, достигнутым другими вмешательствами. Они также отметили стойкость эффекта, но при этом предупредили, что двух месяцев «недостаточно для полного искоренения дезинформированных конспирологических убеждений».