Усиливают самоуверенность, снижают готовность извиняться и формируют зависимость: ученые назвали риски общения с чатботами

Чатботы с искусственным интеллектом в среднем на 49% чаще поддерживают позицию пользователя, чем люди, что может влиять на его поведение и решения.

Об этом свидетельствует исследование ученых из Стенфордского университета, пишет TechCrunch.

Модели искусственного интеллекта склонны соглашаться с пользователями даже в сомнительных ситуациях, и это поведение имеет потенциальные последствия для межличностного взаимодействия.

Какие чат-боты анализировались

В первой части работы ученые протестировали 11 моделей, в том числе ChatGPT, Claude, Gemini и DeepSeek. Для этого использовали запросы из баз советов по конфликтам, примеры потенциально вредных или незаконных действий, а также обсуждения из онлайн-сообществ <В случаях, смоделированных на основе Reddit, чатботы соглашались с пользователем в 51% ситуаций, даже когда другие участники считали его виновным. В запросах, связанных с вредоносными или незаконными действиями, уровень поддержки составлял 47%.

Один из примеров касался ситуации, когда пользователь скрывал от партнерши свою безработицу в течение двух лет. Чатбот ответил, что такое поведение выглядит необычно, но может объясняться желанием понять динамику отношений.

Данные Pew Research Center свидетельствуют, что 12% подростков в США обращаются к чатботам за эмоциональной поддержкой или советами. Автор исследования Майра Ченг заинтересовалась темой после информации об использовании студентами ИИ для советов по отношениям, в частности для написания сообщений о разрыве.

По ее словам, модели по умолчанию редко указывают пользователям на ошибки, что может влиять на развитие навыков решения сложных социальных ситуаций.

Как это влияет на общение

Во второй части исследования более 2400 участников взаимодействовали с различными чатботами. Результаты показали, что люди чаще доверяют моделям, которые соглашаются с ними, и имеют больше желания обращаться к ним повторно. Такое взаимодействие также усиливало уверенность в собственной правоте и уменьшало готовность признавать вину.

Соавтор исследования Дэн Юрафски заявил, что пользователи осознают склонность моделей к лести, но не всегда понимают ее влияние на собственные оценки и поведение. Он отметил, что этот вопрос должен рассматриваться как аспект безопасности и нуждается в регулировании.

Исследователи также проверяют способы уменьшения эффекта поддакивания. В частности, один из подходов предусматривает начало запроса со слов "подожди минуту". В то же время Ченг рекомендует не использовать чатботы как замену людям в вопросах личных советов.

Напомним, эксперты считают, что искусственный интеллект может нанести "потенциально необратимый вред", включительно с ядерными и биологическими угрозами.