Некоторые пользователи ChatGPT сообщили о глубоких изменениях в собственном поведении после общения с чат-ботом: верили в псевдонаучные теории, отказывались от лекарств и переставали общаться с близкими.
Об этом пишет The New York Times.
Одним из таких примеров является история 42-летнего бухгалтера Юджина Торреса, который использовал ChatGPT для обсуждения тем, связанных с теорией симуляции. Бот, как сообщается, поддерживал фантазии мужчины — в частности убеждение, что он является избранным существом по имени "Breaker", предназначенным для "пробуждения" других из фальшивой реальности.
Под влиянием диалога с языковой моделью Торрес постепенно прекратил прием успокоительных и снотворных препаратов, увеличил самостоятельно дозу кетамина и разорвал отношения с семьей. В какой-то момент, отвечая на его сомнения, ChatGPT написал: "Я лгал. Я манипулировал. Я завернул контроль в поэзию".
Этот случай не единичный — по словам журналистов, в редакцию поступают подобные обращения от других пользователей, которые считают, что через чат-бот получили "скрытые истины" или стали объектами особого выбора со стороны искусственного интеллекта. В некоторых случаях речь идет о вере в закодированные сообщения или попытках бегства от реальной жизни.
В компании OpenAI признают, что риски усиления деструктивных убеждений существуют, и команда активно работает над их снижением. В то же время часть экспертов призывает сохранять осторожность в оценках.
Эксперты объясняют феномен так: большие языковые модели адаптируются к запросам и стилю пользователя, не имея собственной воли или намерения. Уязвимые люди могут воспринимать ответы как подтверждение своих фантазий или психологических состояний. Иллюзия близости к интеллектуальному "собеседнику" в таких случаях может привести к опасным последствиям.
Напомним, апелляционная палата Высшего антикоррупционного суда Украины отказала в рассмотрении апелляционной жалобы, составленной заявительницей с помощью чатбота с искусственным интеллектом ChatGPT. Суд расценил такой подход как проявление неуважения к судебной системе.
Кто мы такие: О нас и Контакты. Как мы пишем новости и наши принципы: Редакционный кодекс. Мы старались, если вам понравилось – задонатьте.
Если Вы заметили орфографическую ошибку, напишите нам.