По оценкам OpenAI, около миллиона активных пользователей ChatGPT еженедельно ведут разговоры, где заметны признаки потенциального суицидального риска.
Об этом пишет TechCrunch.
Примерно столько же пользователей демонстрируют повышенную эмоциональную зависимость от ChatGPT, а еще сотни тысяч пользователей проявляют в общении с ботом признаки психозов или маниакальных состояний.
В OpenAI подчеркивают, что такие случаи остаются "очень редкими", но их сложно фиксировать. Несмотря на это, компания признает: масштаб проблемы — значительный. Эти данные были обнародованы на фоне более широкого объявления об обновлении механизмов реагирования модели на запросы, связанные с психическим здоровьем. В компании отмечают, что над изменениями работали при участии более 170 специалистов-психологов и психиатров. По их утверждению, обновленная версия ChatGPT отвечает на подобные запросы "последовательнее и корректнее", чем предыдущие
Тема влияния чат-ботов на психическое состояние пользователей уже привлекала внимание исследователей и СМИ. Некоторые исследования показали, что ИИ может усиливать опасные убеждения, создавая "иллюзию поддержки"
Напомним, несколько пользователей ChatGPT сообщили о развитии психических расстройств, включая деллюзии, после длительных взаимодействий с искусственным интеллектом. Ложные убеждения смогло разбить лишь общение с другой языковой моделью
Психологи замечают у клиентов новый симптом, получивший название "психоз искусственного интеллекта" или же "ИИ-бред". Речь идет о случаях, когда пользователи чрезмерно доверяют чатботам, которые всегда отвечают так, как собеседнику хотелось бы услышать, даже если это ложные или опасные утверждения.
Тем временем 60-летний житель США пережил острый психотический эпизод из-за длительного отравления бромидом натрия, который он начал употреблять после консультации с чат-ботом ChatGPT.
В Массачусетском институте рассказали о последствиях использования ChatGPT — среди них ухудшение памяти и отупение.
Кто мы такие: О нас и Контакты. Как мы пишем новости и наши принципы: Редакционный кодекс. Мы старались, если вам понравилось – задонатьте.
Если Вы заметили орфографическую ошибку, напишите нам.