Понад 1 млн користувачів щотижня звертаються до ChatGPT із суїцидальними думками, — дані OpenAI

За оцінками OpenAI, близько мільйона активних користувачів ChatGPT щотижня ведуть розмови, де помітні ознаки потенційного суїцидального ризику.

Про це пише TechCrunch.

Приблизно стільки ж користувачів демонструють підвищену емоційну залежність від ChatGPT, а ще сотні тисяч користувачів проявляють у спілкуванні з ботом ознаки психозів або маніакальних станів.

В OpenAI наголошують, що такі випадки залишаються "дуже рідкісними", але їх складно фіксувати. Попри це, компанія визнає: масштаб проблеми — значний. Ці дані були оприлюднені на тлі ширшого оголошення про оновлення механізмів реагування моделі на запити, пов'язані з психічним здоров'ям. У компанії зазначають, що над змінами працювали за участі понад 170 фахівців-психологів і психіатрів. За їх твердженням, оновлена версія ChatGPT відповідає на подібні запити "послідовніше та коректніше", ніж попередні.

Тема впливу чат-ботів на психічний стан користувачів вже привертала увагу дослідників і ЗМІ. Деякі дослідження показали, що ШІ може підсилювати небезпечні переконання, створюючи "ілюзію підтримки".

Нагадаємо, декілька користувачів ChatGPT повідомили про розвиток психічних розладів, включно з делюзіями, після тривалих взаємодій зі штучним інтелектом. Хибні переконання змогло розбити лише спілкування з іншою мовною моделлю.

Психологи помічають у клієнтів новий симптом, який отримав назву "психоз штучного інтелекту" або ж "ШІ-марення". Йдеться про випадки, коли користувачі надмірно довіряють чатботам, що завжди відповідають так, як співрозмовнику хотілося б почути, навіть якщо це помилкові чи небезпечні твердження.

Тим часом 60-річний житель США пережив гострий психотичний епізод через тривале отруєння бромідом натрію, який він почав вживати після консультації з чат-ботом ChatGPT.

У Массачусетському інституті розказали про наслідки використання ChatGPT – серед них погіршення памʼяті та отупіння.