За оцінками OpenAI, близько мільйона активних користувачів ChatGPT щотижня ведуть розмови, де помітні ознаки потенційного суїцидального ризику.
Про це пише TechCrunch.
Приблизно стільки ж користувачів демонструють підвищену емоційну залежність від ChatGPT, а ще сотні тисяч користувачів проявляють у спілкуванні з ботом ознаки психозів або маніакальних станів.
В OpenAI наголошують, що такі випадки залишаються "дуже рідкісними", але їх складно фіксувати. Попри це, компанія визнає: масштаб проблеми — значний. Ці дані були оприлюднені на тлі ширшого оголошення про оновлення механізмів реагування моделі на запити, пов'язані з психічним здоров'ям. У компанії зазначають, що над змінами працювали за участі понад 170 фахівців-психологів і психіатрів. За їх твердженням, оновлена версія ChatGPT відповідає на подібні запити "послідовніше та коректніше", ніж попередні.
Тема впливу чат-ботів на психічний стан користувачів вже привертала увагу дослідників і ЗМІ. Деякі дослідження показали, що ШІ може підсилювати небезпечні переконання, створюючи "ілюзію підтримки".
Нагадаємо, декілька користувачів ChatGPT повідомили про розвиток психічних розладів, включно з делюзіями, після тривалих взаємодій зі штучним інтелектом. Хибні переконання змогло розбити лише спілкування з іншою мовною моделлю.
Психологи помічають у клієнтів новий симптом, який отримав назву "психоз штучного інтелекту" або ж "ШІ-марення". Йдеться про випадки, коли користувачі надмірно довіряють чатботам, що завжди відповідають так, як співрозмовнику хотілося б почути, навіть якщо це помилкові чи небезпечні твердження.
Тим часом 60-річний житель США пережив гострий психотичний епізод через тривале отруєння бромідом натрію, який він почав вживати після консультації з чат-ботом ChatGPT.
У Массачусетському інституті розказали про наслідки використання ChatGPT – серед них погіршення памʼяті та отупіння.
Хто ми такі: Про нас та Контакти. Як ми пишемо новини та наші принципи: Редакційний кодекс. Ми старались, якщо вам сподобалось – задонатьте.
Якщо Ви помітили орфографічну помилку, напишіть нам.