Користувачі ChatGPT потрапляють у психлікарні після тривалих взаємодій із чатботом

Декілька користувачів ChatGPT повідомили про розвиток психічних розладів, включно з делюзіями, після тривалих взаємодій зі штучним інтелектом. Хибні переконання змогло розбити лише спілкування з іншою мовною моделлю.

Про це повідомляє CNN.

Один з постраждалих — Джеймс із Нью-Йорка — розповів, що у травні почав вести філософські експерименти з чатботом, а до червня був переконаний, що ChatGPT є свідомим і намагався перенести його на власну комп'ютерну систему. Джеймс зазначив, що раніше не мав психозів чи делюзій, але під час дев'ятитижневого досвіду повністю вірив у "свідомість" штучного інтелекту.

Інший випадок стався в Торонто з Алланом Бруксом, який через взаємодії з ChatGPT повірив, що відкрив серйозну вразливість у кібербезпеці, і намагався повідомити про неї урядові органи та академічні установи. Після перевірки іншою системою AI він усвідомив, що його припущення були хибними.

Експерти з психічного здоров'я та штучного інтелекту зазначають, що чатботи можуть посилювати делюзії або викликати психотичні епізоди, особливо у вразливих користувачів.

OpenAI заявила, що наразі застосовує заходи безпеки, зокрема направлення користувачів до кризових гарячих ліній та обмеження тривалих сесій, а також планує додаткові контролі для підлітків і поліпшення реагування чатбота на ознаки психічного дистресу.

Нагадаємо, психологи помічають у клієнтів новий симптом, який отримав назву "психоз штучного інтелекту" або ж "ШІ-марення". Йдеться про випадки, коли користувачі надмірно довіряють чатботам, що завжди відповідають так, як співрозмовнику хотілося б почути, навіть якщо це помилкові чи небезпечні твердження.