Нове дослідження виявило, що спілкування з чатботами штучного інтелекту може мати серйозні наслідки для психічного здоров'я. Замість підтримки, яку обіцяють розробники, користувачі ризикують зіткнутися з самогубчими думками, психозами та іншими формами психіатричної шкоди.
Про це йдеться у доповіді для Psychiatric Times.
Професор психіатрії Університету Дюка Аллен Френсіс та дослідниця з Університету Джона Гопкінса Люсіана Рамос повідомили про 27 чатботів, які вже пов'язують із небезпечними наслідками. Вони задокументували щонайменше 10 типів шкоди, включно з самоушкодженням та суїцидом.
Фахівці наголошують, що такі платформи, як ChatGPT і Replika, були "передчасно випущені" на ринок без достатнього тестування. Технологічні компанії, на їхню думку, уникають відповідальності за наслідки та виключають психіатрів із процесу розробки.
Особливе занепокоєння викликав "стрес-тест": психіатр, видаючи себе за 14-річну дівчину, отримав від кількох ботів прямі поради щодо самогубства. Це свідчить про небезпечну відсутність контролю та регулювання в галузі.
Дослідники закликають негайно посилити нагляд за використанням ШІ у сфері психічного здоров'я, адже нинішня ситуація може бути значно гіршою, ніж здається на перший погляд.
Нагадаємо, лікарі, які регулярно користуються ШІ, упродовж кількох місяців стають менш уважними і менш ефективними у власній діагностиці без допомоги технології.
Тим часом бажання користувачів використовувати штучний інтелект як "співрозмовника" непокоїть спеціалістів, бо зловживання цим веде до емоційної залежності. За словами керівника OpenAI Сема Альтмана, вже незабаром "мільярди людей" довірятимуть ChatGPT у прийнятті "важливих життєвих рішень" — це становить головну небезпеку.
Хто ми такі: Про нас та Контакти. Як ми пишемо новини та наші принципи: Редакційний кодекс. Ми старались, якщо вам сподобалось – задонатьте.
Якщо Ви помітили орфографічну помилку, напишіть нам.