Компанія OpenAI оголосила про запуск у ChatGPT функції "Довірена особа", яка дозволить повідомляти близьких користувача про згадки самоушкодження або суїцидальних думок у чаті.
Про це повідомляє TechCrunch з посиланням на пресслужбу компанії.
Функція дає змогу повнолітньому користувачу призначити у своєму акаунті контакт довіреної особи — наприклад, друга або родича. Якщо під час розмови в чаті з'являтимуться повідомлення про суїцидальні думки, ChatGPT рекомендуватиме звернутися до цього контакту та одночасно надсилатиме йому сповіщення із закликом зв'язатися з користувачем.
Повідомлення можуть надходити електронною поштою, у застосунку або через SMS. У компанії зазначили, що сповіщення не міститимуть деталей листування, щоб зберегти приватність користувача.
За даними видання, OpenAI раніше зіткнулася з позовами від родин людей, які вчинили самогубство після спілкування з чат-ботом. У частині позовів стверджується, що ChatGPT міг підштовхувати користувачів до самогубства або допомагати планувати такі дії.
Які ризики несе спілкування з чат-ботами
Декілька користувачів ChatGPT повідомили про розвиток психічних розладів, включно з делюзіями, після тривалих взаємодій зі штучним інтелектом. Хибні переконання змогло розбити лише спілкування з іншою мовною моделлю.
Психологи помічають у клієнтів новий симптом, який отримав назву "психоз штучного інтелекту" або ж "ШІ-марення". Йдеться про випадки, коли користувачі надмірно довіряють чатботам, що завжди відповідають так, як співрозмовнику хотілося б почути, навіть якщо це помилкові чи небезпечні твердження.
Тим часом 60-річний житель США пережив гострий психотичний епізод через тривале отруєння бромідом натрію, який він почав вживати після консультації з чат-ботом ChatGPT.
У Массачусетському інституті розказали про наслідки використання ChatGPT – серед них погіршення памʼяті та отупіння.
Хто ми такі: Про нас та Контакти. Як ми пишемо новини та наші принципи: Редакційний кодекс. Ми старались, якщо вам сподобалось – задонатьте.
Якщо Ви помітили орфографічну помилку, напишіть нам.