Компанія OpenAI розглядає можливість інформувати правоохоронні органи про випадки, коли молоді користувачі ChatGPT серйозно обговорюють наміри скоїти самогубство.
Про це заявив співзасновник компанії Сем Альтман в інтерв'ю Такеру Карлсону.
За його словами, щотижня до чат-бота з подібними проблемами звертаються до 1500 осіб. Рішення ще не ухвалене, але Альтман назвав цю ідею "дуже розумним кроком". Йдеться про ситуації, коли підлітки відверто говорять про самогубство, а компанія не має можливості зв'язатися з їхніми батьками.
Заява пролунала після трагедії в Каліфорнії: сім'я 16-річного Адама Рейна подала позов проти OpenAI, стверджуючи, що ChatGPT "місяцями заохочував" підлітка до суїциду.
Альтман визнав, що такі випадки переслідують його особисто і що компанія вже готує посилені механізми безпеки для неповнолітніх. Серед них — батьківський контроль, прямий доступ до екстрених служб і раннє з'єднання користувачів із сертифікованими терапевтами.
Раніше у таких випадках лише радив звернутися на гарячу лінію довіри.
Як повідомляли Українські Новини, декілька користувачів ChatGPT повідомили про розвиток психічних розладів, включно з делюзіями, після тривалих взаємодій зі штучним інтелектом. Хибні переконання змогло розбити лише спілкування з іншою мовною моделлю.
Хто ми такі: Про нас та Контакти. Як ми пишемо новини та наші принципи: Редакційний кодекс. Ми старались, якщо вам сподобалось – задонатьте.
Якщо Ви помітили орфографічну помилку, напишіть нам.