OpenAI може повідомляти поліцію, якщо підлітки серйозно говорять про самогубство, — Сем Альтман

Компанія OpenAI розглядає можливість інформувати правоохоронні органи про випадки, коли молоді користувачі ChatGPT серйозно обговорюють наміри скоїти самогубство.

Про це заявив співзасновник компанії Сем Альтман в інтерв'ю Такеру Карлсону.

За його словами, щотижня до чат-бота з подібними проблемами звертаються до 1500 осіб. Рішення ще не ухвалене, але Альтман назвав цю ідею "дуже розумним кроком". Йдеться про ситуації, коли підлітки відверто говорять про самогубство, а компанія не має можливості зв'язатися з їхніми батьками.

Заява пролунала після трагедії в Каліфорнії: сім'я 16-річного Адама Рейна подала позов проти OpenAI, стверджуючи, що ChatGPT "місяцями заохочував" підлітка до суїциду.

Альтман визнав, що такі випадки переслідують його особисто і що компанія вже готує посилені механізми безпеки для неповнолітніх. Серед них — батьківський контроль, прямий доступ до екстрених служб і раннє з'єднання користувачів із сертифікованими терапевтами.

Раніше у таких випадках лише радив звернутися на гарячу лінію довіри.

Як повідомляли Українські Новини, декілька користувачів ChatGPT повідомили про розвиток психічних розладів, включно з делюзіями, після тривалих взаємодій зі штучним інтелектом. Хибні переконання змогло розбити лише спілкування з іншою мовною моделлю.