Радить вчиняти стрілянину та самогубства. Флорида подала позов проти OpenAI через ймовірну небезпеку ChatGPT для дітей
Влада штату Флорида звернулася до суду з позовом проти OpenAI та її генерального директора Сема Альтмана, звинувативши компанію в недбалості, оманливих торгових практиках і порушенні законів про відповідальність за продукт. Вона стала першим штатом, який подав подібний позов проти OpenAI через ризики, які, на думку позивачів, створює ChatGPT.
Про це пише CNN.
"Сем Альтман і ChatGPT обрали гонку ШІ замість безпеки та захисту наших дітей. Вони обрали прибуток замість громадської безпеки, і ми не збираємося цього терпіти у Флориді", — заявив генеральний прокурор Флориди Джеймс Утмейєр на пресконференції.
У позові компанію звинувачують в оманливих і несправедливих торгових практиках, недбалості та порушенні законодавства про відповідальність за продукт. Документ також містить вимогу визнати Альтмана особисто відповідальним за шкоду, якої, за твердженням позивачів, зазнали жителі штату.
У чому звинувачують ChatGPT
Позивачі стверджують, що ChatGPT допомагав масовим стрільцям, заохочував самогубства, сприяв "публічному приниженню", формував залежність у неповнолітніх без належного батьківського контролю та впливав на здатність користувачів до критичного мислення.
Окремо в позові йдеться про нібито недостатні механізми захисту дітей. Зокрема, позивачі заявляють, що безкоштовна версія ChatGPT не має перевірки віку, дитячі акаунти не обов'язково прив'язуються до батьківських, а батьки не можуть отримати повний доступ до історії запитів своїх дітей.
Що відповідають в OpenA
У відповідь OpenAI заявила, що неповнолітні користувачі потребують додаткового захисту, а компанія вже впровадила низку безпекових інструментів.
"Зокрема, ми вбудували захист для неповнолітніх безпосередньо в продукт, включно з більш захищеним режимом для них, інструментом визначення віку, автоматичним переведенням користувачів із невизначеним віком у захищений режим, а також інструментами для батьківського контролю. Ми розуміємо, що ці заходи не повернуть втрачену дитину, але ми прагнемо зробити все правильно", — повідомили в компанії.
Чому у Флориді вирішили подати позов
Цивільний позов подано на тлі кримінального розслідування, яке у Флориді ведуть після масової стрілянини у Флоридському університеті у квітні 2025 року. Тоді загинули двоє людей.
У межах цього розслідування правоохоронці вивчають можливу роль ChatGPT у підготовці нападника. Раніше прокурор Флориди заявляв, що чат-бот нібито надав стрільцю важливі поради перед скоєнням злочину.
OpenAI наголошувала, що трагедія не пов'язана з відповідальністю компанії, а ChatGPT не заохочував незаконних дій і надавав лише загальнодоступну інформацію.
Тим часом компанія OpenAI оголосила про запуск у ChatGPT функції "Довірена особа", яка дозволить повідомляти близьких користувача про згадки самоушкодження або суїцидальних думок у чаті.