Мати 19-річної Еліс Керрієр подала позов проти OpenAI, заявляючи, що ChatGPT не запобіг небезпечним розмовам із донькою перед її смертю в липні 2025 року та не попередив нікого про суїцидальні наміри дівчини.
Про це повідомляє Engadget.
Позов стосується подій липня 2025 року, коли Еліс Керрієр померла внаслідок самогубства. У документах справи йдеться, що протягом кількох місяців до цього вона обговорювала з ChatGPT суїцидальні думки та можливі плани.
Позивачі стверджують, що система не перервала такі розмови та не ініціювала механізми попередження або захисту, які могли б зменшити ризики. У матеріалах справи також зазначається, що замість перенаправлення до професійної допомоги чат-бот нібито продовжував діалог у межах теми.
Окремо вказано, що родина вимагає компенсації та перегляду підходів до безпеки в продуктах компанії.
Це не перший судовий позов проти OpenAI, пов'язаний із тим, як ChatGPT реагує на потенційно небезпечні запити користувачів. Раніше компанію вже звинувачували у випадках, коли відповіді системи могли впливати на ризиковані рішення людей.
Після попередніх інцидентів компанія впровадила функції батьківського контролю та інструмент, який дозволяє чат-боту передавати повідомлення третім особам у разі заяв про суїцидальні наміри. Деякі з цих функцій працюють лише за згодою користувача та доступні для повнолітніх.
Нагадаємо, компанія OpenAI оголосила про запуск у ChatGPT функції "Довірена особа", яка дозволить повідомляти близьких користувача про згадки самоушкодження або суїцидальних думок у чаті.
Хто ми такі: Про нас та Контакти. Як ми пишемо новини та наші принципи: Редакційний кодекс. Ми старались, якщо вам сподобалось – задонатьте.
Якщо Ви помітили орфографічну помилку, напишіть нам.