Мати 19-річної дівчини звинувачує ChatGPT у причетності до самогубства дочки

Мати 19-річної Еліс Керрієр подала позов проти OpenAI, заявляючи, що ChatGPT не запобіг небезпечним розмовам із донькою перед її смертю в липні 2025 року та не попередив нікого про суїцидальні наміри дівчини.

Про це повідомляє Engadget.

Позов стосується подій липня 2025 року, коли Еліс Керрієр померла внаслідок самогубства. У документах справи йдеться, що протягом кількох місяців до цього вона обговорювала з ChatGPT суїцидальні думки та можливі плани.

Позивачі стверджують, що система не перервала такі розмови та не ініціювала механізми попередження або захисту, які могли б зменшити ризики. У матеріалах справи також зазначається, що замість перенаправлення до професійної допомоги чат-бот нібито продовжував діалог у межах теми.

Окремо вказано, що родина вимагає компенсації та перегляду підходів до безпеки в продуктах компанії.

Це не перший судовий позов проти OpenAI, пов'язаний із тим, як ChatGPT реагує на потенційно небезпечні запити користувачів. Раніше компанію вже звинувачували у випадках, коли відповіді системи могли впливати на ризиковані рішення людей.

Після попередніх інцидентів компанія впровадила функції батьківського контролю та інструмент, який дозволяє чат-боту передавати повідомлення третім особам у разі заяв про суїцидальні наміри. Деякі з цих функцій працюють лише за згодою користувача та доступні для повнолітніх.

Нагадаємо, компанія OpenAI оголосила про запуск у ChatGPT функції "Довірена особа", яка дозволить повідомляти близьких користувача про згадки самоушкодження або суїцидальних думок у чаті.