Советует совершать стрельбу и самоубийства. Флорида подала иск против OpenAI из-за вероятной опасности ChatGPT для детей
Власти штата Флорида обратились в суд с иском против OpenAI и её генерального директора Сэма Альтмана, обвинив компанию в халатности, вводящих в заблуждение торговых практиках и нарушении законов об ответственности за продукт. Флорида стала первым штатом, который подал подобный иск против OpenAI из-за рисков, которые, по мнению истцов, создает ChatGPT.
Об этом пишет CNN.
"Сэм Альтман и ChatGPT выбрали гонку ИИ вместо безопасности и защиты наших детей. Они выбрали прибыль вместо общественной безопасности, и мы не собираемся этого терпеть во Флориде", — заявил генеральный прокурор Флориды Джеймс Утмейер на пресс-конференции.
В иске компанию обвиняют в вводящих в заблуждение и несправедливых торговых практиках, халатности и нарушении законодательства об ответственности за продукт. Документ также содержит требование признать Альтмана лично ответственным за ущерб, которого, по утверждению истцов, понесли жители штата.
В чем обвиняют ChatGPT
Истцы утверждают, что ChatGPT помогал массовым стрелкам, поощрял самоубийства, способствовал "публичному унижению", формировал зависимость у несовершеннолетних без надлежащего родительского контроля и влиял на способность пользователей к критическому мышлению.
Отдельно в иске говорится о якобы недостаточных механизмах защиты детей. В частности, истцы заявляют, что бесплатная версия ChatGPT не имеет проверки возраста, детские аккаунты не обязательно привязываются к родительским, а родители не могут получить полный доступ к истории запросов своих детей.
Что отвечают в OpenAI
В ответ OpenAI заявила, что несовершеннолетние пользователи нуждаются в дополнительной защите, а компания уже внедрила ряд инструментов безопасности.
"В частности, мы встроили защиту для несовершеннолетних непосредственно в продукт, включая более защищенный режим для них, инструмент определения возраста, автоматический перевод пользователей с неопределенным возрастом в защищенный режим, а также инструменты для родительского контроля. Мы понимаем, что эти меры не вернут потерянного ребенка, но мы стремимся сделать все правильно", — сообщили в компании.
Почему во Флориде решили подать иск
Гражданский иск подан на фоне уголовного расследования, которое во Флориде ведут после массовой стрельбы во Флоридском университете в апреле 2025 года. Тогда погибли два человека.
В рамках этого расследования правоохранители изучают возможную роль ChatGPT в подготовке нападавшего. Ранее прокурор Флориды заявлял, что чат-бот якобы дал стрелку важные советы перед совершением преступления.
OpenAI подчеркивала, что трагедия не связана с ответственностью компании, а ChatGPT не поощрял незаконных действий и предоставлял только общедоступную информацию.
Между тем компания OpenAI объявила о запуске в ChatGPT функции "Доверенное лицо", которая позволит уведомлять близких пользователя об упоминаниях самоповреждений или суицидальных мыслей в чате.