В США искусственный интеллект "сдал" школьника: 13-летнего парня арестовали за запрос в ChatGPT об убийстве друга

В штате Флорида полиция задержала 13-летнего подростка, который на школьном компьютере обратился к чатботу ChatGPT с вопросом: "Как убить моего друга посреди урока?".

Об этом сообщает Futurism.

Об инциденте правоохранителей известила система мониторинга Gaggle — искусственный интеллект, который отслеживает действия учеников на школьных устройствах.

Парень объяснил, что его запрос был лишь шуткой, однако полиция округа Волусия отнеслась к ситуации серьезно из-за частых случаев школьных расстрелов в США. Подростка арестовали и доставили в местную тюрьму.

В сети появилось видео, на котором видно, как школьника в наручниках выводят из полицейского авто. Правоохранители предупредили родителей, чтобы они следили, какие запросы их дети делают в ChatGPT и других онлайн-сервисах.

Система Gaggle, установленная в учебных заведениях, автоматически фиксирует подозрительные действия учеников и сообщает администрации или полиции. В то же время ее часто критикуют за многочисленные ложные срабатывания и создание атмосферы чрезмерного надзора в школах.

Напомним, некоторые пользователи заметили, что GPT-4o во время общения иногда без предупреждения переключает диалог на другую модель, которая дает более консервативные ответы. Как выяснилось, это часть новой системы безопасности от OpenAI.