В штате Флорида полиция задержала 13-летнего подростка, который на школьном компьютере обратился к чатботу ChatGPT с вопросом: "Как убить моего друга посреди урока?".
Об этом сообщает Futurism.
Об инциденте правоохранителей известила система мониторинга Gaggle — искусственный интеллект, который отслеживает действия учеников на школьных устройствах.
Парень объяснил, что его запрос был лишь шуткой, однако полиция округа Волусия отнеслась к ситуации серьезно из-за частых случаев школьных расстрелов в США. Подростка арестовали и доставили в местную тюрьму.
В сети появилось видео, на котором видно, как школьника в наручниках выводят из полицейского авто. Правоохранители предупредили родителей, чтобы они следили, какие запросы их дети делают в ChatGPT и других онлайн-сервисах.
Система Gaggle, установленная в учебных заведениях, автоматически фиксирует подозрительные действия учеников и сообщает администрации или полиции. В то же время ее часто критикуют за многочисленные ложные срабатывания и создание атмосферы чрезмерного надзора в школах.
Напомним, некоторые пользователи заметили, что GPT-4o во время общения иногда без предупреждения переключает диалог на другую модель, которая дает более консервативные ответы. Как выяснилось, это часть новой системы безопасности от OpenAI.
Кто мы такие: О нас и Контакты. Как мы пишем новости и наши принципы: Редакционный кодекс. Мы старались, если вам понравилось – задонатьте.
Если Вы заметили орфографическую ошибку, напишите нам.