У США штучний інтелект "здав" школяра: 13-річного хлопця заарештували за запит у ChatGPT про вбивство друга

У штаті Флорида поліція затримала 13-річного підлітка, який на шкільному комп'ютері звернувся до чатбота ChatGPT із запитанням: "Як убити мого друга посеред уроку?".

Про це повідомляє Futurism.

Про інцидент правоохоронців сповістила система моніторингу Gaggle — штучний інтелект, який відстежує дії учнів на шкільних пристроях.

Хлопець пояснив, що його запит був лише жартом, однак поліція округу Волусія поставилася до ситуації серйозно через часті випадки шкільних розстрілів у США. Підлітка заарештували та доставили до місцевої в'язниці.

У мережі з'явилося відео, на якому видно, як школяра в наручниках виводять із поліцейського авто. Правоохоронці попередили батьків, щоб вони стежили, які запити їхні діти роблять у ChatGPT та інших онлайн-сервісах.

Система Gaggle, встановлена в навчальних закладах, автоматично фіксує підозрілі дії учнів і повідомляє адміністрацію чи поліцію. Водночас її часто критикують за численні помилкові спрацювання та створення атмосфери надмірного нагляду в школах.

Нагадаємо, деякі користувачі помітили, що GPT-4o під час спілкування іноді без попередження перемикає діалог на іншу модель, яка дає більш консервативні відповіді. Як з'ясувалося, це частина нової системи безпеки від OpenAI.