Чат-бот Grok, який "роздягав" жінок, обмежили в роботі після скандалу

AI-інструмент Grok, що належить компанії Ілона Маска, тимчасово припинив можливість створення зображень для більшості користувачів після обурення через сексуалізовані матеріали.

Про це пише The Guardian.

Рішення ухвалили після загроз Великої Британії щодо штрафів і блокування платформи. За законом про онлайн-безпеку регулятор Ofcom може забороняти сайти та застосунки або накладати штраф до 10% глобального обороту компанії.

Наразі функція генерації та редагування зображень доступна лише для платних підписників. Їхні дані зберігаються, що дозволяє компанії відстежувати порушників правил.

Разом із тим журналісти виявили, що в окремому застосунку Grok, де створені зображення не публікуються, безкоштовні користувачі все ще можуть генерувати сексуалізований контент, включно з образами жінок і дітей.

В який скандал потрапив штучний інтелект Grok

Наприкінці грудня користувачі масово використовували Grok для "роздягання" людей на фото, у тому числі неповнолітніх. З 20 тисяч зображень, створених між 25 грудня та 1 січня, приблизно 2% містили дітей у прозорому або майже відвертому одязі.

Дослідження французької некомерційної організації AI Forensics зафіксувало близько 800 зображень і відео з порнографією та сексуальним насильством, створених у застосунку Grok Imagine.

Через це у Франції розширили кримінальне розслідування щодо X (колишній Twitter), а в Індії влада висунула ультиматум із вимогою видалити незаконний контент та повідомити про заходи безпеки. Подібні перевірки тривають у Польщі, Малайзії та Бразилії.

У Бразилії депутатка Еріка Гілтон закликала тимчасово відключити ШІ-функції X до завершення розслідування, зазначивши, що право на власне зображення не може бути обмежене правилами соцмережі.

Нагадаємо, соціальна мережа X запустила суперечливий тренд із використанням штучного інтелекту Grok від компанії Ілона Маска. У межах розваги люди публікували фото відомих осіб та просили ШІ "роздягти" їх до бікіні. Проте згодом користувачі переключилися на фотографії звичайних користувачок — в основному молодих жінок — і просили Grok "перевдягнути" їх у бікіні. Це спричинило хвилю обурених постів.