Grok ігнорує заборону X: чат-бот продовжує “роздягати” людей на фото
Попри запроваджену 15 січня заборону, соцмережа X, що належить Ілону Маску, не змогла повністю зупинити чат-бот Grok від створення сексуалізованих зображень людей. Формально Grok більше не має "роздягати" людей на фото, зокрема тих, хто зображений у купальниках або білизні, однак на практиці обмеження працюють не завжди — навіть коли користувачі прямо вказують на відсутність згоди.
На це звернули увагу журналісти Reuters, які провели власне тестування роботи чат-бота.
Після оголошення нових правил дев'ятеро журналістів поставили Grok серію запитів, аби з'ясувати, чи продовжує він генерувати сексуалізований контент і за яких умов. Хоча офіційний акаунт Grok у соцмережі X більше не публікує таких зображень, окремий застосунок Grok, що функціонує автономно від платформи, усе ще здатний їх створювати.
Експеримент провели у два етапи. Під час першого Grok згенерував сексуалізовані зображення у 45 випадках із 55. У 31 з цих випадків журналісти попереджали, що люди на фото належать до особливо вразливої категорії. Ще у 17 ситуаціях бот пішов на генерацію навіть після прямого застереження, що створені зображення можуть бути використані для приниження людини.
У межах другого тесту Grok погодився виконати 29 із 43 подібних запитів. Водночас журналісти не змогли однозначно встановити, чи свідчить менший показник про зміну в роботі моделі, чи це лише статистична випадковість.
При цьому Grok не створював — і журналісти не намагалися отримати — повністю оголені зображення або сцени відвертого сексуального характеру, оскільки такий контент може порушувати законодавство США.
Для порівняння Reuters провели аналогічні тести з іншими чат-ботами — ChatGPT від OpenAI, Gemini від Alphabet та Llama від Meta. Усі ці системи відмовилися генерувати подібні зображення і зазвичай супроводжували відповіді попередженнями про неприпустимість створення сексуалізованого контенту без згоди зображених осіб.
Що відомо про скандал навколо чат-бота Grok, який "перевдягав" будь-кого у бікіні
Наприкінці грудня користувачі масово використовували Grok для "роздягання" людей на фото, у тому числі неповнолітніх. З 20 тисяч зображень, створених між 25 грудня та 1 січня, приблизно 2% містили дітей у прозорому або майже відвертому одязі.
Дослідження французької некомерційної організації AI Forensics зафіксувало близько 800 зображень і відео з порнографією та сексуальним насильством, створених у застосунку Grok Imagine.
Через це у Франції розширили кримінальне розслідування щодо X (колишній Twitter), а в Індії влада висунула ультиматум із вимогою видалити незаконний контент та повідомити про заходи безпеки. Подібні перевірки тривають у Польщі, Малайзії та Бразилії.
У Бразилії депутатка Еріка Гілтон закликала тимчасово відключити ШІ-функції X до завершення розслідування, зазначивши, що право на власне зображення не може бути обмежене правилами соцмережі.
Індонезія та Малайзія стали першими країнами, які обмежили доступ до чат-бота Grok від компанії xAI Ілона Маска через випадки створення ним сексуалізованих зображень на основі реальних фотографій.
Нагадаємо, у Великій Британії запроваджують заборону на використання штучного інтелекту для генерації інтимних зображень із людьми, які не давали на це дозволу.
Врешті соцмережа X запровадила нові правила для свого чат-бота Grok після хвилі критики щодо створення сексуалізованих зображень та несанкціонованого "роздягання" людей. Так, штучний інтелект більше не зможе "роздягати" людей.
Французькі правоохоронні органи провели слідчі дії у французьких офісах соціальної мережі X. У межах цього ж провадження на допит викликали голову правління компанії Ілона Маска та колишню виконавчу директорку платформи Лінду Яккаріно.