Чат-боту Grok заборонили перевдягати реальних людей у бікіні

Соцмережа X запроваджує нові правила для свого чат-бота Grok після хвилі критики щодо створення сексуалізованих зображень та несанкціонованого "роздягання" людей. Так, штучний інтелект більше не зможе "роздягати" людей.

Про це пише Engadget.

X ввела технічні обмеження, які забороняють Grok редагувати фото реальних людей, перетворюючи їх на зображення у відвертому одязі, зокрема в бікіні. Заборона поширюється на всіх користувачів, незалежно від підписки.

Одночасно компанія переміщує всі можливості генерації зображень у платний доступ, тож користувачі без підписки більше не зможуть створювати картинки через Grok. У регіонах, де закон забороняє демонстрацію людей у спідньому або відвертому одязі, X планує застосувати геоблокування відповідних запитів.

Що відомо про скандал навколо чат-бота Grok, який "перевдягав" будь-кого у бікіні

Наприкінці грудня користувачі масово використовували Grok для "роздягання" людей на фото, у тому числі неповнолітніх. З 20 тисяч зображень, створених між 25 грудня та 1 січня, приблизно 2% містили дітей у прозорому або майже відвертому одязі.

Дослідження французької некомерційної організації AI Forensics зафіксувало близько 800 зображень і відео з порнографією та сексуальним насильством, створених у застосунку Grok Imagine.

Через це у Франції розширили кримінальне розслідування щодо X (колишній Twitter), а в Індії влада висунула ультиматум із вимогою видалити незаконний контент та повідомити про заходи безпеки. Подібні перевірки тривають у Польщі, Малайзії та Бразилії.

У Бразилії депутатка Еріка Гілтон закликала тимчасово відключити ШІ-функції X до завершення розслідування, зазначивши, що право на власне зображення не може бути обмежене правилами соцмережі.

Індонезія та Малайзія стали першими країнами, які обмежили доступ до чат-бота Grok від компанії xAI Ілона Маска через випадки створення ним сексуалізованих зображень на основі реальних фотографій.

Нагадаємо, у Великій Британії запроваджують заборону на використання штучного інтелекту для генерації інтимних зображень із людьми, які не давали на це дозволу.