Несмотря на введенный 15 января запрет, соцсеть X, принадлежащая Илону Маску, не смогла полностью остановить чат-бот Grok от создания сексуализированных изображений людей. Формально Grok больше не должен "раздевать" людей на фото, в частности тех, кто изображен в купальниках или белье, однако на практике ограничения работают не всегда — даже когда пользователи прямо указывают на отсутствие согласия.
На это обратили внимание журналисты Reuters, которые провели собственное тестирование работы чат-бота.
После объявления новых правил девять журналистов задали Grok серию запросов, чтобы выяснить, продолжает ли он генерировать сексуализированный контент и при каких условиях. Хотя официальный аккаунт Grok в соцсети X больше не публикует таких изображений, отдельное приложение Grok, функционирующее автономно от платформы, все еще способно их создавать.
Эксперимент провели в два этапа. Во время первого Grok сгенерировал сексуализированные изображения в 45 случаях из 55. В 31 из этих случаев журналисты предупреждали, что люди на фото принадлежат к особо уязвимой категории. Еще в 17 ситуациях бот пошел на генерацию даже после прямого предостережения, что созданные изображения могут быть использованы для унижения человека.
В рамках второго теста Grok согласился выполнить 29 из 43 подобных запросов. В то же время журналисты не смогли однозначно установить, свидетельствует ли меньший показатель об изменении в работе модели или это лишь статистическая случайность.
При этом Grok не создавал — и журналисты не пытались получить — полностью обнаженные изображения или сцены откровенного сексуального характера, поскольку такой контент может нарушать законодательство США.
Для сравнения Reuters провели аналогичные тесты с другими чат-ботами — ChatGPT от OpenAI, Gemini от Alphabet и Llama от Meta. Все эти системы отказались генерировать подобные изображения и обычно сопровождали ответы предупреждениями о недопустимости создания сексуализированного контента без согласия изображенных лиц.
Что известно о скандале вокруг чат-бота Grok, который "переодевал" любого в бикини
В конце декабря пользователи массово использовали Grok для "раздевания" людей на фото, в том числе несовершеннолетних. Из 20 тысяч изображений, созданных между 25 декабря и 1 января, примерно 2% содержали детей в прозрачной или почти откровенной одежде.
Исследование французской некоммерческой организации AI Forensics зафиксировало около 800 изображений и видео с порнографией и сексуальным насилием, созданных в приложении Grok Imagine.
Из-за этого во Франции расширили уголовное расследование в отношении X (бывший Twitter), а в Индии власти выдвинули ультиматум с требованием удалить незаконный контент и сообщить о мерах безопасности. Подобные проверки продолжаются в Польше, Малайзии и Бразилии.
В Бразилии депутат Эрика Хилтон призвала временно отключить ИИ-функции X до завершения расследования, отметив, что право на собственное изображение не может быть ограничено правилами соцсети.
Индонезия и Малайзия стали первыми странами, которые ограничили доступ к чат-боту Grok от компании xAI Илона Маска из-за случаев создания им сексуализированных изображений на основе реальных фотографий.
Напомним, в Великобритании вводят запрет на использование искусственного интеллекта для генерации интимных изображений с людьми, которые не давали на это разрешения.
В конце соцсеть X ввела новые правила для своего чат-бота Grok после волны критики по созданию сексуализированных изображений и несанкционированного "раздевания" людей. Так, искусственный интеллект больше не сможет "раздевать" людей.
Французские правоохранительные органы провели следственные действия во французских офисах социальной сети X. В рамках этого же производства на допрос вызвали председателя правления компании Илона Маска и бывшего исполнительного директора платформы Линду Яккарино.
Кто мы такие: О нас и Контакты. Как мы пишем новости и наши принципы: Редакционный кодекс. Мы старались, если вам понравилось – задонатьте.
Если Вы заметили орфографическую ошибку, напишите нам.