Grok научился "раздевать" любого на фото: новый тренд в Х возмутил пользователей
Социальная сеть X (бывший Twitter) запустила противоречивый тренд с использованием искусственного интеллекта Grok от компании Илона Маска. В рамках развлечения люди публиковали фото известных лиц и просили ИИ "раздеть" их до бикини. Однако впоследствии пользователи переключились на фотографии обычных пользовательниц — в основном молодых женщин - и просили Grok "переодеть" их в бикини. Это вызвало волну возмущенных постов.
Первыми объектами тренда стали одиозные политики и знаменитости. Так, фото президента России Владимира Путина и народного депутата Марьяны Безуглой редактировали чаще всего. При этом ИИ не стесняется "раздевать" даже Илона Маска, своего создателя, или публичные фото иностранных лидеров, например, принца Саудовской Аравии во время визита в США.
Но потом тренд переключился на обычных пользовательниц социальной сети, которые выкладывали свои фотографии. Оказалось, что под любой из них можно попросить Grok "раздеть" женщину или сделать ее фото сексуализированным.
Как пишет Bloomberg, бот охотно реагировал на команды "сними с нее одежду", "одень ее в бикини" или "брызни клеем на лицо". Хотя полностью раздевать отказывался. Издание отмечает, что в некоторых случаях Grok соглашался генерировать "раздетые" фото даже несовершеннолетних, нарушая собственную политику, которая запрещает сексуализацию детей.
Пользователи публично жаловались на такие злоупотребления. Один из них вступил в диалог с чат-ботом, после чего Grok признал нарушения и посоветовал, в какие органы можно обратиться. В ответе от аккаунта Grok отмечалось, что компания обнаружила "пробелы в мерах безопасности и срочно их устраняет", а изображения сексуального насилия над детьми "являются незаконными и запрещенными".
Украинские пользователи массово возмутились такой функции чат-бота и сравнили ее с сексуализированным насилием, поскольку теперь любого человека можно "заставить" выглядеть в сексуализированном образе без его согласия.
Напомним, современные AI-модели не всегда способны адекватно помогать людям в психическом кризисе. Хуже всего в этом рейтинге проявил себя AI от X.ai — Grok.