Соціальна мережа X (колишній Twitter) запустила суперечливий тренд із використанням штучного інтелекту Grok від компанії Ілона Маска. У межах розваги люди публікували фото відомих осіб та просили ШІ "роздягти" їх до бікіні. Проте згодом користувачі переключилися на фотографії звичайних користувачок — в основному молодих жінок — і просили Grok "перевдягнути" їх у бікіні. Це спричинило хвилю обурених постів.
Першими об'єктами тренду стали одіозні політики та знаменитості. Так, фото президента Росії Володимира Путіна та народної депутатки Мар'яни Безуглої редагували найчастіше. При цьому ШІ не соромиться "роздягати" навіть Ілона Маска, свого творця, або публічні фото іноземних лідерів, наприклад, принца Саудівської Аравії під час візиту до США.
Проте потім тренд переключився на звичайних користувачок соціальної мережі, які викладали свої фотографії. Виявилося, що під будь-якою з них можна попросити Grok "роздягнути" жінку чи зробити її фото сексуалізованим.
Як пише Bloomberg, бот охоче реагував на команди "зніми з неї одяг", "одягни її в бікіні" чи "бризни клеєм на обличчя". Хоча повністю роздягати відмовлявся. Видання зазначає, що у деяких випадках Grok погоджувався генерувати "роздягнені" фото навіть неповнолітніх, порушуючи власну політику, яка забороняє сексуалізацію дітей.
Користувачі публічно скаржилися на такі зловживання. Один із них вступив у діалог із чат-ботом, після чого Grok визнав порушення та порадив, до яких органів можна звернутися. У відповіді від акаунта Grok зазначалося, що компанія виявила "прогалини в заходах безпеки та терміново їх усуває", а зображення сексуального насильства над дітьми "є незаконними та забороненими".
Українські користувачі масово обурилися такій функції чат-бота і порівняли її із сексуалізованим насиллям, оскільки тепер будь-яку людину можна "змусити" виглядати в сексуалізованому образі без її згоди.
Нагадаємо, сучасні AI-моделі не завжди здатні адекватно допомагати людям у психічній кризі. Найгірше в цьому рейтингу проявив себе AI від X.ai — Grok.
Хто ми такі: Про нас та Контакти. Як ми пишемо новини та наші принципи: Редакційний кодекс. Ми старались, якщо вам сподобалось – задонатьте.
Якщо Ви помітили орфографічну помилку, напишіть нам.