ШІ-чат-бот Grok, розроблений компанією xAI Ілона Маска та вбудований у соцмережу X, став причиною міжнародного скандалу. У низці країн влада відреагувала на масове поширення сексуалізованих зображень жінок і дітей, які створювалися без їхньої згоди.
Про це повідомляє Associated Press.
Проблема різко загострилася після запуску торік функції Grok Imagine — інструменту для генерації зображень і відео на основі текстових запитів. У чат-боті також передбачений так званий spicy mode, який відкриває доступ до контенту для дорослих.
Наприкінці грудня користувачі почали активно застосовувати Grok для створення зображень, що імітують "роздягання" людей на фотографіях. Серед таких зображень були як дорослі жінки, так і неповнолітні. За даними аналізу, з приблизно 20 тисяч зображень, згенерованих у період із 25 грудня по 1 січня, близько 2% містили зображення дітей, зокрема у прозорому одязі або майже оголених.
На тлі цього Франція вирішила розширити кримінальне провадження щодо соцмережі X після скарг урядовців на поширення сексуалізованих дипфейків. В Індії влада поставила компанії ультиматум, вимагаючи видалити незаконний контент і надати звіт про заходи безпеки. Аналогічні розслідування розпочали також у Польщі, Малайзії та Бразилії.
У Бразилії депутатка Еріка Гілтон публічно закликала тимчасово відключити ШІ-функції X до завершення перевірок. Вона наголосила, що право людини на власне зображення не може бути нівельоване правилами користування соціальної платформи.
Нагадаємо, українські користувачі соцмережі Х розкритикували нову функцію Grok і порівняли створення діпфейків із сексуальним насиллям. Водночас, інші продовжили створювати "роздягнуті" зображення користувачок.
Хто ми такі: Про нас та Контакти. Як ми пишемо новини та наші принципи: Редакційний кодекс. Ми старались, якщо вам сподобалось – задонатьте.
Якщо Ви помітили орфографічну помилку, напишіть нам.