Індонезія та Малайзія стали першими країнами, які обмежили доступ до чат-бота Grok від компанії xAI Ілона Маска через випадки створення ним сексуалізованих зображень на основі реальних фотографій.
Про це повідомляє Bloomberg.
Першою заборону ввела Індонезія. Міністерство зв'язку та цифрових технологій країни пояснило, що рішення ухвалили для захисту жінок, дітей та громадян від ризику фальшивого порнографічного контенту, створеного штучним інтелектом, та закликало платформу X відреагувати.
Міністерка Меутія Хафід підкреслила, що використання дипфейків у сексуальних практиках без згоди розглядається як серйозне порушення прав людини, гідності та національної безпеки в цифровому просторі.
Невдовзі обмеження запровадила й Малайзія. Малайзійський регулятор у сфері комунікацій та мультимедіа повідомив, що компанії X Corp. та xAI LLC надсилали попередження про контент, створений ШІ, який може порушувати місцеве законодавство, проте там не врахували потенційні ризики.
Що відомо про скандал навколо чат-бота Grok, який "роздягав" жінок
Наприкінці грудня користувачі масово використовували Grok для "роздягання" людей на фото, у тому числі неповнолітніх. З 20 тисяч зображень, створених між 25 грудня та 1 січня, приблизно 2% містили дітей у прозорому або майже відвертому одязі.
Дослідження французької некомерційної організації AI Forensics зафіксувало близько 800 зображень і відео з порнографією та сексуальним насильством, створених у застосунку Grok Imagine.
Через це у Франції розширили кримінальне розслідування щодо X (колишній Twitter), а в Індії влада висунула ультиматум із вимогою видалити незаконний контент та повідомити про заходи безпеки. Подібні перевірки тривають у Польщі, Малайзії та Бразилії.
У Бразилії депутатка Еріка Гілтон закликала тимчасово відключити ШІ-функції X до завершення розслідування, зазначивши, що право на власне зображення не може бути обмежене правилами соцмережі.
Нагадаємо, соціальна мережа X запустила суперечливий тренд із використанням штучного інтелекту Grok від компанії Ілона Маска. У межах розваги люди публікували фото відомих осіб та просили ШІ "роздягти" їх до бікіні. Проте згодом користувачі переключилися на фотографії звичайних користувачок — в основному молодих жінок — і просили Grok "перевдягнути" їх у бікіні. Це спричинило хвилю обурених постів.
Хто ми такі: Про нас та Контакти. Як ми пишемо новини та наші принципи: Редакційний кодекс. Ми старались, якщо вам сподобалось – задонатьте.
Якщо Ви помітили орфографічну помилку, напишіть нам.