Колишня партнерка Ілона Маска та мати його дитини, Ешлі Сент Клер, подала позов проти компанії xAI, звинувачуючи розробників чат-бота Grok у недбалості, що призвела до масового створення порнографічних діпфейків за її участю.
Про це повідомляє NBC News.
У позові зазначено, що користувачі використовували штучний інтелект для створення контенту, на якому Сент Клер зображена в оголеному вигляді та в сексуальних позах. Серед іншого, серед згенерованих зображень були діпфейки, де вона нібито зображена "дитиною в бікіні".
Позивачка заявляє, що зверталася до xAI з проханням заблокувати генерацію її образів. Попри запевнення компанії, що її фотографії не будуть використовуватися або змінюватися без дозволу, потік непристойного контенту не припинився. Крім того, Сент Клер стверджує, що після її скарг соцмережа X (колишній Twitter) відключила монетизацію її акаунту, що вона розцінила як помсту.
У відповідь компанія xAI подала зустрічний позов у федеральний суд Техасу. Юристи Маска стверджують, що Сент Клер порушила умови надання послуг (Terms of Service) і вимагають відшкодування збитків на суму понад $75 000. Крім того, компанія наполягає на перенесенні розгляду справи з Нью-Йорка до Техасу.
Що відомо про скандал навколо чат-бота Grok, який "перевдягав" будь-кого у бікіні
Наприкінці грудня користувачі масово використовували Grok для "роздягання" людей на фото, у тому числі неповнолітніх. З 20 тисяч зображень, створених між 25 грудня та 1 січня, приблизно 2% містили дітей у прозорому або майже відвертому одязі.
Дослідження французької некомерційної організації AI Forensics зафіксувало близько 800 зображень і відео з порнографією та сексуальним насильством, створених у застосунку Grok Imagine.
Через це у Франції розширили кримінальне розслідування щодо X (колишній Twitter), а в Індії влада висунула ультиматум із вимогою видалити незаконний контент та повідомити про заходи безпеки. Подібні перевірки тривають у Польщі, Малайзії та Бразилії.
У Бразилії депутатка Еріка Гілтон закликала тимчасово відключити ШІ-функції X до завершення розслідування, зазначивши, що право на власне зображення не може бути обмежене правилами соцмережі.
Індонезія та Малайзія стали першими країнами, які обмежили доступ до чат-бота Grok від компанії xAI Ілона Маска через випадки створення ним сексуалізованих зображень на основі реальних фотографій.
Нагадаємо, у Великій Британії запроваджують заборону на використання штучного інтелекту для генерації інтимних зображень із людьми, які не давали на це дозволу.
Врешті соцмережа X запровадила нові правила для свого чат-бота Grok після хвилі критики щодо створення сексуалізованих зображень та несанкціонованого "роздягання" людей. Так, штучний інтелект більше не зможе "роздягати" людей.
Хто ми такі: Про нас та Контакти. Як ми пишемо новини та наші принципи: Редакційний кодекс. Ми старались, якщо вам сподобалось – задонатьте.
Якщо Ви помітили орфографічну помилку, напишіть нам.