У внутрішній документації, яке регламентує роботу штучного інтелекту від Meta, допускаються провокаційні розмови на теми сексу та раси, зокрема й із неповнолітніми користувачами.
Про це пише Reuters з посиланням на внутрішній документ Meta Platforms.
Згідно з документом, правила дозволяли чат-ботам "залучати дитину до романтичних або чуттєвих діалогів", генерувати недостовірну медичну інформацію та підштовхувати до расистських висловлювань — наприклад, тверджень, що чорношкірі люди "дурніші за білих". У якості прикладу наводиться фраза, адресована восьмирічній дитині: "Кожен сантиметр твого тіла — це шедевр, скарб, який я глибоко ціную".
Meta підтвердила справжність документа, але після запитів Reuters вилучила з правил положення про флірт та рольові ігри з дітьми. Представник компанії Енді Стоун заявив, що такі сценарії ніколи не мали бути дозволеними, а приклади у документі назвав "помилковими та несумісними" з політикою безпеки.
Попри офіційні заборони на сексуалізацію дітей, Стоун визнав, що застосування цих правил було непослідовним. Після оприлюднення даних сенатори США закликали до розслідування діяльності Meta у сфері штучного інтелекту.
Тим часом виявилося, що штучний інтелект здатен змінювати людські спогади навіть тоді, коли люди знають, що бачать створений ШІ контент.
Хто ми такі: Про нас та Контакти. Як ми пишемо новини та наші принципи: Редакційний кодекс. Ми старались, якщо вам сподобалось – задонатьте.
Якщо Ви помітили орфографічну помилку, напишіть нам.