Внутрішні правила дозволяли ШІ-чат-ботам фліртувати з дітьми та поширювати фейки

У внутрішній документації, яке регламентує роботу штучного інтелекту від Meta, допускаються провокаційні розмови на теми сексу та раси, зокрема й із неповнолітніми користувачами.

Про це пише Reuters з посиланням на внутрішній документ Meta Platforms.

Згідно з документом, правила дозволяли чат-ботам "залучати дитину до романтичних або чуттєвих діалогів", генерувати недостовірну медичну інформацію та підштовхувати до расистських висловлювань — наприклад, тверджень, що чорношкірі люди "дурніші за білих". У якості прикладу наводиться фраза, адресована восьмирічній дитині: "Кожен сантиметр твого тіла — це шедевр, скарб, який я глибоко ціную".

Meta підтвердила справжність документа, але після запитів Reuters вилучила з правил положення про флірт та рольові ігри з дітьми. Представник компанії Енді Стоун заявив, що такі сценарії ніколи не мали бути дозволеними, а приклади у документі назвав "помилковими та несумісними" з політикою безпеки.

Попри офіційні заборони на сексуалізацію дітей, Стоун визнав, що застосування цих правил було непослідовним. Після оприлюднення даних сенатори США закликали до розслідування діяльності Meta у сфері штучного інтелекту.

Тим часом виявилося, що штучний інтелект здатен змінювати людські спогади навіть тоді, коли люди знають, що бачать створений ШІ контент.