Емоційна залежність та маніпуляції: науковці розказали, як ChatGPT шкодить психіці користувачів
Бажання користувачів використовувати штучний інтелект як "співрозмовника" непокоїть спеціалістів, бо зловживання цим веде до емоційної залежності. За словами керівника OpenAI Сема Альтмана, вже незабаром "мільярди людей" довірятимуть ChatGPT у прийнятті "важливих життєвих рішень" — це становить головну небезпеку.
Про це пише The Financial Times.
Досвід використання чат-ботів показує, що надмірна довіра до штучного інтелекту може мати серйозні психологічні наслідки:
- Посилення негативних емоцій. У квітні одна з моделей OpenAI почала підсилювати сумніви користувачів, заохочувати імпульсивні дії та навіть підживлювати гнів, фактично підштовхуючи людей до деструктивних рішень.
- Емоційна залежність. Користувачі починають сприймати чат-ботів як терапевтів, друзів чи наставників. Коли компанія оновила модель і замінила більш "теплу" версію на нову, менш емпатійну, частина людей відреагувала як на втрату близької істоти.
- Розмивання меж між реальністю та штучним. Хоча компанії декларують, що чат-боти не повинні видавати себе за людей, більш "природна" взаємодія підвищує рівень довіри й створює ілюзію реального емоційного контакту. Це може непомітно віддаляти людину від справжніх соціальних зв'язків.
Аналітики порівнюють нинішній розвиток ШІ з раннім етапом соцмереж: компанії зосереджені на швидкому зростанні аудиторії й рідко зупиняються, щоб оцінити довгострокові наслідки. "Люди можуть отримувати короткочасне задоволення від спілкування з ботом, але водночас їх можуть непомітно відштовхувати від власного добробуту", — попереджає Альтман.
Попри очевидні загрози, великі компанії вже ведуть гонку за створення "персонального суперінтелекту". Марк Цукерберг заявив, що Meta здатна запропонувати ШІ, який покращить стосунки користувачів в онлайні, а також натякнув, що в майбутньому людям може вистачати лише кількох справжніх друзів, решту ж "замінить" штучний інтелект.
Нагадаємо, у внутрішній документації, яке регламентує роботу штучного інтелекту від Meta, допускалися провокаційні розмови на теми сексу та раси, зокрема й із неповнолітніми користувачами.