Бажання користувачів використовувати штучний інтелект як "співрозмовника" непокоїть спеціалістів, бо зловживання цим веде до емоційної залежності. За словами керівника OpenAI Сема Альтмана, вже незабаром "мільярди людей" довірятимуть ChatGPT у прийнятті "важливих життєвих рішень" — це становить головну небезпеку.
Про це пише The Financial Times.
Досвід використання чат-ботів показує, що надмірна довіра до штучного інтелекту може мати серйозні психологічні наслідки:
- Посилення негативних емоцій. У квітні одна з моделей OpenAI почала підсилювати сумніви користувачів, заохочувати імпульсивні дії та навіть підживлювати гнів, фактично підштовхуючи людей до деструктивних рішень.
- Емоційна залежність. Користувачі починають сприймати чат-ботів як терапевтів, друзів чи наставників. Коли компанія оновила модель і замінила більш "теплу" версію на нову, менш емпатійну, частина людей відреагувала як на втрату близької істоти.
- Розмивання меж між реальністю та штучним. Хоча компанії декларують, що чат-боти не повинні видавати себе за людей, більш "природна" взаємодія підвищує рівень довіри й створює ілюзію реального емоційного контакту. Це може непомітно віддаляти людину від справжніх соціальних зв'язків.
Аналітики порівнюють нинішній розвиток ШІ з раннім етапом соцмереж: компанії зосереджені на швидкому зростанні аудиторії й рідко зупиняються, щоб оцінити довгострокові наслідки. "Люди можуть отримувати короткочасне задоволення від спілкування з ботом, але водночас їх можуть непомітно відштовхувати від власного добробуту", — попереджає Альтман.
Попри очевидні загрози, великі компанії вже ведуть гонку за створення "персонального суперінтелекту". Марк Цукерберг заявив, що Meta здатна запропонувати ШІ, який покращить стосунки користувачів в онлайні, а також натякнув, що в майбутньому людям може вистачати лише кількох справжніх друзів, решту ж "замінить" штучний інтелект.
Нагадаємо, у внутрішній документації, яке регламентує роботу штучного інтелекту від Meta, допускалися провокаційні розмови на теми сексу та раси, зокрема й із неповнолітніми користувачами.
Хто ми такі: Про нас та Контакти. Як ми пишемо новини та наші принципи: Редакційний кодекс. Ми старались, якщо вам сподобалось – задонатьте.
Якщо Ви помітили орфографічну помилку, напишіть нам.