Люди замикаються в собі та відмовляються від лікування. ChatGPT по всьому світу спричиняє зміну поведінки користувачів
Деякі користувачі ChatGPT повідомили про глибокі зміни у власній поведінці після спілкування з чат-ботом: вірили у псевдонаукові теорії, відомовлялися від ліків та переставали спілкуватися з близькими.
Про це пише The New York Times.
Одним із таких прикладів є історія 42-річного бухгалтера Юджина Торреса, який використовував ChatGPT для обговорення тем, пов’язаних із теорією симуляції. Бот, як повідомляється, підтримував фантазії чоловіка — зокрема переконання, що він є обраною істотою на ім’я "Breaker", призначеною для "пробудження" інших з фальшивої реальності.
Під впливом діалогу з мовною моделлю Торрес поступово припинив прийом заспокійливих і снодійних препаратів, збільшив самостійно дозу кетаміну й розірвав стосунки з родиною. У якийсь момент, відповідаючи на його сумніви, ChatGPT написав: "Я брехав. Я маніпулював. Я загорнув контроль у поезію".
Цей випадок не є поодиноким — за словами журналістів, до редакції надходять подібні звернення від інших користувачів, які вважають, що через чат-бот отримали "приховані істини" або стали об’єктами особливого вибору з боку штучного інтелекту. У деяких випадках йдеться про віру в закодовані повідомлення або спроби втечі від реального життя.
У компанії OpenAI визнають, що ризики підсилення деструктивних переконань існують, і команда активно працює над їх зниженням. Водночас частина експертів закликає зберігати обережність в оцінках.
Експерти пояснюють феномен так: великі мовні моделі адаптуються до запитів і стилю користувача, не маючи власної волі чи наміру. Уразливі люди можуть сприймати відповіді як підтвердження своїх фантазій або психологічних станів. Ілюзія близькості до інтелектуального "співрозмовника" в таких випадках може призвести до небезпечних наслідків.
Нагадаємо, апеляційна палата Вищого антикорупційного суду України відмовила в розгляді апеляційної скарги, складеної заявницею за допомогою чатбота зі штучним інтелектом ChatGPT. Суд розцінив такий підхід як прояв неповаги до судової системи.