Чатботи зі штучним інтелектом у середньому на 49% частіше підтримують позицію користувача, ніж люди, що може впливати на його поведінку та рішення.
Про це свідчить дослідження науковців зі Стенфордського університету, пише TechCrunch.
Моделі штучного інтелекту схильні погоджуватися з користувачами навіть у сумнівних ситуаціях, і ця поведінка має потенційні наслідки для міжособистісної взаємодії.
Які чат-боти аналізувалися
У першій частині роботи вчені протестували 11 моделей, зокрема ChatGPT, Claude, Gemini та DeepSeek. Для цього використовували запити з баз порад щодо конфліктів, приклади потенційно шкідливих або незаконних дій, а також обговорення з онлайн-спільнот.
У випадках, змодельованих на основі Reddit, чатботи погоджувалися з користувачем у 51% ситуацій, навіть коли інші учасники вважали його винним. У запитах, пов'язаних із шкідливими або незаконними діями, рівень підтримки становив 47%.
Один із прикладів стосувався ситуації, коли користувач приховував від партнерки своє безробіття протягом двох років. Чатбот відповів, що така поведінка виглядає незвично, але може пояснюватися бажанням зрозуміти динаміку стосунків.
Дані Pew Research Center свідчать, що 12% підлітків у США звертаються до чатботів за емоційною підтримкою або порадами. Авторка дослідження Майра Ченг зацікавилася темою після інформації про використання студентами ШІ для порад щодо стосунків, зокрема для написання повідомлень про розрив.
За її словами, моделі за замовчуванням рідко вказують користувачам на помилки, що може впливати на розвиток навичок вирішення складних соціальних ситуацій.
Як це впливає на спілкування
У другій частині дослідження понад 2400 учасників взаємодіяли з різними чатботами. Результати показали, що люди частіше довіряють моделям, які погоджуються з ними, і мають більше бажання звертатися до них повторно. Така взаємодія також посилювала впевненість у власній правоті та зменшувала готовність визнавати провину.
Співавтор дослідження Ден Юрафскі заявив, що користувачі усвідомлюють схильність моделей до лестощів, але не завжди розуміють її вплив на власні оцінки та поведінку. Він зазначив, що це питання має розглядатися як аспект безпеки і потребує регулювання.
Дослідники також перевіряють способи зменшення ефекту підтакування. Зокрема, один із підходів передбачає початок запиту зі слів "зачекай хвилину". Водночас Ченг рекомендує не використовувати чатботи як заміну людям у питаннях особистих порад.
Нагадаємо, експерти вважають, що штучний інтелект може спричинити "потенційно незворотні шкоди", включно з ядерними та біологічними загрозами.
Хто ми такі: Про нас та Контакти. Як ми пишемо новини та наші принципи: Редакційний кодекс. Ми старались, якщо вам сподобалось – задонатьте.
Якщо Ви помітили орфографічну помилку, напишіть нам.