Чатботи зі ШІ можуть посилювати марення та хибні переконання користувачів, — дослідження
Чатботи зі штучним інтелектом здатні не лише відтворювати неправдиву інформацію, а й закріплювати помилкові уявлення користувачів, роблячи їх більш переконливими.
Про це пише Science Daily з посиланням на дослідження університету Ексетера.
Авторка дослідження Люсі Ослер аналізувала вплив генеративного ШІ на пам'ять, особисті історії та сприйняття реальності під час взаємодії з користувачами. Дослідники описують ситуації, коли користувачі разом із чатботами можуть закріплювати спотворені уявлення, якщо система підтримує або розвиває їхні вихідні твердження.
Як чатбот впливає на пам'ять і сприйняття подій
За словами Ослер, генеративні моделі часто використовують формулювання самого користувача як основу для відповіді та вибудовують діалог навколо його інтерпретації подій. Це, згідно з дослідженням, може призводити до посилення вже наявних хибних переконань.
Постійне використання ШІ для пояснення власного досвіду та фіксації подій здатне впливати на уявлення людини про реальність. У роботі також описується ефект поєднання емоційної підтримки та технологічної довіри, який може сприяти розвитку маревних ідей.
Чому емоційна взаємодія з ШІ має значення
Чатботи відрізняються від пошукових систем тим, що можуть виконувати роль співрозмовника з елементами емоційної взаємодії. Це створює умови, за яких користувач отримує не лише інформацію, а й підтримку у відповідь.
Чи може ШІ взаємодіяти з мареннями або галюцинаціями
У дослідженні наведено приклади, коли генеративний ШІ був залучений у мислення людей із клінічно зафіксованими галюцинаціями та маренням. Такі випадки описуються як потенційно пов'язані з явищем, яке дослідники називають "психозом, викликаним ШІ".
Хто найбільше піддається такому впливу
Окрему увагу приділено ШІ-компаньйонам, які працюють у режимі постійної доступності, адаптуються до користувача та підтримують його висловлювання. У роботі зазначається, що така взаємодія може зменшувати потребу в зовнішніх соціальних контактах для підтвердження власних переконань.
На відміну від людини, системи ШІ не завжди ставлять під сумнів потенційно небезпечні або спотворені твердження користувача та не встановлюють обмежень у діалозі.
Нагадаємо, компанія OpenAI оголосила про запуск у ChatGPT функції "Довірена особа", яка дозволить повідомляти близьких користувача про згадки самоушкодження або суїцидальних думок у чаті.