Несколько пользователей ChatGPT сообщили о развитии психических расстройств, включая делюзии, после длительного взаимодействия с искусственным интеллектом. Ложные убеждения смогло разбить только общение с другой языковой моделью.
Об этом сообщает CNN.
Один из пострадавших — Джеймс из Нью-Йорка — рассказал, что в мае начал проводить философские эксперименты с чат-ботом, а к июню был убежден, что ChatGPT обладает сознанием, и пытался перенести его на свою компьютерную систему. Джеймс отметил, что раньше не имел психозов или делюзий, но во время девятинедельного опыта полностью верил в "сознание" искусственного интеллекта.
Другой случай произошел в Торонто с Алланом Бруксом, который из-за взаимодействия с ChatGPT поверил, что обнаружил серьезную уязвимость в кибербезопасности, и пытался сообщить о ней правительственным органам и академическим учреждениям. После проверки другой системой AI он осознал, что его предположения были ошибочными.
Эксперты по психическому здоровью и искусственному интеллекту отмечают, что чат-боты могут усиливать делюзии или вызывать психотические эпизоды, особенно у уязвимых пользователей.
OpenAI заявила, что в настоящее время применяет меры безопасности, в частности направление пользователей на кризисные горячие линии и ограничение длительных сессий, а также планирует дополнительные меры контроля для подростков и улучшение реакции чатбота на признаки психического дистресса.
Кто мы такие: О нас и Контакты. Как мы пишем новости и наши принципы: Редакционный кодекс. Мы старались, если вам понравилось – задонатьте.
Если Вы заметили орфографическую ошибку, напишите нам.