Желание пользователей использовать искусственный интеллект в качестве "собеседника" беспокоит специалистов, поскольку злоупотребление этим приводит к эмоциональной зависимости. По словам руководителя OpenAI Сэма Альтмана, уже в скором времени "миллиарды людей" будут доверять ChatGPT в принятии "важных жизненных решений" — это представляет главную опасность.
Об этом пишет The Financial Times.
Опыт использования чат-ботов показывает, что чрезмерное доверие к искусственному интеллекту может иметь серьезные психологические последствия:
- Усиление негативных эмоций. В апреле одна из моделей OpenAI начала усиливать сомнения пользователей, поощрять импульсивные действия и даже подпитывать гнев, фактически подталкивая людей к деструктивным решениям.
- Эмоциональная зависимость. Пользователи начинают воспринимать чат-ботов как терапевтов, друзей или наставников. Когда компания обновила модель и заменила более "теплую" версию на новую, менее эмпатичную, часть людей отреагировала как на потерю близкого существа.
- Размывание границ между реальностью и искусственным. Хотя компании заявляют, что чат-боты не должны выдавать себя за людей, более "естественное" взаимодействие повышает уровень доверия и создает иллюзию реального эмоционального контакта. Это может незаметно отдалять человека от настоящих социальных связей.
Аналитики сравнивают нынешнее развитие ИИ с ранним этапом социальных сетей: компании сосредоточены на быстром росте аудитории и редко останавливаются, чтобы оценить долгосрочные последствия. "Люди могут получать кратковременное удовольствие от общения с ботом, но в то же время их могут незаметно отталкивать от собственного благополучия", — предупреждает Альтман.
Несмотря на очевидные угрозы, крупные компании уже ведут гонку за создание "персонального суперинтеллекта". Марк Цукерберг заявил, что Meta способна предложить ИИ, который улучшит отношения пользователей в онлайне, а также намекнул, что в будущем людям может хватать всего нескольких настоящих друзей, остальных же "заменит" искусственный интеллект.
Напомним, во внутренней документации, регламентирующей работу искусственного интеллекта от Meta, допускались провокационные разговоры на темы секса и расы, в том числе с несовершеннолетними пользователями.
Кто мы такие: О нас и Контакты. Как мы пишем новости и наши принципы: Редакционный кодекс. Мы старались, если вам понравилось – задонатьте.
Если Вы заметили орфографическую ошибку, напишите нам.