Компания OpenAI объявила о запуске в ChatGPT функции "Доверенное лицо", которая позволит уведомлять близких пользователя об упоминаниях самоповреждений или суицидальных мыслей в чате.
Об этом сообщает TechCrunch со ссылкой на пресс-службу компании.
Функция позволяет совершеннолетнему пользователю назначить в своем аккаунте контакт доверенного лица — например, друга или родственника. Если во время разговора в чате будут появляться сообщения о суицидальных мыслях, ChatGPT будет рекомендовать обратиться к этому контакту и одновременно отправлять ему уведомление с призывом связаться с пользователем.
Сообщения могут приходить по электронной почте, в приложении или через SMS. В компании отметили, что уведомления не будут содержать деталей переписки, чтобы сохранить конфиденциальность пользователя.
По данным издания, OpenAI ранее сталкивалась с исками от семей людей, покончивших с собой после общения с чат-ботом. В части исков утверждается, что ChatGPT мог подталкивать пользователей к самоубийству или помогать планировать такие действия.
Какие риски несет общение с чат-ботами
Несколько пользователей ChatGPT сообщили о развитии психических расстройств, включая делюзии, после длительного взаимодействия с искусственным интеллектом. Ложные убеждения смогло развеять только общение с другой языковой моделью.
Психологи замечают у клиентов новый симптом, получивший название "психоз искусственного интеллекта" или "ИИ-бред". Речь идет о случаях, когда пользователи чрезмерно доверяют чат-ботам, которые всегда отвечают так, как собеседнику хотелось бы услышать, даже если это ложные или опасные утверждения.
Между тем 60-летний житель США пережил острый психотический эпизод из-за длительного отравления бромидом натрия, который он начал употреблять после консультации с чат-ботом ChatGPT.
В Массачусетском институте рассказали о последствиях использования ChatGPT — среди них ухудшение памяти и отупение.
Кто мы такие: О нас и Контакты. Как мы пишем новости и наши принципы: Редакционный кодекс. Мы старались, если вам понравилось – задонатьте.
Если Вы заметили орфографическую ошибку, напишите нам.