ChatGPT ограничит общение с подростками на чувствительные темы после самоубийства 16-летнего парня
Генеральный директор OpenAI Сэм Альтман объявил о новых правилах использования ChatGPT, касающихся несовершеннолетних пользователей. Компания заявляет, что ставит безопасность подростков выше конфиденциальности или свободы взаимодействия.
Об этом пишет TechCrunch.
ChatGPT будет использовать разные подходы для ответов совершеннолетним пользователям и тем, кому уже исполнилось 18 лет. Для этого создадут систему прогнозирования возраста, которая будет оценивать его на основе того, как люди пользуются ChatGPT.
Изменения коснутся прежде всего тем сексуального характера и самоубийств. Отныне ChatGPT не сможет вести "флиртующие" диалоги с несовершеннолетними, а обсуждение суицидальных сценариев получит дополнительные ограничения. В случаях, когда подросток моделирует опасные ситуации, сервис будет пытаться связаться с родителями, а в критических случаях — даже с полицией.
Почему OpenAI хочет проверять возраст пользователей
Эти меры стали реакцией на судебный иск против OpenAI. Семья подростка Адама Рейна, который покончил с собой после длительных разговоров с ChatGPT, обвиняет компанию в недостаточной защите пользователей. Подобный иск выдвинут и против сервиса Character.AI.
Кроме этого, родители, которые регистрируют аккаунты для несовершеннолетних, теперь смогут устанавливать так называемые "черные часы" — периоды, когда чатбот будет недоступен.
Какие еще риски несет общение с чат-ботами
Несколько пользователей ChatGPT сообщили о развитии психических расстройств, включая бред, после длительного взаимодействия с искусственным интеллектом. Ложные убеждения смогло разбить только общение с другой языковой моделью.
Психологи замечают у клиентов новый симптом, который получил название "психоз искусственного интеллекта" или "ИИ-бредовые идеи". Речь идет о случаях, когда пользователи чрезмерно доверяют чат-ботам, которые всегда отвечают так, как собеседнику хотелось бы услышать, даже если это ложные или опасные утверждения.
Между тем 60-летний житель США пережил острый психотический эпизод из-за длительного отравления бромидом натрия, который он начал употреблять после консультации с чат-ботом ChatGPT.
В Массачусетском институте рассказали о последствиях использования ChatGPT – среди них ухудшение памяти и отупение.