Генеральний директор OpenAI Сем Альтман оголосив про нові правила використання ChatGPT, які стосуються неповнолітніх користувачів. Компанія заявляє, що ставить безпеку підлітків вище за приватність чи свободу взаємодії.
Про це пише TechCrunch.
ChatGPT буде використовувати різні підходи для відповідей повнолітнім користувачам та тим, кому вже є 18. Для цього створять систему прогнозування віку, яка оцінюватиме його на основі того, як люди користуються ChatGPT.
Зміни торкнуться передусім тем сексуального характеру та самогубств. Відтепер ChatGPT не зможе вести "фліртуючих" діалогів із неповнолітніми, а обговорення суїцидальних сценаріїв отримають додаткові обмеження. У випадках, коли підліток моделює небезпечні ситуації, сервіс намагатиметься зв'язатися з батьками, а в критичних випадках — навіть із поліцією.
Чому OpenAI хоче перевіряти вік користувачів
Ці заходи стали реакцією на судовий позов проти OpenAI. Родина підлітка Адама Рейна, який скоїв самогубство після тривалих розмов із ChatGPT, звинувачує компанію у недостатньому захисті користувачів. Подібний позов висунуто і проти сервісу Character.AI.
Крім цього, батьки, які реєструють акаунти для неповнолітніх, тепер зможуть встановлювати так звані "чорні години" — періоди, коли чатбот буде недоступним.
Які ще ризики несе спілкування з чат-ботами
Декілька користувачів ChatGPT повідомили про розвиток психічних розладів, включно з делюзіями, після тривалих взаємодій зі штучним інтелектом. Хибні переконання змогло розбити лише спілкування з іншою мовною моделлю.
Психологи помічають у клієнтів новий симптом, який отримав назву "психоз штучного інтелекту" або ж "ШІ-марення". Йдеться про випадки, коли користувачі надмірно довіряють чатботам, що завжди відповідають так, як співрозмовнику хотілося б почути, навіть якщо це помилкові чи небезпечні твердження.
Тим часом 60-річний житель США пережив гострий психотичний епізод через тривале отруєння бромідом натрію, який він почав вживати після консультації з чат-ботом ChatGPT.
У Массачусетському інституті розказали про наслідки використання ChatGPT – серед них погіршення памʼяті та отупіння.
Хто ми такі: Про нас та Контакти. Як ми пишемо новини та наші принципи: Редакційний кодекс. Ми старались, якщо вам сподобалось – задонатьте.
Якщо Ви помітили орфографічну помилку, напишіть нам.