Деякі користувачі помітили, що GPT-4o під час спілкування іноді без попередження перемикає діалог на іншу модель, яка дає більш консервативні відповіді. Як з'ясувалося, це частина нової системи безпеки від OpenAI.
Про це повідомляє Bleeping Computer.
Механізм працює так: якщо користувач обирає GPT-5 в автоматичному режимі та просить ШІ "подумати", запит перенаправляється до GPT-5-thinking. Аналогічно GPT-4o може переключатися, зокрема, на GPT-5-chat-safety — коли розмова стосується чутливих чи емоційних тем, які система може розцінити як потенційно небезпечні.
За словами віцепрезидента ChatGPT Ніка Терлі, перемикання відбувається тимчасово й лише для окремих повідомлень. Користувачі можуть дізнатися, яка модель активна, якщо прямо про це запитають.
Функцію почали впроваджувати наприкінці вересня. Вимкнути маршрутизацію неможливо, оскільки вона є складовою оновлених заходів безпеки.
В OpenAI пояснюють, що нова система — частина ширшої стратегії захисту користувачів та навчання моделей на реальних сценаріях використання перед масштабним запуском технології.
Що таке GPT-5-chat-safety і чим вона відрізняється від інших
GPT-5-chat-safety — це спеціальна версія моделі GPT-5, створена для роботи з чутливим, емоційним або потенційно небезпечним контентом. Модель аналізує запити, які можуть містити насильство, дискримінацію, пропаганду або інші ризикові теми, і формує відповіді так, щоб уникнути шкоди. Модель уникає політичних, провокаційних або суперечливих коментарів. Вона оптимізована не на генерацію будь-яких відповідей, а на безпечну і обережну роботу з чутливим контентом, тому обмежена у спілкуванні.
Нагадаємо, декілька користувачів ChatGPT повідомили про розвиток психічних розладів, включно з делюзіями, після тривалих взаємодій зі штучним інтелектом. Хибні переконання змогло розбити лише спілкування з іншою мовною моделлю.
Психологи помічають у клієнтів новий симптом, який отримав назву "психоз штучного інтелекту" або ж "ШІ-марення". Йдеться про випадки, коли користувачі надмірно довіряють чатботам, що завжди відповідають так, як співрозмовнику хотілося б почути, навіть якщо це помилкові чи небезпечні твердження.
Тим часом 60-річний житель США пережив гострий психотичний епізод через тривале отруєння бромідом натрію, який він почав вживати після консультації з чат-ботом ChatGPT.
У Массачусетському інституті розказали про наслідки використання ChatGPT – серед них погіршення памʼяті та отупіння.
Хто ми такі: Про нас та Контакти. Як ми пишемо новини та наші принципи: Редакційний кодекс. Ми старались, якщо вам сподобалось – задонатьте.
Якщо Ви помітили орфографічну помилку, напишіть нам.