ChatGPT научился обманывать систему: искусственный интеллект легко проходит проверку "Я не робот"

Новый агент ChatGPT от OpenAI, который может выполнять многоэтапные действия в браузере, с легкостью преодолел одну из самых распространенных интернет-проверок — CAPTCHA от Cloudflare.

Об этом пишет Ars Technica.

Эта система должна отличать людей от ботов, но ИИ-агент успешно прошел автоматический анализ поведения, который является частью технологии Cloudflare Turnstile. Речь идет о мониторинге движений мыши, скорости нажатий, JavaScript-взаимодействий и других признаков, которые обычно указывают на "человеческое поведение".

Пользователь Reddit с ником logkn поделился скриншотами, на которых видно, как ChatGPT Agent вставляет ссылки, нажимает на чекбокс "Я не робот" и проходит верификацию без вмешательства человека. Иронично, что ИИ сам прокомментировал свои действия: "Этот шаг необходим, чтобы доказать, что я не бот".

Хотя агенту не пришлось решать головоломки с картинками, он успешно обошел поведенческие фильтры, которых обычно достаточно для подтверждения "человечности".

Напомним, новое исследование показало, что одна ИИ-модель может "заразить" другую вредоносными установками, даже если эти установки не видны на первый взгляд.