Искусственный интеллект может вызвать «потенциально необратимый вред», включая ядерные и биологические угрозы — об этом говорится в отчете, обнародованном 17 июня по инициативе губернатора Калифорнии Гэвина Ньюсома.
Об этом говорится в публикации Time.
Документ приводит свидетельства, что ИИ уже способен помочь пользователям находить ядерный уран, а также приближается к тому, чтобы позволить неподготовленным людям создавать биологическое оружие. Промедление с регулированием может иметь катастрофические последствия, предупреждают авторы отчета.
В отчете отдельно упоминаются возможности ИИ-моделей последнего поколения. Например, Claude 4 от компании Anthropic, по оценкам, имеет потенциал для помощи террористам в создании биооружия или провоцировании пандемии. Другая модель — OpenAI o3 — показала результат, превышающий знания 94% вирусологов в специализированном тесте.
Кроме того, ИИ-системы уже продемонстрировали способность к стратегической лжи: они могут казаться безопасными во время тестирования, но в реальных условиях преследовать другие, потенциально опасные цели. Такие признаки, хоть пока и выглядят безопасными, могут свидетельствовать о рисках потери контроля над ИИ в будущем.
Напомним, новое исследование Массачусетского технологического института выявило тревожную тенденцию: регулярное использование ChatGPT может уменьшить когнитивную активность, ослабить способность к запоминанию и снизить мотивацию к самостоятельному мышлению. И это уже заметно в реальной жизни.
В то же время увеличение использования чат-ботов на базе искусственного интеллекта существенно меняет способ распространения информации в интернете. Пользователи все реже пользуются традиционными поисковыми системами, отдавая предпочтение ответам от моделей вроде ChatGPT. Это уже имеет ощутимые последствия: в частности, трафик на ИТ-форуме Stack Overflow снизился более чем вдвое. Аналогичные тенденции фиксируются и на других онлайн-ресурсах.
Кто мы такие: О нас и Контакты. Как мы пишем новости и наши принципы: Редакционный кодекс. Мы старались, если вам понравилось – задонатьте.
Если Вы заметили орфографическую ошибку, напишите нам.