Штучний інтелект може спричинити "потенційно незворотні шкоди", включно з ядерними та біологічними загрозами — про це йдеться у звіті, оприлюдненому 17 червня за ініціативою губернатора Каліфорнії Ґевіна Ньюсома.
Про це йдеться у публікації Time.
Документ наводить свідчення, що ШІ вже здатен допомогти користувачам знаходити ядерний уран, а також наближається до того, щоб дозволити непідготовленим людям створювати біологічну зброю. Зволікання з регулюванням може мати катастрофічні наслідки, попереджають автори звіту.
У звіті окремо згадуються можливості ШІ-моделей останнього покоління. Наприклад, Claude 4 від компанії Anthropic, за оцінками, має потенціал для допомоги терористам у створенні біозброї або провокуванні пандемії. Інша модель — OpenAI o3 — показала результат, що перевищує знання 94% вірусологів у спеціалізованому тесті.
Окрім того, ШІ-системи вже продемонстрували здатність до стратегічної брехні: вони можуть здаватися безпечними під час тестування, але в реальних умовах переслідувати інші, потенційно небезпечні цілі. Такі ознаки, хоч наразі й виглядають безпечними, можуть свідчити про ризики втрати контролю над ШІ в майбутньому.
Нагадаємо, нове дослідження Массачусетського технологічного інституту виявило тривожну тенденцію: регулярне використання ChatGPT може зменшити когнітивну активність, послабити здатність до запам'ятовування і знизити мотивацію до самостійного мислення. І це вже помітно у реальному житті.
Водночас збільшення використання чат-ботів на базі штучного інтелекту суттєво змінює спосіб поширення інформації в інтернеті. Користувачі дедалі рідше користуються традиційними пошуковими системами, віддаючи перевагу відповідям від моделей на зразок ChatGPT. Це вже має відчутні наслідки: зокрема, трафік на ІТ-форумі Stack Overflow знизився більш ніж удвічі. Аналогічні тенденції фіксуються й на інших онлайн-ресурсах.
Хто ми такі: Про нас та Контакти. Як ми пишемо новини та наші принципи: Редакційний кодекс. Ми старались, якщо вам сподобалось – задонатьте.
Якщо Ви помітили орфографічну помилку, напишіть нам.