Підрозділ Google DeepMind спільно з оксфордським Інститутом майбутнього людства (FoH) представив дослідження, в якому розглядаються способи взяти штучний інтелект під контроль в разі непокори, пише Zaxid.net.
Найкращий спосіб зупинити повстання машин, вважають вчені, - це вчасно натиснути "велику червону кнопку". Дослідники вважають, що ІІ вчиться швидко і скоро зможе перевершити людство. Цю точку прийнято називати сингулярністю. Доказ цієї гіпотези - експеримент, проведений в 2013 році. Ігровий метод визначив, що якщо натиснути паузу під час гри Tetris, то програти просто неможливо. Саме такого свавілля побоюються експерти DeepMind і FoH.
Щоб зупинити можливе повстання машин, вчені розробляють алгоритми, які в разі небезпеки зможуть перервати роботу штучного інтелекту. Однак в DeepMind і FoH наголошують, що зробити це буде складно, тому що ІІ буде автономним.
Найкращий спосіб перервати "робокаліпсис" - це запустити в машинах внутрішню аварійну систему контролю, яка змусить ІІ зупинитися. Причому відправити сигнал на цю систему зможе кожен в будь-який момент часу. Вчені порівнюють цю систему з пультом дистанційного керування і "великою червоною кнопкою».
Хто ми такі: Про нас та Контакти. Як ми пишемо новини та наші принципи: Редакційний кодекс. Ми старались, якщо вам сподобалось – задонатьте.
Якщо Ви помітили орфографічну помилку, напишіть нам.