Google разрабатывает сценарий остановки вероятного "восстания машин"

Корпорация разрабатывают "большую красную кнопку"

Подразделение Google DeepMind совместно с оксфордским Институтом будущего человечества (FoH) представил исследование, в котором рассматриваются способы взять искусственный интеллект под контроль в случае неповиновения, пишет Zaxid.net.

Лучший способ остановить восстание машин, считают ученые, - это вовремя нажать "большую красную кнопку".

Исследователи считают, что ИИ учится быстро и скоро сможет превзойти человечество. Эту точку принято называть сингулярностью. Доказательство этой гипотезы - эксперимент, проведенный в 2013 году. Игровой метод определил, что если нажать паузу во время игры Tetris, то проиграть просто невозможно. Именно такого беспредела опасаются эксперты DeepMind и FoH.

Чтобы остановить возможное восстание машин, ученые разрабатывают алгоритмы, которые в случае опасности смогут прервать работу искусственного интеллекта. Однако в DeepMind и FoH подчеркивают, что сделать это будет сложно, потому что ИИ будет автономным.

Лучший способ прервать "робокалипсис" - это запустить в машинах внутреннюю аварийную систему контроля, которая заставит ИИ остановиться. Причем отправить сигнал на эту систему сможет каждый в любой момент времени. Ученые сравнивают эту систему с пультом дистанционного управления и "большой красной кнопкой».