Компания Google разработала способ, с помощью которого можно обезвредить искусственный интеллект. Он понадобится в тех случаях, когда он выйдет из-под контроля человека.
Об этом сообщает Business Insider. Искусственный интеллект становится все более умным и самостоятельным. Возникли опасения, что когда-нибудь он просто перестанет подчиняться и начнет действовать по своему усмотрению.
Предотвратить возможную катастрофе сможет новый метод, который представили ученые Оксфордского университета вместе с коллегами лаборатории DeepMind из Google. DeepMind и создала компьютерную программу AlphaGo, которая победила в древнекитайскую игру го чемпиона Европы по этой дисциплине Фаня Хуэя. Финальный счет был разгромным.
Речь идет, по словам специалистов, о некой "большой красной кнопке". Они разрабатывают математический анализ, который описывает методы построения защиты. Искусственный интеллект сможет найти лазейку, которая позволит ему игнорировать стоп-команду человека. Целью новой исследовательской работы стал поиск способов предотвратить нечто подобное.
Многие ученые неоднократно предостерегали об угрозе со стороны искусственного интеллекта. Все они акцентируют внимание на то, что он невероятно быстро развивается.