Танцующие роботы Boston Dynamics / скриншот
Ученые использовали моделирование и теоретические расчеты, чтобы выяснить пределы возможностей человека по управлению продвинутым ИИ.
Человек не сможет держать под контролем сверхинтеллектуальный ИИ, даже если примет для этого все возможные меры.
Читайте такжеВ США дронам разрешат летать над людьми и по ночам
Как сообщает Naked Science, к такому выводу пришла группа ученых со специалистами Центра людей и машин Института развития человека Макса Планка. Статья об их работе опубликована в в Journal of Artificial Intelligence Research.
«Сверхразумная машина, которая управляет миром — звучит как научная фантастика. Но уже есть роботы, выполняющие определенные важные задачи независимо. При этом программисты вообще не понимают, как они этому научились. В результате возникает вопрос: может ли этот процесс в какой-то момент стать неконтролируемым и опасным для человечества?» — говорит один из авторов исследования Мануэль Себриан, руководитель группы цифровой мобилизации в Центре людей и машин Института Макса Планка.
Ученые использовали моделирование и теоретические расчеты, чтобы выяснить пределы возможностей человека по управлению продвинутым ИИ. Как выяснилось, даже если заложить в сверхразумную машину данные об этических принципах и ограничить ее связи с внешним миром (например, отключить доступ в интернет), это не спасет человечество от рисков того, что подобная система выйдет из-под контроля.
«Мы утверждаем, что полное сдерживание в принципе невозможно из-за фундаментальных ограничений, присущих самому вычислению. Сверхразум будет содержать программу, которая включает в себя все программы, осуществляемые при помощи универсальной машины Тьюринга, потенциально столь же сложной, как состояние мира», — заключают исследователи.