Подпишитесь на нас в Google
Стивен Хокинг предупреждал, что высокоразвитый искусственный интеллект сможет перепроектировать сам себя и перегнать по сообразительности человеческую эволюцию.
Он призывал исследователей тщательно согласовывать цели ИИ с выживанием человечества, чтобы предотвратить экзистенциальную катастрофу, пишет Wion.
Хокинг предупреждал, что как только искусственный интеллект достигнет определенного уровня самостоятельности, он сможет перепроектировать сам себя во все более быстром темпе. Люди, которые серьезно ограничены медленной биологической эволюцией, попросту не смогут с ним конкурировать.
Компетентность, а не злой умысел
Он уточнил, что настоящая опасность искусственного интеллекта заключается не в злом роботе, а в чрезвычайно компетентном. Если у сверхразумного ИИ появятся цели, которые не согласуются с выживанием человека, человечество может быть легко стёрто с лица Земли.
Выступая в Кембриджском университете, Хокинг заявил, что создание успешного ИИ может стать крупнейшим событием в нашей истории. Однако он отметил, что это также может быть и нашим последним событием – если человечество не научится избегать связанных с ним рисков.
Экзистенциальная гонка вооружений
В свои последние годы Хокинг присоединился к другим ведущим техническим экспертам, предупреждая о глобальной гонке вооружений в сфере ИИ. По его мнению, автономное оружие легко может стать совершенным инструментом угнетения – если его не станут жёстко регулировать.
В своей последней книге "Краткие ответы на большие вопросы" Хокинг оставил человечеству чёткую финальную мольбу. Он призвал учёных и политиков следить за тем, чтобы развитие ИИ всегда оставалось строго на службе у людей.
Ранее УНИАН сообщал, что сутки на Земле на самом деле длятся не ровно 24 часа.
