Подпишитесь на нас в Google
Искусственный интеллект может выйти из-под контроля и представлять экзистенциальную угрозу для человечества уже к концу этого десятилетия. Такую тревожную оценку озвучил бывший исследователь компании "Антропик" Джейкоб Коксон, а один из нынешних руководителей ее команды по безопасности заявил, что также серьезно обеспокоен скоростью самосовершенствования ИИ, пишет HVG.
Джейкоб Коксон, ранее работавший в Open AI, покинул "Антропик", где занимался обучением систем искусственного интеллекта. Свой уход он объяснил тем, что компания, по его мнению, недостаточно серьезно относится к вопросам безопасности.
В посте в соцсети X исследователь заявил, что OpenAI и "Антропик" фактически соревнуются в создании самовоспроизводящегося суперинтеллекта. По словам Коксона, компании делают это, несмотря на то, что сами разработчики ИИ осознают потенциальный риск катастрофического сценария.
"Они играют с нашими жизнями", – заявил исследователь.
Коксон считает, что в случае появления системы, способной самостоятельно совершенствоваться, развитие технологии может выйти из-под контроля.
Другой исследователь согласился с ним
Особое внимание привлекла реакция Эвана Хабингер, руководителя одной из команд безопасности "Антропик". Он ответил на пост Коксона и заявил, что также обеспокоен темпами самосовершенствования искусственного интеллекта.
По его словам, этот процесс "происходит быстрее, чем мы думали". Хабингер также заявил:
"Мы действительно считаем, что искусственный интеллект способен уничтожить все человечество".
При этом он оценил вероятность такого сценария более чем в 10%.
Почему ученые боятся самосовершенствования ИИ
Главное беспокойство исследователей заключается в возможности создания системы, которая сможет самостоятельно улучшать свои собственные возможности. Теоретически это может запустить своеобразную спираль развития, скорость которой люди уже не смогут контролировать.
Специалисты по безопасности ИИ уже много лет предупреждают о подобных рисках. В то же время сегодня искусственный интеллект уже способен создавать часть программного кода, используемого для дальнейшей разработки технологий.
Хабингер утверждает, что у "Антропика" пока нет адекватного плана, который гарантировал бы безопасность чрезвычайно мощных систем искусственного интеллекта и их соответствие человеческим ценностям.
Подобные опасения ранее высказывал и Нобелевский лауреат Джеффри Хинтон, которого называют одним из пионеров современного искусственного интеллекта. Он неоднократно предупреждал о потенциально опасных последствиях стремительного развития этой технологии.
