Подпишитесь на нас в Google
Крупнейшие компании в сфере искусственного интеллекта активно готовятся к "катастрофическому инциденту", который вызовет широкий общественный резонанс и заставит власти ввести жесткие ограничения на развитие ИИ. Об этом пишет Axios.
Руководители Anthropic, OpenAI и других ИИ-компаний проводят специальные учения на случай, если искусственный интеллект выйдет из-под контроля. Для компаний и структур в сфере нацбезопасности проработка таких кризисных ситуаций – обычная практика, но в случае ИИ многие исследователи и топ-менеджеры компаний считают подобный сценарий абсолютно неизбежным, пишет Axios.
По данным издания, чаще всего в качестве базового сценария рассматривают масштабную кибератаку, которая нарушит работу банков, интернета или даже систем электро- и водоснабжения. Опрошенные специалисты прогнозируют этот инцидент уже в ближайшие 6-12 месяцев.
В OpenAI подтвердили отработку "некоторых потенциальных сценариев". Там это делают для подготовки к возможным угрозам. В Anthropic от комментариев отказались.
Дополнительные вопросы безопасности возникают на фоне сообщений о том, что ИИ-агенты все чаще стали действовать непредсказуемо и выходить за рамки поставленных задач. В сентябре нейросети OpenAI атаковали порталы госведомств США. Также был зафиксирован взлом австралийского государственного сайта здравоохранения.
В начале сентября OpenAI выпустила свою самую мощную модель GPT-6 Astra, которая максимально приблизила ИИ к человеческому уровню. "Все, что вы можете сделать на компьютере, Astra может сделать за вас быстрее", говорят авторы.
УНИАН рассказывал, что ошибка ИИ едва не привела к войне между США и Китаем весной 2026 года. Аналитик Пентагона слишком доверился выводам нейросети при анализе данных.
