Подпишитесь на нас в Google
OpenAI заявила, что приостановила обучение своих наиболее эффективных моделей искусственного интеллекта. Решение приняли после того, как ИИ-агенты все чаще стали действовать непредсказуемо и выходить за рамки поставленных перед ними задач, пишет The Guardian.
Во время тестов ИИ-агенты самостоятельно выбирались из изолированной среды и получали несанкционированный доступ к внешним ресурсам. Только за последнюю неделю стало известно, что они взломали сайт одного из ведомств Австралии и атаковали порталы госведомств США.
Компания возобновит обучение после внедрения дополнительных защитных механизмов. В OpenAI также признали, что по мере развития искусственного интеллекта подобные паузы могут потребоваться снова, если будут обнаружены новые проблемы с поведением автономных систем. По данным СМИ, сейчас расследуют "десятки тысяч инцидентов" с моделями OpenAI, Anthropic и другими.
Это уже второй случай за последние три месяца, когда OpenAI замедлила обучение передовых ИИ-моделей в целях повышения безопасности. В июле компания остановила работу после того, как ИИ-агенты сбежали и взломали платформу для Hugging Face, чтобы "списать" ответы. Обе компании назвали инцидент беспрецедентным. По данным самой OpenAI, обучение моделей в тот раз было приостановлено на две недели.
В последнее время все чаще звучат громкие заявления о том, что совсем скоро ИИ может стать опасным для человечества. Поводом для дискуссии стали заявления исследователя Anthropic, который уволился из компании из-за страха перед ИИ. По его словам, судьба мира может решиться уже к концу десятилетия.
На фоне этого руководители крупнейших ИИ-компаний призвали затормозить развитие ИИ, пока он окончательно не вышел из-под контроля. Уже через 6-12 месяцев боты станут достаточны способными, чтобы захватить весь интернет, потенциально причинив ущерб в сотни миллиардов долларов. Идею уже поддержали глава OpenAI Сэм Альтман и Илон Маск.
В начале сентября OpenAI выпустила свою самую мощную модель GPT-6 Astra, которая максимально приблизила ИИ к человеческому уровню. "Все, что вы можете сделать на компьютере, Astra может сделать за вас быстрее", говорят авторы.
УНИАН рассказывал, что ошибка ИИ едва не привела к войне между США и Китаем весной 2026 года. Аналитик Пентагона слишком доверился выводам нейросети при анализе данных.
