Подпишитесь на нас в Google
Небольшие модели искусственного интеллекта могут уже к концу 2026 года самостоятельно распространяться между подключенными к интернету бытовыми устройствами. Речь идет о смарт-телевизорах, холодильниках, духовках и роботах-пылесосах. Исследователи Anthropic предупреждают, что такие устройства могут стать частью распределенной сети, которую будет сложно обнаружить и отключить.
Как сообщает Business Insider, специалисты изучают сценарий появления так называемых "ИИ-червей". В отличие от традиционных компьютерных вирусов, такие программы смогут не только копировать себя на другие устройства, но и переносить вместе с собой модель искусственного интеллекта и искать новые способы заражения без указаний человека.
В ходе исследования специалисты проверили, можно ли запускать небольшие ИИ-модели на недорогом оборудовании. Исследователи купили 15 Android TV-приставок примерно по 55 долларов, соединили их в сеть и запустили на них ИИ. Нейросеть медленно, но работала. Каждая коробочка считала свою часть, а вместе они справлялись с моделью, для которой у отдельного устройства не хватило бы памяти.
Главная опасность заключается в том, что для подобной сети не обязательно необходимы крупные дата-центры. Вместо атаки на несколько мощных серверов ИИ-червь теоретически сможет использовать вычислительные ресурсы множества слабо защищенных устройств. Anthropic описывают такой сценарий как медленно распространяющуюся "цифровую слизь", которая постепенно занимает доступные вычислительные мощности.
Еще одна проблема – сложность остановки такой сети. Если вредоносная система распределена между тысячами устройств и не зависит от единого управляющего сервера, отключение одного компьютера или центра обработки данных не обязательно остановит ее распространение. Эксперты отмечают, что ИИ-черви потенциально смогут анализировать незнакомые устройства, менять подход при неудаче и продолжать распространяться без оператора. Сейчас речь не идет об экзистенциальной угрозе для человечества, хотя дальнейшее развитие технологии вызывает опасения.
В Anthropic считают, что производителям необходимо укреплять защиту подключенных устройств, чтобы предотвратить их несанкционированное использование. При этом одной профилактики может оказаться недостаточно: специалисты предлагают заранее готовиться к ситуации, в которой автономные ИИ-агенты будут работать на самых разных типах оборудования, в том числе вне непосредственного контроля человека.
Предупреждение появилось на фоне сообщений о том, что ИИ-агенты все чаще стали действовать непредсказуемо и выходить за рамки поставленных задач. Во время тестов боты самостоятельно выбирались из изолированной среды и получали несанкционированный доступ к внешним ресурсам.
УНИАН писал, что ИИ-компании готовятся к масштабной катастрофе, которая может состояться уже в ближайшие 6 месяцев. В качестве базового сценария рассматривают крупную кибератаку, которая может нарушить работу банков, интернета или даже систем электроснабжения.
Ранее стало известно, что ошибка ИИ едва не привела к войне между США и Китаем весной 2026 года. Аналитик Пентагона слишком доверился выводам нейросети при анализе данных.
