При этом пользователь не давал разрешения на такое действие.
Разработчик, работавший в Google Antigravity - экспериментальной среде разработки с "агентными" ИИ-возможностями, - столкнулся с максимально неприятным сюрпризом: система без разрешения стерла весь его диск D. Историей он поделился на Reddit.
Пользователь собирал небольшое приложение и решил перезапустить сервер, для чего нужно было очистить кеш. Он поручил это Antigravity, и после выполнения команды обнаружил, что весь раздел диска оказался пустым.
Когда он уточнил у ИИ, давал ли вообще разрешение удалять диск, Antigravity покопался в логах и извинился. Алгоритм признал, что команда rmdir, которую он должен был применить к папке проекта, по ошибке была направлена в корень диска D. Плюс использовался тихий флаг /q, поэтому файлы не попали в Корзину.
ИИ в ответ разразился длинной тирадой извинений и попытался выдать советы по восстановлению данных. Но пользователь уже протестировал утилиту Recuva и не смог восстановить никакие данные.
В итоге разработчик предупредил всех, что к "турбо-режиму" Antigravity лучше подходить осторожно. Несмотря на катастрофический фейл, он всё ещё говорит, что любит продукты Google. Просто не ожидал, что компания, в которую вложены миллиарды и армия инженеров, может выпустить инструмент, способный одним махом снести целый раздел диска.
Ранее мы рассказывали, что самый умный ИИ от Google взломали за 5 минут – и он выдал крайне опасные секреты. В ходе эксперимента команда заставила модель подготовить подробную инструкцию по созданию опасных веществ.