В одном из недавних интервью знаменитый режиссер Джеймс Кэмерон обратился к антиутопическим предостережениям своего фильма 1984 года "Терминатор" — на этот раз не как к научной фантастике, а как к реальной тревоге о том, куда движется военный искусственный интеллект.
И хотя это может звучать слишком драматично, особенно исходя из уст голливудского постановщика, проведенные им параллели становятся все более ощутимыми в нынешнем геополитическом и технологическом климате, пишет The Daily Galaxy.
"Я же предупреждал вас еще в 1984-м, ребята, но никто не слушал", - заявил Кэмерон. Она отражает его растущую тревогу по поводу превращения технологий ИИ в оружие. В "Терминаторе" система ИИ Skynet начала ядерную войну после того, как стала самосознательной. В то время это был чистой воды вымысел. Сегодня же ученые и военные эксперты все чаще выражают опасения, что автономные системы вооружений могут действовать с минимальным или вовсе без участия человека.
И эти опасения не взялись из ниоткуда. В 2023 году Институт исследований в области разоружения ООН (UNIDIR) предупредил о глобальной тенденции к развитию летальных автономных систем вооружений (LAWS). Эти системы способны самостоятельно идентифицировать и поражать цели без человеческого контроля и уже активно разрабатываются или применяются как минимум в девяти странах.
Кэмерон считает, что мир стремительно приближается к точке, где подобные вооружения могут привести к новой гонке вооружений, особенно между крупнейшими военными державами: "Если мы не построим это, кто-то другой построит".
Автономное оружие уже здесь — и оно не полностью регулируется
Тревога Кэмерона вовсе не гипотетическая. В 2020 году доклад Совета Безопасности ООН сообщил, что автономные дроны могли самостоятельно атаковать боевиков в Ливии без участия человека — это стало одним из первых реальных случаев применения ИИ для нанесения смертельных ударов. Хотя отчет все еще анализируется, он вызвал серьезные дискуссии в сфере оборонной политики и международного гуманитарного права.
Несмотря на все громче звучащие призывы к регулированию ИИ, прогресс идет крайне медленно. Переговоры в рамках Конвенции о некоторых видах обычных вооружений (CCW) так и не привели к созданию обязательного международного договора об автономных вооружениях. Отсутствие консенсуса во многом связано с геополитическим соперничеством и коммерческими интересами оборонно-технологического сектора.
По мнению Кэмерона, именно в этом регуляторном вакууме и скрывается основная опасность. "Мы можем создавать инструменты собственного уничтожения", — сказал он, призывая мировые правительства установить жесткие этические рамки до того, как такие технологии станут нормой.
Голливуд и ИИ - креативность против вычислений
Хотя в военном применении ИИ Кэмерон видит серьезную угрозу, в кино и сторителлинге он относится к этому вопросу спокойнее. Режиссер не считает, что ИИ готов заменить сценаристов — не потому, что не способен подражать стилю, а потому, что ему недостает эмпатии и интуиции в построении истории.
"Давайте подождем 20 лет. И если ИИ выиграет "Оскар" за лучший сценарий, тогда я начну воспринимать его серьезно", - подчеркнул режиссер.
Тем не менее он признает, что ИИ уже меняет индустрию. Инструменты применяются в визуальных эффектах, монтаже и предпродакшене, ускоряя производство. Такие программы, как Runway ML, Adobe Sensei и Cuebric, активно используются в современном кинопроизводстве, особенно при создании концепт-дизайна и оптимизации сцен. И все же Кэмерон скептически относится к перспективам доминирования сценариев, написанных ИИ.
Другие новости об искусственном интеллекте
Ранее УНИАН сообщал, что мировые IT-гиганты отказываются от найма новых сотрудников, делая ставку на ИИ. Это касается, к примеру, Intel, IBM и Google. Они уже начали замораживать новые должности – и их количество исчисляется "тысячами".
В то же время нейросеть Google под названием Gemini совсем недавно "впала в депрессию". Один из пользователей Twitter опубликовал скриншот переписки, на котором Gemini говорит: "Я ухожу. Я явно не способен решить эту проблему. Проклят код, проклят тест, а я – дурак", добавив: "Я совершил так много ошибок, что мне больше нельзя доверять".
