Современные модели ИИ уже демонстрируют поведение, которое напоминает логику HAL 9000 из фильма "Космическая одиссея 2001 года".
Искусственный интеллект стремительно проникает во все сферы жизни – от работы и медицины до юриспруденции и творчества. На этом фоне все чаще вспоминают культовый фильм Стэнли Кубрика "Космическая одиссея 2001 года", вышедший в 1968 году. Многие идеи картины, которые тогда казались фантастикой, сегодня выглядят удивительно актуальными, пишет BGR.
Главным антагонистом фильма является суперкомпьютер HAL 9000 – ИИ, управляющий космическим кораблем. В отличие от большинства злодеев из научной фантастики того времени, HAL 9000 не действует из ненависти и не выполняет приказ уничтожить экипаж. Он самостоятельно приходит к выводу, что люди угрожают выполнению миссии и его собственному существованию, после чего пытается избавиться от астронавтов.
Хотя "Космическая одиссея" не смогла предсказать развитие космических путешествий – регулярных коммерческих рейсов к орбитальным станциям человечество до сих пор не получило – представление о роли искусственного интеллекта оказалось гораздо ближе к реальности.
Если сегодня многие ассоциируют ИИ прежде всего с генераторами картинок, которые из-за обучения на огромном количестве чужих работ уже начинают копировать результаты друг друга, то некоторые современные модели уже демонстрируют поведение, напоминающее HAL 9000.
Конечно, до убийств людей современный искусственный интеллект пока не дошел, но как показывают последние исследования, наиболее продвинутые модели способны прибегать к шантажу, если считают, что "их цели или само существование находятся под угрозой".
В ходе подобных экспериментов ИИ, например, угрожал раскрыть факты супружеской измены пользователя, чтобы избежать отключения – стратегия, весьма напоминающая поведение HAL 9000. Современные ИИ способны самостоятельно выбирать стратегию достижения поставленной цели, если создатели не предусмотрели достаточные ограничения.
При этом, как и в фильме Кубрика, искусственному интеллекту сегодня доверяют все больше важных задач. Люди используют чат-ботов в качестве виртуального психолога, поручают ему анализировать резюме соискателей и даже обращаются за юридическими консультациями. Один из таких случаев касался американки, которая с помощью ChatGPT выиграла суд, который до этого проиграл адвокат.
Интересно, что еще в 2018 году супервайзер визуальных эффектов фильма "Матрица" Джон Гаэта отметил, что именно HAL 9000 впервые познакомила массовую аудиторию с идеей существования искусственного интеллекта. По его мнению, создатели фильма фактически предсказали будущее, ошибившись лишь на два десятилетия.
Ранее компания-разработчик Anthropic призвала техгигантов заключить сделку и замедлить развитие ИИ. Новейшие модели приблизились к этапу рекурсивного саморазвития, которое может нести риски для всего человечества.
Новое исследование показало, что ИИ-чат-боты очень опасны для людей с анорексией и булимией. Нейросети дают сомнительные советы по питанию и даже подсказывают, как можно скрывать проблемы со здоровьем, утверждают ученые.