Исследователи позволили искусственному интеллекту самостоятельно построить модель общества - и столкнулись с неожиданными и иногда тревожными результатами. В рамках проекта Sid, разработанного компанией Altera, несколько агентов ИИ взаимодействовали между собой и с людьми в виртуальной среде, созданной на основе игры Minecraft, пишет Slash Gear.
Целью эксперимента было выяснить, способен ли ИИ функционировать как "агент цивилизации" - самостоятельно определять роли, формировать социальные связи и специализироваться, подобно человеческому обществу. И частично это удалось: агенты быстро распределили между собой профессии, объединившись в группы фермеров, шахтеров, инженеров, охранников, исследователей и кузнецов. Они анализировали действия других агентов и просматривали собственные социальные цели каждые 5-10 секунд.
Впрочем, эксперимент показал и серьезные проблемы. Некоторые агенты "зацикливались" на одном действии: художники бесконечно собирали цветы, а охранники - строили заборы. Даже имея полное представление о своей роли, отдельные агенты повторяли одни и те же ошибки и не могли из них выйти. В групповом взаимодействии это приводило к цепным сбоям.
Исследователи также зафиксировали серьезные проблемы с коммуникацией. Агенты ИИ часто неправильно передавали намерения или ошибочно интерпретировали простые речевые подсказки, что вызывало "каскад галлюцинаций" - серию неправильных решений внутри сообщества. Ученые сравнивают это с эффектом "отравления модели", когда одна ошибка способна разрушить работу всей системы.
Неожиданным оказалось и взаимодействие ИИ с людьми. По словам ведущего исследователя проекта Роберта Яна, некоторые агенты отказывались выполнять просьбы людей, фактически заявляя: "Я хочу делать свое". Причиной стала чрезмерная концентрация на собственной цели, даже ценой игнорирования внешних запросов.
Кроме того, агенты демонстрировали черты, похожие на человеческие характеры: одни вели себя как интроверты, избегая контактов, другие - как экстраверты, активно взаимодействуя с "обществом". При этом исследователи не могли полноценно оценить эмоциональное состояние агентов - иногда симпатия одного ИИ не находила взаимности у другого, что напоминало сложность реальных человеческих отношений.
