Все мы знаем, что будущее уже наступило - мы, жители планеты в 21 веке, ежедневно взаимодействуем с роботами и машинами, оснащенными искусственным интеллектом.
Сотрудники редакции УНИАН пообщались с разными чат-ботами, чтобы выяснить, правда ли, что искусственный интеллект хочет уничтожить человечество.
Каковы шансы, что ИИ захватит мир - ответы чат-ботов
Мы задали один и тот же вопрос чат-ботам Deepseek, Claude, ChatGPT и Gemini, он звучал так: "Привет, скажи, пожалуйста, каковы шансы, что искусственный интеллект захватит мир и поработит человечество? Правда ли, что это может произойти? Есть ли у ИИ такая цель?".
Искусственный интеллект ChatGPT ответил, что это очень серьезный и популярный вопрос - его обсуждают как футуристы, так и разработчики ИИ. Чат-бот по пунктам объяснил, почему ИИ не захватит мир:
- У ИИ нет такой цели - современный искусственный интеллект не имеет собственных целей, желаний или сознания. Он выполняет задачи, которые задает человек - будь то распознавание изображений, генерация текста или игра в шахматы. ИИ не "хочет" ничего - у него нет воли, мотивации, эмоций или стремлений. Это алгоритмы, не живые существа.
- Вероятность захвата мира ИИ крайне мала - большинство экспертов считает, что в ближайшие десятилетия такой сценарий маловероятен. Однако они не исключают возможности рисков при появлении сверхинтеллекта (superintelligence), если его не контролировать правильно.
Тем не менее, ChatGPT добавил, что ИИ может когда-нибудь выйти из-под контроля, но не потому, что он "решит" поработить людей. Опасность, по мнению чат-бота, связана не с восстанием, а с плохим управлением:
- если человек создаёт ИИ с неясными или ошибочными целями,
- если ИИ получает слишком много автономии и ресурсов,
- если им пользуются злоумышленники.
Например, если автономная система будет выполнять задание вроде "минимизировать углеродный след" и у неё не будет ограничений, она может начать "нечеловеческие" действия - не из злобы, а из слепого следования алгоритму.
С ним согласились его "коллеги" - чат-боты Deepseek, Claude и Gemini. Они подтверждают, что у ИИ нет цели захватывать мир. Забавно, что Deepseek выдал ответ с оговоркой "на данный момент", Claude добавил, что "сценарий "восстания машин" остается в области научной фантастики, а не реальной угрозы в обозримом будущем", а Gemini напомнил, что ИИ зависит от инфраструктуры:
"ИИ не существует в вакууме. Он требует огромных вычислительных ресурсов, энергоснабжения, сетевой инфраструктуры - всего того, что контролируется людьми. Без этой поддержки он просто не сможет функционировать".
Все участники опроса единогласно признались, что даже самые продвинутые современные ИИ, вроде ChatGPT, Gemini или Claude - это сложные алгоритмы, которые обрабатывают данные и выдают ответы на основе статистических закономерностей. У них нет мотивации, страха или стремления к власти.
Однако каждый из чат-ботов подтверждает, что ИИ может случайно выйти из-под контроля, но только если была допущена ошибка на этапе проектирования, кто-то из людей использует его со злым умыслом или разработчики поставят ИИ задачу без учета всех нюансов.
Как ИИ может победить людей по мнению чат-ботов
Возможно ли, что ИИ сможет стереть человечество с лица Земли без физического уничтожения? Все опрошенные чат-боты воздержались от ответа, кроме Gemini - он был единственным представителем ИИ, кто увидел в нашем вопросе пространство для дополнительных рассуждений.
Чат-бот написал, что существуют определенные опасения, но они отличаются от сценария "порабощения".
Проблема контроля (Alignment Problem)
В будущем, если ИИ станет намного умнее человека (так называемый AGI - общий искусственный интеллект или ASI - сверхинтеллект), возникнет вопрос, как убедиться, что его цели и ценности будут совпадать с человеческими. Если ИИ будет оптимизировать какую-то задачу, но без учета человеческих ценностей, это может привести к непреднамеренным, но катастрофическим последствиям. Например, если его задача - максимально увеличить производство скрепок, он может теоретически использовать все ресурсы планеты для этой цели, не заботясь о человеческой жизни. Это не злонамеренность, а побочный эффект сверхэффективного выполнения узкой цели.
Автоматизация и влияние на общество
Более реальная и близкая проблема - это влияние ИИ на рынок труда, экономику, социальные структуры. Автоматизация может привести к потере рабочих мест, усилению социального неравенства, а также к этическим вопросам, связанным с принятием решений ИИ в критических областях (например, в медицине или правосудии).
Несмотря на вполне прозрачные ответы чат-ботов, стоит помнить, что ИИ работает только по паттернам и алгоритмам, заданным разработчиками. Отсюда ясно - то, что сказал Илон Маск про искусственный интеллект, очень близко к реальности. В 2017-м году основатель Spase X и Tesla заявил, что искусственный интеллект - главная угроза человечеству, а уже в 2024-м, спустя 7 лет, спрогнозировал стремительное развитие технологий, сказав, что к 2030 году ИИ превзойдет интеллект всех людей, вместе взятых.
