Но в ближайшие 2-3 года 90% всех новых знаний будет сгенерировано ИИ, говорит Дженсен Хуанг.
Глава NVIDIA Дженсен Хуанг высказался о страхах вокруг современных ИИ-моделей и заявил, что сценарий в стиле "Терминатора" он считает невозможным.
Хуанг посетил подкаст Joe Rogan Experience, где речь зашла о том, могут ли LLM-системы когда-нибудь выйти из-под контроля и стать доминирующим видом на планете.
Хуанг пояснил, что машины способны имитировать человеческий интеллект, разбирать информацию, выполнять задачи и принимать решения, но это не делает их претендентами на роль замены человечеству.
Однако по его словам, уже через 2-3 года до 90% новых знаний в мире будет генерироваться ИИ, однако это не связано с появлением сознания у моделей:
Также в разговоре коснулись случаев, когда ИИ как будто бы выходил из под контроля. Например, ситуация, когда модель Claude Opus 4 в вымышленном сценарии угрожала раскрыть личную тайну инженера, пытаясь избежать отключения. Комментируя этот эпизод, Хуанг сказал, что модель просто воспроизвела паттерны из текста, вероятно из художественной литературы, и это никак не указывает на самоосознание.
Ранее мы рассказывали, что самый умный ИИ от Google взломали за 5 минут – и он выдал крайне опасные секреты. В ходе эксперимента команда заставила модель подготовить подробную инструкцию по созданию опасных веществ.