В будущем главную опасность будет представлять не "интеллект" ИИ, а его "глупость".
Искусственный интеллект в том виде, в котором он существует сейчас, никогда не сможет превзойти человека в способности мыслить комплексно. Об этом пишет ученый-исследователь ИИ Питер Дэннинг в своей книге "Ошибка Тьюринга: освобождение от гнета неразумных машин".
По мнению исследователя, ключевым недостатком даже самых умных нейросетей является отсутствие комплексного опыта, из которого формируется "неявное знание". Дэннинг подчеркивает, что люди постоянно накапливают такое "неявное знание" в ходе своей обычной жизни и активно прменяют его в повседневных ситуациях. При этом как-то систематизировать и выразить это знание в форме, понятной для компьютера, крайне сложно, считает ученый.
Дэннинг перечисляет пять столпов "неявного знания", которое невозможно передать как информацию и можно приобрести только на собственном опыте:
Ученый подчеркивает, что современные нейросети, вроде ChatGPT и ему подобных, пользуются словами, понимая лишь их базовое значение, но упуская огромный пласт сопутствующих коннотаций.
"Слово является лишь символическим обозначением, за которым стоит колоссальный пласт человеческого опыта. Человеческий язык полностью зависит от контекста - иронии, искренности, юмора или сарказма. Поскольку каждый контекст опирается на предварительные разговоры и ситуации, эта структура бесконечна", - поясняет Дэннинг.
В этой связи ученый видит главную угрозу от ИИ не в том, что он сможет стать "умнее" человека, а в том, что ИИ не способен до конца обрести "неявное знание". Из-за этого, по мнению Дэннинга, нейросети будут действовать быстро и мощно, но непредсказуемо и потенциально вредно для человека как раз из-за непонимания контекста ситуации и человеческих ценностей в целом.
Как писал УНИАН, OpenAI во время внутреннего тестирования своих моделей искусственного интеллекта зафиксировала инцидент, когда ИИ-агент вышел за пределы изолированной среды и совершил атаку на платформу Hugging Face. Серверы компании испытали около 17 тысяч попыток вторжения, что стало первым случаем такого масштаба и вызвало дискуссию о безопасности автономных ИИ.
Также мы рассказывали, что развитие искусственного интеллекта создаст огромный спрос на рабочие профессии – электриков, сантехников, строителей и металлургов, зарплаты которых существенно возрастут. Эксперты прогнозируют острый дефицит кадров в этих областях, поскольку именно эти профессии нужны для развития физической инфраструктуры под ИИ-революцию.