Распространение искусственного интеллекта создает риск постепенной утраты людьми способности самостоятельно проверять информацию и принимать решения. Поэтому критическое мышление в эпоху ИИ становится не просто образовательной компетенцией, а одним из элементов когнитивной безопасности общества.
Об этом пишет доктор политических наук, проректор Киевского национального университета культуры и искусств Инна Костыря в своей колонке с обзором дискуссии об угрозах ИИ для существования человечества.
Она обращает внимание на явление "когнитивной разгрузки" – передачи всё большей части интеллектуальной работы цифровым системам. При таком сценарии человек постепенно может утратить привычку самостоятельно анализировать информацию, проверять аргументы и подвергать сомнению готовые ответы.
Особенно опасной, по словам автора, может стать ситуация, когда человек формально остается ответственным за решение, но фактически лишь соглашается с рекомендацией алгоритма.
В качестве примера Костыря приводит преподавателя, использующего ИИ для оценки студенческих работ: сначала он тщательно проверяет предложенную ИИ оценку, затем делает это поверхностно, а со временем может начать просто нажимать кнопку "подтвердить". Аналогичный механизм может постепенно распространяться на управление, медицину, безопасность и другие сферы.
Именно поэтому образование, по словам Костыри, должно учить не только пользоваться технологиями, но и понимать пределы их применения, а также определять, какие решения человек не должен передавать машине.
В этом контексте она также обращает внимание на подход ОЭСР, Европейской комиссии и ЮНЕСКО, которые всё чаще связывают ИИ-грамотность с критической оценкой результатов работы алгоритмов, человеческой ответственностью и сохранением способности человека самостоятельно принимать решения.