Искусственный интеллект снижает усилия критического мышления, предупреждает исследование

Новое исследование Карнеги-Меллонского университета и Microsoft Research показывает, что инструменты искусственного интеллекта, генерирующие данные (GenAI), изменяют подход к критическому мышлению среди работников знания, часто снижая усилия, необходимые для аналитических задач.

В рамках исследования было опрошено 319 специалистов, собрано 936 первоисточников, отражающих работу с помощью GenAI, и было выявлено, что уверенность в искусственном интеллекте в значительной степени влияет на то, как пользователи привлекают критическое мышление.

Исследование подчеркивает ключевую тенденцию: работники, которые больше доверяют ИИ, склонны уделять меньше усилий критическому мышлению, в то время как те, кто уверен в своих собственных профессиональных навыках, больше занимаются критическим анализом.

Полученные данные позволяют предположить, что пользователи часто полагаются на контент, созданный с помощью ИИ, без тщательного анализа, что потенциально может привести к когнитивной отгрузке — процессу, при котором люди полагаются на внешние системы для выполнения когнитивных задач, которые они обычно выполняют самостоятельно.

Однако, сущность критического мышления не исчезает, а скорее меняет свой характер. Вместо решения проблем с нуля, работники все больше сосредотачиваются на проверке информации, сгенерированной AI, на интеграции ответов в свои рабочие процессы и на контроле за задачами, выполняемыми с помощью AI.

Эту роль, описанную в исследовании как «управление задачами», помещает пользователей в позицию руководства и корректировки результатов работы AI, а не просто создания нового контента самостоятельно.

Исследование также изучает, как искусственный интеллект влияет на процесс принятия решений и ответственность. Хотя инструменты ИИ оптимизируют сбор информации, уменьшая затраты усилий на исследования, они также требуют от работников критического оценивания надежности результатов работы ИИ.

Участники сообщили, что они склонны применять критическое мышление, когда у них есть сильные знания в определенной области, в то время как те, кто не уверен в своих знаниях, склонны доверять предложениям ИИ без особого обзора.

Для снижения излишней зависимости от ИИ, исследователи предлагают разрабатывать инструменты GenAI, стимулирующие активное участие пользователей в критическом мышлении. Функции, такие как механизмы обратной связи для оценки надежности ИИ, явные контролирующие элементы для корректировки помощи ИИ, а также подсказки, стимулирующие проверку сгенерированных ИИ ответов, могут помочь поддерживать аналитические навыки пользователей.

Кроме того, в исследовании говорится о необходимости программ обучения, которые оснастят знаниями работников навыками контроля над ИИ, гарантируя, что они могут эффективно оценивать результаты, полученные с помощью ИИ. Без таких вмешательств, исследователи предупреждают, что GenAI может ненамеренно ослабить независимые способности к решению проблем среди профессионалов, которые слишком сильно полагаются на него.

Результаты исследования акцентируют внимание на насущной проблеме для разработчиков ИИ и руководителей рабочих мест: на балансе между эффективностью ИИ и необходимостью поддержания критического мышления человека.

По мере того, как инструменты ИИ продолжают развиваться, их дизайн и внедрение будут играть решающую роль в формировании того, как работники знаний будут думать, анализировать и принимать решения в эпоху цифровых технологий.