Доказано: использование ИИ ухудшает когнитивные способности

Новое исследование Microsoft и Университета Карнеги-Меллона показывает, что чрезмерное использование генеративного искусственного интеллекта (ИИ) на работе может приводить к ослаблению критического мышления.

Об этом сообщает издание TechCrunch.

Согласно исследованию, неправильное использование технологий, в том числе генеративного ИИ, «может приводить и приводит к ухудшению когнитивных способностей, которые следовало бы сохранять».

Когда люди полагаются на генеративный ИИ на работе, их усилия смещаются в сторону проверки качества ответов, генерируемых ИИ, вместо использования более сложных навыков критического мышления, таких как создание, оценка и анализ информации. Если люди вмешиваются только тогда, когда ответы ИИ недостаточно хороши, работники лишаются «возможностей для тренировки суждений и укрепления своей когнитивной мускулатуры, что приводит к атрофии».

Иными словами, чрезмерная зависимость от ИИ в решении задач приводит к ухудшению способности людей самостоятельно решать проблемы, когда ИИ терпит неудачу.

В исследовании, охватившем 319 человек, которые сообщили об использовании генеративного ИИ на работе не реже одного раза в неделю, респондентам было предложено привести три примера того, как они используют генеративный ИИ на работе, которые подпадают под три основные категории: создание (например, написание формального электронного письма коллеге); изучение информации (исследование темы или создание длинной статьи); и советы (просьба о руководстве или составление графика из существующих данных). Затем их спросили, применяют ли они навыки критического мышления при выполнении задачи и заставляет ли использование генеративного ИИ прилагать больше или меньше усилий для критического мышления. Для каждой задачи, упомянутой респондентами, их также попросили поделиться тем, насколько они уверены в себе, в генеративном ИИ и в своей способности оценивать результаты ИИ.

Около 36% участников сообщили, что использовали навыки критического мышления для смягчения потенциальных негативных последствий использования ИИ. Одна участница отметила, что использовала ChatGPT для написания характеристики сотрудника, но перепроверила результат, опасаясь случайно предоставить документ, который может привести к ее отстранению от работы. Другой респондент сообщил, что ему приходилось редактировать сгенерированные ИИ электронные письма, которые он собирался отправить своему начальнику. Во многих случаях участники проверяли сгенерированные ИИ ответы с помощью обычных поисковых запросов в интернете, используя такие ресурсы, как YouTube и Wikipedia.

Для компенсации недостатков генеративного ИИ работники должны понимать, как эти недостатки возникают. Однако не все участники были знакомы с ограничениями ИИ.

Фактически, исследование показало, что участники, сообщившие об уверенности в ИИ, прилагали меньше усилий для критического мышления, чем те, кто больше доверял своим знаниям и навыкам.