Современный ИИ становится все менее понятным человеку

Учёные из Microsoft и Федеральной политехнической школы Лозанны (EPFL) предупредили, что стремительное развитие искусственного интеллекта может привести к утрате человеком способности понимать и контролировать работу таких систем, пкередает Vesti.az со ссылкой на зарубежные СМИ.

Главный научный сотрудник Microsoft Эрик Хорвиц и исследователь EPFL Роберт Вест отмечают, что современные модели становятся всё более эффективными, однако логика принятия ими решений остается всё менее прозрачной для человека.

Авторы называют это явление «операционной непрозрачностью»: системы демонстрируют предсказуемые результаты, но механизмы, которые приводят к этим результатам, становятся труднообъяснимыми. По мнению исследователей, разработчики должны внедрять в ИИ встроенные механизмы, позволяющие объяснять принятые решения.

Дополнительную обеспокоенность вызывает то, что современные модели всё чаще используются для создания и совершенствования других систем искусственного интеллекта. Такой рекурсивный процесс ускоряет развитие технологий, но одновременно усложняет понимание происходящих внутри моделей процессов.

Еще одной потенциальной угрозой исследователи называют «интеракционную непрозрачность». По мере того как ИИ-агенты начинают взаимодействовать друг с другом, их способы обмена информацией могут всё сильнее отходить от привычных человеку языковых и логических моделей.

Особое внимание авторы уделяют долгоживущим адаптивным ИИ-системам, которые постепенно формируют детальные модели поведения пользователей, включая их предпочтения, страхи, уровень неопределенности и социальные потребности.

По мнению Хорвица и Веста, основная опасность заключается не столько в росте возможностей искусственного интеллекта, сколько в постепенной утрате человеком способности интерпретировать и направлять работу ИИ по мере его интеграции в повседневную жизнь.