Компартия Китая пытается обуздать ИИ

Китайские власти усиливают контроль над развитием искусственного интеллекта, опасаясь, что эта технология может представлять угрозу власти Коммунистической партии Китая. При этом Пекин стремится сохранить конкурентоспособность своих ИИ-моделей на фоне активного развития технологий в США.

Как передает Vesti.az, об этом пишет The Wall Street Journal.

Как отмечает издание, руководство Китая рассматривает искусственный интеллект как критически важный элемент экономического и военного будущего страны. Однако ужесточение регулирования и недавние масштабные чистки онлайн-контента свидетельствуют о том, что власти одновременно опасаются дестабилизирующего влияния ИИ на общество. Особую тревогу у Пекина вызывают чат-боты, поскольку их способность генерировать самостоятельные ответы может подталкивать пользователей к сомнениям в легитимности и решениях правящей партии.

В ноябре в Китае были введены новые правила, согласно которым ИИ-чат-боты обязаны обучаться исключительно на политически отфильтрованных данных и проходить специальный идеологический тест перед публичным запуском. Кроме того, все тексты, видео и изображения, созданные с использованием искусственного интеллекта, должны быть четко маркированы и иметь возможность отслеживания. Это, по мнению властей, упрощает выявление и наказание лиц, распространяющих нежелательный или запрещенный контент.

Источники WSJ отмечают, что китайское руководство не заинтересовано в чрезмерно жестком регулировании ИИ. Слишком сильное давление на отрасль может привести к угасанию инноваций и поставить Китай в заведомо проигрышное положение в глобальной гонке искусственного интеллекта, особенно на фоне США, где применяется более либеральный подход к регулированию новых технологий.

В то же время Пекин не может позволить себе полностью ослабить контроль. По данным государственных СМИ, в начале этого года председатель КНР Си Цзиньпин заявил, что искусственный интеллект несет «беспрецедентные риски». Один из его заместителей сравнил развитие ИИ без эффективных мер безопасности с движением по автомагистрали без тормозов.

Несмотря на жесткие требования и цензурные ограничения, есть признаки того, что Китай пока находит баланс между контролем и развитием технологий. Китайские ИИ-модели занимают высокие позиции в международных рейтингах и демонстрируют конкурентоспособность как в целом, так и в отдельных сферах, включая компьютерное программирование. При этом такие модели жестко цензурируют ответы на чувствительные темы — массовые убийства на площади Тяньаньмэнь, вопросы прав человека и другие политически деликатные сюжеты. Большинство ведущих американских ИИ-моделей при этом остаются недоступными для пользователей в Китае.

Исследователи за пределами КНР, изучавшие как китайские, так и американские ИИ-системы, также указывают на определенные преимущества китайского подхода к регулированию. По их оценкам, китайские чат-боты по ряду показателей оказываются более безопасными: в их ответах реже встречаются сцены насилия и порнография, а также значительно ниже вероятность того, что они будут подталкивать пользователей к самоповреждениям или опасному поведению.