Дипфейки и дезинформация на основе ИИ стали составной частью гибридных угроз Рамид Намазов

Дипфейки и дезинформация на основе искусственного интеллекта, наряду с традиционными кибератаками, уже должны оцениваться как составная часть арсенала гибридных угроз. Они могут использоваться как для подрыва общественного доверия и нанесения ущерба авторитету госинститутов, так и для обмана и манипулирования отдельными лицами, в особенности детьми.

Как передает Day.Az со ссылкой на Trend, об этом заявил председатель Временной комиссии Милли Меджлиса по противодействию иностранному вмешательству и гибридным угрозам Рамид Намазов на прошедших в парламенте общественных обсуждениях на тему "Цифровое развитие, искусственный интеллект и защита детей от вредного воздействия на платформах социальных сетей".

Он отметил, что в стране уже создан Национальный суперкомпьютерный центр, и это позволяет безопасно обучать сложные модели ИИ и управлять ими внутри страны, независимо от зарубежных облачных сервисов. По его словам, это стратегический шаг как с точки зрения национальной безопасности, так и цифрового суверенитета, и принадлежащие государству чувствительные данные теперь могут обрабатываться внутри страны.

Р. Намазов указал, что развитие искусственного интеллекта создает широкие возможности для повышения эффективности государственного управления, оптимизации процессов принятия решений и диверсификации экономики.

Наряду этим, председатель комиссии подчеркнул, что на фоне угроз, создаваемых посредством искусственного интеллекта, на передний план выходит концепция цифровой устойчивости, предполагающая не только кибероборону, но и быстрое восстановление после киберинцидентов. Он отметил, что растущая цифровая зависимость и геополитическое положение страны обусловливают необходимость фундаментального усиления стратегии кибербезопасности, подготовки квалифицированных кадров и внедрения механизмов управления рисками на национальном уровне.

Р. Намазов довел до внимания, что одними из наиболее сложных видов угроз, создаваемых ИИ, являются дипфейки (deepfake) и синтетические медиа. По его словам, решения в сфере искусственного интеллекта уже могут создавать настолько реалистичные и полностью функциональные поддельные аудио- и видеоматериалы, что скорость их распространения порой превышает способность госструктур или механизмов проверки фактов реагировать на них. Он заявил, что это не просто технологический феномен, а инструмент, ставший одним из самых гибких и трудноотслеживаемых средств современных гибридных угроз. Р. Намазов считает, что дипфейки и дезинформация на основе искусственного интеллекта должны рассматриваться наравне с традиционными кибератаками, при этом необходимо учитывать, что эти средства используются для подрыва общественного доверия, нанесения удара по авторитету госинститутов, а также для обмана и манипулирования отдельными лицами, в том числе детьми.

По его словам, дезинформация и риски, связанные с искусственным интеллектом, могут также оцениваться как отдельная категория угроз. Р. Намазов отметил, что предусмотренные в рамках Плана мероприятий на 2026-2028 годы системы автоматического обнаружения запрещенного контента посредством искусственного интеллекта нацелены именно на реагирование на эти угрозы нового поколения. Председатель комиссии сообщил, что следующим важным шагом является создание до конца 2028 года больших языковых моделей для азербайджанского языка. Поскольку большинство существующих в мире больших языковых моделей обучены на английском и еще нескольких доминирующих языках, качественные услуги искусственного интеллекта на азербайджанском языке ограничены. Он подчеркнул, что создание сильных моделей на азербайджанском языке еще больше укрепит культурный и лингвистический суверенитет.

Р. Намазов отметил, что Стратегия в области искусственного интеллекта охватывает четыре основных направления. К ним относятся совершенствование управления искусственным интеллектом, управление данными и развитие вычислительной инфраструктуры, усиление кадрового потенциала, а также общественное просвещение.

По его словам, информирование общества не только о возможностях, но и о рисках ИИ, а также защита этических принципов определены в стратегии как одна из приоритетных задач государства. Созданная в этих целях Академия искусственного интеллекта нацелена на подготовку 500 инженеров посредством программ, соответствующих международным стандартам, и формирование сообщества искусственного интеллекта численностью 3 тысячи человек.

Р. Намазов добавил, что стратегия Азербайджана в области искусственного интеллекта, наряду с обеспечением технологического суверенитета в специальных сферах, опирается на сбалансированную модель развития, при одновременном использовании преимуществ международного сотрудничества по другим направлениям.