Цифра с человеческим лицом или черный ящик алгоритмов?

Размышления после форума SOCGOV 2026 в Ханкенди

В этом месяце Ханкенди стал центром притяжения для ведущих экспертов в области цифровизации. Международный форум «SOCGOV 2026: Цифровая аналитика для умного управления», организованный Агентством DOST и Министерством труда и социальной защиты населения, собрал около 300 делегатов из 12 стран мира.

Символизм локации очевиден: возрождаемый Карабах строится на принципах Smart City («Умный город»), и где, как не здесь, обсуждать будущее государственного управления.

Повестка форума, включенного в официальный календарь Международной ассоциации социального обеспечения (МАСО), выглядела амбициозно: искусственный интеллект (ИИ), большие данные (Big Data), этика алгоритмов и защита прав человека. Кульминацией мероприятия стало принятие Итогового заявления и вручение премии AI4DOST Social Award, на которую претендовали 84 отечественных и международных проекта.

Событие прошло триумфально, однако представители экспертного сообщества углядели определенные вызовы. Важно учитывать, что Минтруда обладает, пожалуй, самой мощной и разветвленной ИТ-инфраструктурой в республике. Экосистема DOST и подсистемы платформы e-sosial ежедневно принимают решения, без преувеличения, определяющие человеческие судьбы. Проактивное назначение пенсий, автоматический расчет пособий, алгоритмы социального скоринга для определения адресной социальной помощи - все это работает на основе ИИ и огромных массивов данных. И вследствие этого страна накопила значительный практический опыт «полевого» внедрения ИИ в госсекторе.

Но почему этот опыт не был представлен в виде конкретных примеров на форуме? Чему научились наши ведомства, управляя цифровыми гигантами?

По мнению главы Азербайджанского интернет-форума Османа Гюндюза, дискуссию пора переводить от обсуждения возможностей ИИ к анализу реальных рисков, с которыми уже пришлось столкнуться, и способов их минимизации.

«Упоминание в заявлении возможностей анализа данных и искусственного интеллекта в государственном секторе и социальном управлении, а также акцент на правах человека, прозрачности и защите персональных данных - безусловно, позитивный шаг, - отмечает аналитик, эксперт в области высоких технологий Осман Гюндюз. - Однако, откровенно говоря, лично я ожидал от документа большего. Несмотря на логичность заявленных принципов, они остаются слишком общими. В мире уже немало подобных деклараций, содержащих общие призывы к ответственному использованию ИИ. Между тем Министерство труда и социальной защиты населения и система DOST располагают развитой ИТ-инфраструктурой, широким спектром цифровых услуг и решениями на основе искусственного интеллекта.

Эти учреждения предоставляют цифровые услуги на основе данных и искусственного интеллекта, используя соответствующие системы для принятия решений, непосредственно влияющих на жизнь людей. Здесь сосредоточена крупнейшая в стране ИТ-инфраструктура и, насколько мне известно, накоплен значительный практический опыт. Поэтому в документе можно было ожидать конкретных выводов и результатов, основанных на этом опыте. К сожалению, они остались за рамками документа.

Возникает закономерный вопрос: какие уроки извлечены из использования масштабной ИТ-инфраструктуры и ИИ в этих учреждениях? Какие решения упростили жизнь граждан, а какие, напротив, создали проблемы? Какие риски выявила цифровизация социальной сферы в Азербайджане и какие меры предлагаются для их минимизации?

Например, препятствовала ли неверная информация в системе или решение, принятое с участием ИИ, использованию гражданином социальной помощи, пенсий и других прав? Если да, то что предлагают эти учреждения сейчас? Если ИИ допустил ошибку, может ли гражданин в таком случае в понятной форме узнать причину отказа, добиться исправления ошибки и потребовать пересмотра решения уполномоченным лицом?

Не хочу этим затмевать важность такого масштабного события. Я просто считаю уместным подчеркнуть ожидания, с точки зрения потенциальных возможностей учреждения, если обсуждение на эту тему будет начато в таком формате. Другими словами, от системы с таким большим практическим опытом можно ожидать, помимо уже известных принципов, представления местных рисков, извлеченных уроков и конкретных дальнейших шагов. Вызовы, вытекающие из опыта, также могут быть адресованы глобальному миру».

Любой искусственный интеллект зависим от качества входных данных. Что происходит, если в интегрированных базах данных содержится устаревшая или ошибочная информация? ИИ непреклонно выдаст отказ в социальной помощи. Главная проблема современных ИИ-систем в госуправлении - это эффект «черного ящика». Гражданин, получивший автоматический отказ, имеет право на понятное объяснение (внедряемый в мире принцип Right to Explanation). Формулировка «отказано системой» ущемляет права человека. Заявитель должен видеть четкий и прозрачный чек-лист причин.

Более того, критически важен статус принципа Human-in-the-loop («человек в контуре»): может ли гражданин в случае несогласия с решением ИИ потребовать, чтобы его дело в обязательном порядке и в понятные сроки пересмотрел живой, сопереживающий инспектор DOST?

Форум в Ханкенди показал, что наша страна способна задавать глобальные тренды в цифровизации социальной сферы. Но чтобы стать истинным лидером, отечественной цифровой экосистеме, по экспертным оценкам, необходимо перерасти этап презентации успехов и перейти к открытой технологической рефлексии. Вместо повторения общемировых тезисов о важности защиты персональных данных, Азербайджан мог бы экспортировать на международные площадки готовые фреймворки по ремонту и аудиту алгоритмов на предмет предвзятости, отчеты об алгоритмических ошибках и модели гибридного обслуживания.

По убеждению специалистов, SOCGOV 2026 заложил отличную базу в этой сфере. Но будущие дискуссии в нашей стране должны стать более прагматичными и смелыми. Доверие граждан к электронному государству строится не на заявлении о безошибочности роботов, а на прозрачности механизмов, которые защищают человека от их.