Глобальный эксперимент над поколением

Эксперт об ИИ-буме, тревогах детей и новых рисках XXI века

Искусственный интеллект стремительно входит в жизнь детей, открывая новые возможности, но одновременно создавая риски, к которым общество и государственные институты пока не готовы. Почему защита несовершеннолетних должна стать приоритетом при разработке и регулировании ИИ, какие угрозы уже сегодня несут нейросети и что необходимо изменить, чтобы технологии не превратились в источник новых опасностей для поколения Альфа

Стремительное развитие искусственного интеллекта перешагнуло порог школьных классов и детских комнат. Согласно последним глобальным исследованиям, дети осваивают искусственный интеллект (ИИ) быстрее взрослых более чем в три раза. Миллионы подростков обращаются к алгоритмам за помощью в учебе и личными советами, пока законодательство и защитные механизмы катастрофически отстают.

О том, как выстроить безопасную среду для поколения Альфа (родившихся после 2010 года), почему технологии опережают защиту и что нужно менять в подходах к защите прав детей, корреспондент газеты «Бакинский рабочий» поговорил с исполнительным директором Общественной организации социальных инициатив ÜmidliGələcək («Надежное будущее»), международным экспертом по защите прав детей Кямалей Ашумовой.

- Cегодня мы наблюдаем беспрецедентный цифровой сдвиг. Аналитические данные показывают, что десятки миллионов детей в мире уже активно используют нейросети, опережая взрослых по скорости освоения ИИ более чем в три раза. Каждый десятый ребенок признается, что ищет у ИИ ответы на глубоко личные, волнующие его вопросы. Как вы оцениваете этот феномен?

- Мы действительно сталкиваемся с новым социальным явлением. Дети по своей природе любопытны и лишены технологического барьера, они принимают новые инструменты моментально. И тот факт, что миллионы подростков используют ИИ для помощи в учебе, кажется на первый взгляд позитивным трендом.

Однако глубокую тревогу вызывает второй аспект, когда ребенок начинает доверительно транслировать алгоритму свои страхи и эмоциональные проблемы. Почему это происходит? Потому что ИИ «не осудит», доступен 24/7 и создает иллюзию анонимного собеседника. Но важно понимать: нейросеть - это не психолог, не родитель и не педагог. У нее нет эмпатии и понимания контекста безопасности. Когда несовершеннолетний ищет эмоциональную поддержку у программы, он попадает в зону высокой уязвимости, где некому вовремя перехватить кризисный сигнал.

- Глобальные опросы показывают, что сами дети прекрасно осознают угрозы. Треть подростков боятся применения ИИ для мошенничества и дезинформации, а каждый четвертый опасается, что его фото или видео могут быть превращены в сексуализированные дипфейки. Насколько остро эта тема стоит сегодня на международной арене?

- Это колоссальный вызов. Цифровой буллинг существовал и раньше, но с появлением генеративного ИИ он вышел на пугающий уровень. Создание фальшивого контента сегодня занимает секунды и требует лишь пары кликов.

Для подростка то, что его изображение может быть искажено и распространено без его согласия, - это сильнейшая травма. Мы видим, как растет детская тревожность. Дети чувствуют, что их личное пространство и приватность больше не защищены. И самое опасное здесь - отсутствие понятных механизмов «отзыва» информации или оперативной блокировки вредоносных алгоритмов на ранних этапах.

- Международные эксперты называют происходящее «глобальным экспериментом над целым поколением». Разработчики ИИ создают бизнес-модели, ориентируясь на взрослый рынок, а безопасность детей учитывается в последнюю очередь. В большинстве механизмов регулирования ИИ права ребенка вообще не прописаны как приоритет. Почему мир допускает эту ошибку?

- К сожалению, это классическая проблема: коммерческие технологии и IT-рынок всегда двигаются со скоростью ракеты, а нормативно-правовая база - со скоростью пешехода.

Дети подвергаются воздействию ИИ на всех уровнях - от сбора их персональных данных до архитектуры алгоритмов, удерживающих внимание. При этом у ребенка физически нет возможностей оспорить это воздействие или защитить себя юридически. Когда разработчики внедряют нейросети, принцип Safety by Design («безопасность на этапе проектирования») должен быть обязательным стандартом, а не добровольной опцией. Если система доступна несовершеннолетнему, она по умолчанию должна иметь жесткие фильтры, защищающие его когнитивное развитие и психику.

- Накануне первого Глобального диалога по управлению ИИ на площадке ООН экспертное сообщество призывало закрепить права детей в глобальной системе регулирования ИИ. Каковы, на ваш взгляд, должны быть ключевые шаги правительств и частного сектора в этот решающий момент?

- Мы находимся на развилке. Решения, которые международное сообщество примет сегодня, определят безопасность и благополучие детей на десятилетия вперед.

На мой взгляд, необходимы четыре фундаментальных шага. В первую очередь, правовое закрепление субъектности ребенка. В любых международных декларациях и законах по регулированию ИИ права и безопасность несовершеннолетних должны быть вынесены в отдельный, приоритетный блок.

Во-вторых, необходим обязательный независимый аудит ИИ-продуктов. Любая технология, выходящая на массовый рынок, должна проходить оценку рисков для детской аудитории.

Немаловажен и третий шаг - инвестиции в исследования. Мы пока до конца не знаем долгосрочных последствий влияния ИИ на когнитивные навыки и эмоциональную сферу детей. Нужны независимые научные мониторинги.

И, наконец, по моему мнению, необычайно важно развитие альтернативных институтов поддержки. Каким бы развитым ни был ИИ, он не заменит квалифицированного специалиста. Живые службы поддержки, детские «горячие линии» и школьные психологи должны быть легкодоступны, чтобы ребенок знал: в реальном мире есть взрослые, готовые выслушать его и действительно защитить.

Искусственный интеллект должен стать безопасным инструментом развития для ребенка, а не угрозой его будущему.