В ООН предупреждают о нарастающих угрозах ИИ для детей

В сети распространяются огромные объемы вредоносного контента, создаваемого с помощью искусственного интеллекта. В связи с этим структуры ООН выступили со срочным призывом принять комплекс мер для защиты детей от насилия, эксплуатации и психологических травм.

Как передает Day.A, Космас Завазава, директор Бюро развития электросвязи Международного союза электросвязи (МСЭ) - одного из агентств, подготовивших совместное заявление с рекомендациями и руководящими принципами, - рассказал о широком спектре угроз, с которыми сталкиваются дети. Речь идет о груминге (долговременное установление взрослым близких, доверительных отношений с ребенком, а также с членами его семьи с целью завоевания доверия и последующего совращения), дипфейках (видео- или аудиозаписи, которые манипулируют внешностью человека), внедрении вредоносных функций в цифровые сервисы, кибербуллинге (интернет-травля, запугивание с использованием цифровых технологий) и доступе к неприемлемому контенту.

Организации, работающие в сфере защиты детей, сообщают, что злоумышленники могут использовать ИИ для анализа поведения ребенка в интернете, его эмоционального состояния и интересов, чтобы точнее выстраивать стратегию вовлечения и манипуляции.

В начале 2026 года целый ряд структур ООН, занимающихся вопросами защиты детей, подписали Совместное заявление об искусственном интеллекте и правах ребенка. В документе прямо говорится о серьезных рисках и о том, что общество пока не готово с ними справиться.

В заявлении подчеркивается низкий уровень знаний об ИИ среди детей, учителей, родителей и опекунов, а также нехватка технической подготовки у государственных органов в вопросах регулирования ИИ, защиты данных и оценки влияния технологий на права ребенка.

Отдельное внимание уделяется роли технологических гигантов. В заявлении отмечается, что большинство инструментов на базе ИИ - вместе с лежащими в их основе моделями, методами и системами - в настоящее время разрабатываются без учета интересов детей и их благополучия.

"Мы действительно обеспокоены и хотим, чтобы частный сектор был вовлеченным, активным участником и стал частью общей истории, которую мы пишем вместе с другими агентствами ООН и партнерами, считающими, что технологии могут быть инструментом развития, но могут и приводить к ущербу", - заявил Завазава.

При этом он выразил уверенность, что компании готовы делать свои продукты безопаснее: "Сначала мы чувствовали, что они опасаются задушить инновации, но наш посыл очень ясен: при ответственном использовании ИИ можно получать прибыль, вести бизнес и сохранять долю рынка".

"Частный сектор - наш партнер, но мы обязаны бить тревогу, когда видим, что технологии могут привести к нежелательным последствиям", - добавил представитель МСЭ.