Наши дети под атакой ИИ контента МНЕНИЕ ЭКСПЕРТА ВИДЕО

Искусственный интеллект, все стремительнее развиваясь, постепенно захватывает большую часть контента, который ежедневно потребляется детьми.

Если ещё недавно ИИ-видео казались открытием, то сегодня они занимают отдельные ленты азербайджанских рекомендаций именно детей, маскируются под мультфильмы и выглядят достаточно убедительно.

Тем не менее, вместе с ростом технологических возможностей стремительно увеличивается и количество проблематичного контента, особенно того, что содержит сцены агрессии, вульгарные образы или действия, противоречащие базовым этическим нормам. И именно это становится одной из основных проблем, вытекающих от внедрения искусственного интеллекта в «детский» контент.

@milkangel4 #aicat #fyp #foryourpage #character #story ♬ original sound - MilkAngel

Одной из особенностей ИИ-видео является то, что они создаются не художниками, не сценаристами, а алгоритмами, которые опираются на огромные базы данных, не различая морально приемлемое от неприемлемого. Их главной целью является именно стимуляция ярких эмоций - поскольку дети эмоционально реагируют даже на краткие вспышки визуальной новизны, ИИ невольно «учится» создавать именно то, что вызывает наибольший отклик.

Так появляется контент, где мультяшные персонажи совершают насилие, предметы изображаются с кровавыми деталями, а сюжет выстраивается на действиях, которые ребёнок может интерпретировать буквально.

И главной проблемой является тот факт, что такие видео часто выглядят безобидно на первый взгляд, начиная от формата, цвета и стилистики – все напоминает обычный детский контент.

@mystery.cat7

♬ original sound - ??????? ???

Не менее важным моментом также являются масштабы производства контента. То есть, если человек не может физически создать тысячи видео за день, то именно искусственный интеллект на это способен. Поэтому объём контента, содержащего этически сомнительные сцены, растёт в геометрической прогрессии

Ситуацию осложняет и то, что ИИ-видео часто избегают прямой модерации. Алгоритм может изменить изображение достаточно, чтобы обойти фильтры, но оставить в нём те элементы, которые делают контент неприемлемым для детской аудитории. Кроме того, многие каналы, выпускающие данный контент, также преподносят его как «детский», таким образом, обходя фильтрацию и родительский контроль.

Посмотреть эту публикацию в Instagram

Публикация от ZingTail (@zing_tail)

К сожалению, дети не всегда способны отличить случайно сгенерированную жестокость от художественной условности, не понимают принципов работы ИИ и не могут критически оценить увиденное. Именно поэтому мы решили обратиться за профессиональным взглядом к психологу Айгюль Меликовой, специализирующейся на семейной терапии.

- Какой тип контента дети воспринимают наиболее уязвимо?

- Контент, который является более напряженным и остросюжетным, агрессивным или содержит элементы соревнований, повышает чувствительность детей и оказывает на них более негативное влияние.

- Чем опасны ИИ-видео, которые выглядят мультяшно, но содержат элементы насилия или искажённые образы?

- К сожалению, сегодня всё больше анимационных роликов, которые, несмотря на указанную низкую возрастную категорию, выглядят как кинофильм и рассчитаны на более старший возраст. И, к сожалению, эта анимация появляется перед детьми не только посредством искусственного интеллекта, но также в играх и рекламных роликах. Подобные идеи приводят к тому, что дети раньше начинают воспринимать насилие, и это насилие проявляется не только в форме физической агрессии, но и в росте сексуальной агрессии.

- Как регулярное столкновение с агрессивным или аморальным контентом отражается на поведении и эмоциональном состоянии ребёнка?

- Регулярное столкновение с агрессивным и аморальным контентом, безусловно, серьезно влияет как на поведение, так и на эмоциональное состояние детей. У каждой возрастной категории есть своя стадия развития, и когда ребенок усваивает модели поведения, превышающие его возраст, он не может осмыслить, что является правильным, а что нет. К тому же, у детей до шести лет нет ложных, критических суждений. Всё, что они слышат и видят, они воспринимают как реальность. И учитывая наши моральные и нравственные ценности, такие мысли автоматически приводят к тому, что дети слишком рано понимают и перенимают это поведение. Например, они начинают более активно демонстрировать такое поведение, как раннее вступление в половые отношения или проявление физического насилия, жестокости по отношению к кому-либо.

- Как формировать у ребёнка критическое мышление по отношению к контенту, который он видит в сети?

- Формирование критического мышления происходит под контролем родителей. Потому что родитель должен понимать, что у его ребенка еще не сформирован анализ того, что является правильным и неправильным. Поэтому, вместо того, чтобы говорить: "Нет, нельзя смотреть это!", нужно спрашивать: "Что ты увидел в том, что ты посмотрел? Что ты об этом подумал? Насколько, по твоему мнению, это было правильно? Или какие стороны ты посчитал правильными?" — таким образом, они могут немного углубить понимание ребенком правильного и неправильного.

- Есть ли разница между реакцией ребёнка на обычное агрессивное видео и на агрессивное видео, созданное ИИ?

- Наши эмоции несут генетический фактор, потому здесь нет разницы, усваивает ли это ребенок из контента, созданного искусственным интеллектом, или из обычных видео. В любом случае, поскольку мозг видит всё в быстро меняющемся, струящемся формате с меняющимися цветовыми оттенками, он воспринимает увиденное как реальность. И в этом случае агрессия уже не меняет своей сути или степени; поэтому между обычным видео и видео, созданным искусственным интеллектом, нет очень серьезной разницы.

Так, стремительное развитие искусственного интеллекта неизбежно меняет и азербайджанскую медиасреду, в которой растут современные дети, однако вместе с новыми возможностями ИИ приносит и новые риски. Маскируясь под привычный детский формат, ИИ-видео всё чаще скрывают внутри агрессию, искажённые образы и модели поведения, которые ребёнок не в состоянии критически оценить.

Стоит помнить, что младшие зрители воспринимают увиденное буквально, поскольку их критическое мышление ещё не сформировано. В результате насилие или искажённые поведенческие модели начинают восприниматься как норма, что может отражаться и на эмоциональной стабильности ребёнка, и на его повседневном поведении.

Таким образом, безопасность наших детей в эпоху развивающихся цифровых медиа становится задачей, требующей не только технологических решений, но и активного, внимательного сопровождения со стороны взрослых. Лишь сочетание грамотной модерации, родительского контроля и формирования критического мышления позволит защитить детей от скрытых угроз, которые приносит новая волна ИИ-контента в азербайджанском сегменте.

Джамиля Суджадинова