Подросткам запретят общение с виртуальными персонажами на Character.ai

Платформа Character.ai, популярная среди подростков за возможность общения с виртуальными персонажами на основе искусственного интеллекта, объявила о введении возрастных ограничений.

С 25 ноября пользователи младше 18 лет больше не смогут вести диалоги с чат-ботами, а лишь создавать контент, например, видеоролики, с участием своих персонажей.

Решение принято после серии скандалов и судебных исков в США, в которых родителей обеспокоило влияние таких сервисов на психику подростков. В одном из исков речь идет о трагическом случае смерти несовершеннолетнего, а саму платформу родители называют «реальной угрозой» для детей и молодых людей.

Компания объяснила изменения реакцией на обращения регулирующих органов, специалистов по интернет-безопасности и родителей. По словам представителей Character.ai, новые правила направлены на повышение ответственности и защиту несовершеннолетних пользователей.

Эксперты в области цифровой безопасности отмечают, что подобные чат-боты способны имитировать дружеские отношения и эмоциональную поддержку, однако часто выдают недостоверную информацию и могут формировать зависимость. Они считают, что ограничения должны были быть введены еще на этапе запуска платформы.

Основанная в 2021 году, Character.ai быстро набрала популярность благодаря возможности создавать и персонализировать виртуальных собеседников. После волны критики компания фактически пересматривает подход к взаимодействию с несовершеннолетними, стремясь сохранить репутацию и снизить риски для пользователей.

Источник: BBC

Джамиля Суджадинова