Власти ЕС и Британии проверяют xAI из за из за сексуализированных изображений

Европейские и британские регуляторы обратились к компании xAI с требованием разъяснить ситуацию вокруг распространения в соцсетях сексуализированных изображений, созданных при помощи искусственного интеллекта Grok. передает Vesti.az со ссылкой на The Guardian и BBC.

Речь идет о визуальном контенте с участием полуобнаженных женщин и несовершеннолетних, который пользователи начали массово публиковать после декабрьского обновления чат-бота. Grok не способен полностью «раздевать» людей, однако может изменять реальные фотографии, заменяя одежду на откровенное нижнее белье или представляя изображенных в сексуализированных позах.

Исследователи парижской некоммерческой организации AI Forensics проанализировали около 50 тысяч упоминаний аккаунта @Grok в соцсети X, а также примерно 20 тысяч изображений, созданных с его помощью в период с 25 декабря по 1 января. По их данным, не менее четверти всех упоминаний были запросами на генерацию изображений, в которых часто использовались слова «снять», «бикини» и «одежда». Более половины полученных изображений представляли людей — в основном женщин младше 30 лет — в «минимальной одежде», то есть в нижнем белье или бикини.

В воскресенье соцсеть X опубликовала предупреждения для пользователей о недопустимости использования Grok для создания незаконного контента, включая материалы с сексуализированным насилием над детьми. В политике компании xAI также содержится прямой запрет на «изображение людей в порнографических целях», отмечает Би-би-си. Тем не менее подобные изображения продолжают массово появляться в сети. В частности, на прошлой неделе была распространена обработанная чат-ботом фотография 14-летней актрисы сериала «Очень странные дела» Нелл Фишер в бикини с банановым принтом.

Еврокомиссия заявила, что уже проводит «очень серьезное» расследование жалоб, связанных с использованием Grok для создания изображений реальных женщин и детей в сексуализированном виде.

Британский регулятор в сфере связи Ofcom в понедельник, 5 декабря, сообщил, что «срочно связался с X и xAI, чтобы выяснить, какие шаги они предприняли для выполнения своих юридических обязанностей по защите пользователей в Великобритании». В ведомстве добавили, что решение о начале официального расследования будет принято после анализа ответа компании.