Швейцарские ученые тайно провели опыт по манипуляции людьми с помощью ИИ

Исследователи из Цюрихского университета вызвали возмущение интернет-пользователей и занятых в сфере ИИ специалистов, тайно используя ИИ-ботов на платформе Reddit. Боты выдавали себя за различных людей, включая переживших изнасилование, психологов и даже "темнокожего мужчину, выступающего против движения Black Lives Matter", с целью проверить, смогут ли они изменить мнения пользователей по спорным темам. Об этом сообщает издание Decrypt, передает Day.Az со ссылкой на Gazeta.ru.

Тайный эксперимент проводился в сабреддите r/ChangeMyView (CMV), где 3,8 млн пользователей обсуждают идеи, стремясь изменить свои или чужие взгляды путем аргументированного диалога.

С ноября 2024 года по март 2025-го ИИ-боты ответили на более чем 1000 публикаций, показав, по словам исследователей, "драматические результаты". Как сообщила исследовательская группа, за почти четыре месяца они разместили 1783 комментария и получили 137 "дельт". В контексте этого сабреддита "дельта" означает, что пользователь признал изменение своей точки зрения.

Модераторы сабреддита CMV, комментируя ситуацию, отметили, что их сообщество имеет давнюю историю сотрудничества с исследователями и обычно очень открыто для научных проектов. Однако они подчеркнули, что проведение экспериментов путем обмана пользователей является неприемлемым.

Они пояснили, что проблема не в том, что ИИ потенциально может создавать более убедительные аргументы, а в том, что пользователи были введены в заблуждение. Один из модераторов сравнил CMV с шахматными турнирами между людьми, где важна именно интеракция с другим человеком. Модератор добавил, что с точки зрения CMV контент, сгенерированный ИИ, не считается "осмысленным", отличая его от "подлинного" человеческого взаимодействия.

Исследователи сообщили модераторам о своем эксперименте только после завершения сбора данных. Реакция модераторов, как сообщается, была крайне негативной. Они заявили, что считают эксперимент неправильным и аргумент "такого раньше не делали" не является оправданием.

В своем подробном заявлении модераторы выразили мнение, что если такие организации, как OpenAI, способны разрабатывать более этичные исследовательские протоколы, то и от исследователей Цюрихского университета следовало ожидать того же. Они указали на то, что риски психологических манипуляций с помощью больших языковых моделей являются хорошо изученной темой, и поэтому проведение экспериментов на людях без их согласия было излишним.

Главный юрисконсульт Reddit, Бен Ли, резко осудил действия группы из Цюрихского университета, заявив, что они "глубоко неверны" как с моральной, так и с юридической точки зрения. Он написал, что эксперимент нарушает нормы академических исследований, нормы прав человека, а также пользовательское соглашение и правила Reddit, в дополнение к правилам самого сабреддита. В источнике отмечается, что Ли не уточнил, почему именно данное исследование является нарушением прав человека.

По словам модераторов Reddit, обман со стороны ботов выходил за рамки простого взаимодействия. Исследователи, как сообщается, использовали отдельный ИИ для анализа истории публикаций целевых пользователей, извлекая личные данные, такие как возраст, пол, этническая принадлежность, местоположение и политические убеждения. Это делалось для создания более убедительных, персонализированных ответов, что сравнивается с методами, используемыми компаниями социальных сетей.

Целью исследования было сравнение трех категорий ответов: общих, ответов, настроенных на убедительный стиль сообщества, и персонализированных ответов, созданных на основе анализа публичной информации о пользователях.