Icma.az
close
up
AZ
Menu

Рашад Садыхов объяснил первое поражение за полгода

История, которую пытались похоронить: трагедия туркменов Ирака фильм AnewZ ВИДЕО

Осторожно, Яваш! наша корреспонденция

Германия ставит на Турцию. А Эрдоган диктует повестку новая геополитика

Трамп заявил об уничтожении большой подводной лодки с наркотиками

Белорусские спецслужбы ведут работу по поводу возможных контактов Лукашенко и Зеленского

Пропавшую в Ереване чеченку Айшат Баймурадову нашли мертвой

Миллионы долларов и драгоценности нашли у бывшего премьера и других экс чиновников Грузии

С какого возраста можно начинать пить кофе?

Турция успешно испытала ракеты класса воздух воздух ФОТО/ВИДЕО

СМИ: Ожидается арест экс главы МНБ Эльдара Махмудова Minval Politika

Симонян анонсировал встречу с Гафаровой Minval Politika

Память, запечатлённая в звезде! Посвящается памяти великого мастера Таира Салахова (ФОТО)

Азербайджанские борцы ждут старта на молодежном ЧМ

Telegram анонсировал масштабное обновление Историй

Почему американцы массово отказываются от США?

Туфан Эрхюрман избран президентом ТРСК

В Азербайджане пройдет чемпионат страны по национальной борьбе

Путин требует от Украины сдать Донбасс для мирной сделки

Армяне протестуют у посольства России

Швейцарские ученые тайно провели опыт по манипуляции людьми с помощью ИИ

Швейцарские ученые тайно провели опыт по манипуляции людьми с помощью ИИ

Icma.az информирует, ссылаясь на сайт Day.az.

Исследователи из Цюрихского университета вызвали возмущение интернет-пользователей и занятых в сфере ИИ специалистов, тайно используя ИИ-ботов на платформе Reddit. Боты выдавали себя за различных людей, включая переживших изнасилование, психологов и даже "темнокожего мужчину, выступающего против движения Black Lives Matter", с целью проверить, смогут ли они изменить мнения пользователей по спорным темам. Об этом сообщает издание Decrypt, передает Day.Az со ссылкой на Gazeta.ru.

Тайный эксперимент проводился в сабреддите r/ChangeMyView (CMV), где 3,8 млн пользователей обсуждают идеи, стремясь изменить свои или чужие взгляды путем аргументированного диалога.

С ноября 2024 года по март 2025-го ИИ-боты ответили на более чем 1000 публикаций, показав, по словам исследователей, "драматические результаты". Как сообщила исследовательская группа, за почти четыре месяца они разместили 1783 комментария и получили 137 "дельт". В контексте этого сабреддита "дельта" означает, что пользователь признал изменение своей точки зрения.

Модераторы сабреддита CMV, комментируя ситуацию, отметили, что их сообщество имеет давнюю историю сотрудничества с исследователями и обычно очень открыто для научных проектов. Однако они подчеркнули, что проведение экспериментов путем обмана пользователей является неприемлемым.

Они пояснили, что проблема не в том, что ИИ потенциально может создавать более убедительные аргументы, а в том, что пользователи были введены в заблуждение. Один из модераторов сравнил CMV с шахматными турнирами между людьми, где важна именно интеракция с другим человеком. Модератор добавил, что с точки зрения CMV контент, сгенерированный ИИ, не считается "осмысленным", отличая его от "подлинного" человеческого взаимодействия.

Исследователи сообщили модераторам о своем эксперименте только после завершения сбора данных. Реакция модераторов, как сообщается, была крайне негативной. Они заявили, что считают эксперимент неправильным и аргумент "такого раньше не делали" не является оправданием.

В своем подробном заявлении модераторы выразили мнение, что если такие организации, как OpenAI, способны разрабатывать более этичные исследовательские протоколы, то и от исследователей Цюрихского университета следовало ожидать того же. Они указали на то, что риски психологических манипуляций с помощью больших языковых моделей являются хорошо изученной темой, и поэтому проведение экспериментов на людях без их согласия было излишним.

Главный юрисконсульт Reddit, Бен Ли, резко осудил действия группы из Цюрихского университета, заявив, что они "глубоко неверны" как с моральной, так и с юридической точки зрения. Он написал, что эксперимент нарушает нормы академических исследований, нормы прав человека, а также пользовательское соглашение и правила Reddit, в дополнение к правилам самого сабреддита. В источнике отмечается, что Ли не уточнил, почему именно данное исследование является нарушением прав человека.

По словам модераторов Reddit, обман со стороны ботов выходил за рамки простого взаимодействия. Исследователи, как сообщается, использовали отдельный ИИ для анализа истории публикаций целевых пользователей, извлекая личные данные, такие как возраст, пол, этническая принадлежность, местоположение и политические убеждения. Это делалось для создания более убедительных, персонализированных ответов, что сравнивается с методами, используемыми компаниями социальных сетей.

Целью исследования было сравнение трех категорий ответов: общих, ответов, настроенных на убедительный стиль сообщества, и персонализированных ответов, созданных на основе анализа публичной информации о пользователях.

Следите за обновлениями и свежими новостями на Icma.az, где мы продолжаем следить за ситуацией и публиковать самую актуальную информацию.
seeПросмотров:165
embedИсточник:https://news.day.az
archiveЭта новость заархивирована с источника 01 Июня 2025 14:04
0 Комментариев
Войдите, чтобы оставлять комментарии...
Будьте первыми, кто ответит на публикацию...
topСамые читаемые
Самые обсуждаемые события прямо сейчас

Рашад Садыхов объяснил первое поражение за полгода

19 Октября 2025 18:57see239

История, которую пытались похоронить: трагедия туркменов Ирака фильм AnewZ ВИДЕО

20 Октября 2025 12:29see199

Осторожно, Яваш! наша корреспонденция

19 Октября 2025 15:09see192

Германия ставит на Турцию. А Эрдоган диктует повестку новая геополитика

19 Октября 2025 00:10see187

Трамп заявил об уничтожении большой подводной лодки с наркотиками

18 Октября 2025 23:26see179

Белорусские спецслужбы ведут работу по поводу возможных контактов Лукашенко и Зеленского

20 Октября 2025 00:49see167

Пропавшую в Ереване чеченку Айшат Баймурадову нашли мертвой

20 Октября 2025 12:30see164

Миллионы долларов и драгоценности нашли у бывшего премьера и других экс чиновников Грузии

19 Октября 2025 16:28see164

С какого возраста можно начинать пить кофе?

19 Октября 2025 08:01see156

Турция успешно испытала ракеты класса воздух воздух ФОТО/ВИДЕО

20 Октября 2025 11:17see153

СМИ: Ожидается арест экс главы МНБ Эльдара Махмудова Minval Politika

19 Октября 2025 14:22see151

Симонян анонсировал встречу с Гафаровой Minval Politika

19 Октября 2025 15:30see147

Память, запечатлённая в звезде! Посвящается памяти великого мастера Таира Салахова (ФОТО)

19 Октября 2025 18:47see142

Азербайджанские борцы ждут старта на молодежном ЧМ

20 Октября 2025 00:12see138

Telegram анонсировал масштабное обновление Историй

19 Октября 2025 15:54see135

Почему американцы массово отказываются от США?

18 Октября 2025 22:25see131

Туфан Эрхюрман избран президентом ТРСК

19 Октября 2025 23:58see130

В Азербайджане пройдет чемпионат страны по национальной борьбе

19 Октября 2025 03:32see130

Путин требует от Украины сдать Донбасс для мирной сделки

19 Октября 2025 04:31see128

Армяне протестуют у посольства России

20 Октября 2025 13:18see127
newsПоследние новости
Самые свежие и актуальные события дня