Icma.az
close
up
AZ
Menu

РФ ночью атаковала Запорожье и Днепропетровскую область: повреждены здания, возникли пожары ВИДЕО

Мадагаскар взорвался: армия смела старый порядок и открыла ворота новой Африке АНАЛИЗ от Baku Network

Россия запускает беспилотники у границ НАТО

Встреча Трампа и Путина обернулась кошмаром для Евросоюза

Рашад Садыхов объяснил первое поражение за полгода

Удар Израиля разозлил Трампа

Германия ставит на Турцию. А Эрдоган диктует повестку новая геополитика

Трамп заявил об уничтожении большой подводной лодки с наркотиками

Скончался Нурулла Сираджов, пострадавший в авиакатастрофе AZAL недалеко от Актау Minval Politika

Танкер взорвался у берегов Йемена

Осторожно, Яваш! наша корреспонденция

Торговая стратегия Белого дома меняется: что будет с импортными пошлинами?

Не смешите мои Томагавки ! главная тема

Рамиз Мехдиев анатомия неблагодарности и предательства: кто входил в его план?

Орбан: Венгрия может сыграть ключевую роль в урегулировании конфликта в Украине

У экс чиновников Грузии конфисковали миллионы

Миллионы долларов и драгоценности нашли у бывшего премьера и других экс чиновников Грузии

Reuters: ХАМАС намерен сохранить контроль над безопасностью в секторе Газа

С какого возраста можно начинать пить кофе?

Орбан заявил, что встреча Путина и Трампа даст шансы на мир в Украине

Швейцарские ученые тайно провели опыт по манипуляции людьми с помощью ИИ

Швейцарские ученые тайно провели опыт по манипуляции людьми с помощью ИИ

Icma.az информирует, ссылаясь на сайт Day.az.

Исследователи из Цюрихского университета вызвали возмущение интернет-пользователей и занятых в сфере ИИ специалистов, тайно используя ИИ-ботов на платформе Reddit. Боты выдавали себя за различных людей, включая переживших изнасилование, психологов и даже "темнокожего мужчину, выступающего против движения Black Lives Matter", с целью проверить, смогут ли они изменить мнения пользователей по спорным темам. Об этом сообщает издание Decrypt, передает Day.Az со ссылкой на Gazeta.ru.

Тайный эксперимент проводился в сабреддите r/ChangeMyView (CMV), где 3,8 млн пользователей обсуждают идеи, стремясь изменить свои или чужие взгляды путем аргументированного диалога.

С ноября 2024 года по март 2025-го ИИ-боты ответили на более чем 1000 публикаций, показав, по словам исследователей, "драматические результаты". Как сообщила исследовательская группа, за почти четыре месяца они разместили 1783 комментария и получили 137 "дельт". В контексте этого сабреддита "дельта" означает, что пользователь признал изменение своей точки зрения.

Модераторы сабреддита CMV, комментируя ситуацию, отметили, что их сообщество имеет давнюю историю сотрудничества с исследователями и обычно очень открыто для научных проектов. Однако они подчеркнули, что проведение экспериментов путем обмана пользователей является неприемлемым.

Они пояснили, что проблема не в том, что ИИ потенциально может создавать более убедительные аргументы, а в том, что пользователи были введены в заблуждение. Один из модераторов сравнил CMV с шахматными турнирами между людьми, где важна именно интеракция с другим человеком. Модератор добавил, что с точки зрения CMV контент, сгенерированный ИИ, не считается "осмысленным", отличая его от "подлинного" человеческого взаимодействия.

Исследователи сообщили модераторам о своем эксперименте только после завершения сбора данных. Реакция модераторов, как сообщается, была крайне негативной. Они заявили, что считают эксперимент неправильным и аргумент "такого раньше не делали" не является оправданием.

В своем подробном заявлении модераторы выразили мнение, что если такие организации, как OpenAI, способны разрабатывать более этичные исследовательские протоколы, то и от исследователей Цюрихского университета следовало ожидать того же. Они указали на то, что риски психологических манипуляций с помощью больших языковых моделей являются хорошо изученной темой, и поэтому проведение экспериментов на людях без их согласия было излишним.

Главный юрисконсульт Reddit, Бен Ли, резко осудил действия группы из Цюрихского университета, заявив, что они "глубоко неверны" как с моральной, так и с юридической точки зрения. Он написал, что эксперимент нарушает нормы академических исследований, нормы прав человека, а также пользовательское соглашение и правила Reddit, в дополнение к правилам самого сабреддита. В источнике отмечается, что Ли не уточнил, почему именно данное исследование является нарушением прав человека.

По словам модераторов Reddit, обман со стороны ботов выходил за рамки простого взаимодействия. Исследователи, как сообщается, использовали отдельный ИИ для анализа истории публикаций целевых пользователей, извлекая личные данные, такие как возраст, пол, этническая принадлежность, местоположение и политические убеждения. Это делалось для создания более убедительных, персонализированных ответов, что сравнивается с методами, используемыми компаниями социальных сетей.

Целью исследования было сравнение трех категорий ответов: общих, ответов, настроенных на убедительный стиль сообщества, и персонализированных ответов, созданных на основе анализа публичной информации о пользователях.

Следите за обновлениями и свежими новостями на Icma.az, где мы продолжаем следить за ситуацией и публиковать самую актуальную информацию.
seeПросмотров:164
embedИсточник:https://news.day.az
archiveЭта новость заархивирована с источника 01 Июня 2025 14:04
0 Комментариев
Войдите, чтобы оставлять комментарии...
Будьте первыми, кто ответит на публикацию...
topСамые читаемые
Самые обсуждаемые события прямо сейчас

РФ ночью атаковала Запорожье и Днепропетровскую область: повреждены здания, возникли пожары ВИДЕО

18 Октября 2025 12:23see358

Мадагаскар взорвался: армия смела старый порядок и открыла ворота новой Африке АНАЛИЗ от Baku Network

18 Октября 2025 18:35see226

Россия запускает беспилотники у границ НАТО

18 Октября 2025 18:23see219

Встреча Трампа и Путина обернулась кошмаром для Евросоюза

18 Октября 2025 21:13see206

Рашад Садыхов объяснил первое поражение за полгода

19 Октября 2025 18:57see198

Удар Израиля разозлил Трампа

18 Октября 2025 13:55see191

Германия ставит на Турцию. А Эрдоган диктует повестку новая геополитика

19 Октября 2025 00:10see163

Трамп заявил об уничтожении большой подводной лодки с наркотиками

18 Октября 2025 23:26see162

Скончался Нурулла Сираджов, пострадавший в авиакатастрофе AZAL недалеко от Актау Minval Politika

18 Октября 2025 13:30see160

Танкер взорвался у берегов Йемена

18 Октября 2025 18:55see158

Осторожно, Яваш! наша корреспонденция

19 Октября 2025 15:09see157

Торговая стратегия Белого дома меняется: что будет с импортными пошлинами?

18 Октября 2025 10:35see148

Не смешите мои Томагавки ! главная тема

18 Октября 2025 12:42see146

Рамиз Мехдиев анатомия неблагодарности и предательства: кто входил в его план?

18 Октября 2025 20:23see141

Орбан: Венгрия может сыграть ключевую роль в урегулировании конфликта в Украине

18 Октября 2025 18:02see137

У экс чиновников Грузии конфисковали миллионы

18 Октября 2025 18:07see134

Миллионы долларов и драгоценности нашли у бывшего премьера и других экс чиновников Грузии

19 Октября 2025 16:28see132

Reuters: ХАМАС намерен сохранить контроль над безопасностью в секторе Газа

18 Октября 2025 11:24see132

С какого возраста можно начинать пить кофе?

19 Октября 2025 08:01see130

Орбан заявил, что встреча Путина и Трампа даст шансы на мир в Украине

18 Октября 2025 15:55see126
newsПоследние новости
Самые свежие и актуальные события дня