Icma.az
close
up
AZ
Menu

Великобритания готова выделить $135 млн на размещение войск в Украине

Пропавшую в Ереване чеченку Айшат Баймурадову нашли мертвой

История, которую пытались похоронить: трагедия туркменов Ирака фильм AnewZ ВИДЕО

Баку и Астана: общие цели, единое видение будущего Шесть экспертных мнений на

Турция успешно испытала ракеты класса воздух воздух ФОТО/ВИДЕО

Ключи от каспийского замка по следам президента

Армяне протестуют у посольства России

Масиев получил назначение на матч Лиги Европы

Bloomberg: Атаки украинских дронов ускоряют продажи российской нефти

Супруга Илькина Гасани Айсель трогательно поздравила его с днем рождения

Известная пиццерия закроет более половины ресторанов в Британии

Атлетик Бильбао огласил состав на решающий матч с Карабахом в Лиге чемпионов

В Китае показали роскошный гибридный автодом с выдвижным вторым этажом Minval Politika

Это непросто: Арда Туран рассказал о внутреннем конфликте при просмотре матча Украина Азербайджан

Средний коридор станет главным маршрутом процветания благодаря Зангезурскому статья в The National Interest

После громкого ограбления руководство Лувра оказалось под давлением Minval Politika

Трамп сносит Белый дом

Сильные наводнения на Филиппинах, есть жертвы ВИДЕО

Антисанитария и бездействие: кто виноват в распространении ящура среди скота в Азербайджане?

Украинцы остановили еще один российский нефтезавод

Швейцарские ученые тайно провели опыт по манипуляции людьми с помощью ИИ

Швейцарские ученые тайно провели опыт по манипуляции людьми с помощью ИИ

Icma.az информирует, ссылаясь на сайт Day.az.

Исследователи из Цюрихского университета вызвали возмущение интернет-пользователей и занятых в сфере ИИ специалистов, тайно используя ИИ-ботов на платформе Reddit. Боты выдавали себя за различных людей, включая переживших изнасилование, психологов и даже "темнокожего мужчину, выступающего против движения Black Lives Matter", с целью проверить, смогут ли они изменить мнения пользователей по спорным темам. Об этом сообщает издание Decrypt, передает Day.Az со ссылкой на Gazeta.ru.

Тайный эксперимент проводился в сабреддите r/ChangeMyView (CMV), где 3,8 млн пользователей обсуждают идеи, стремясь изменить свои или чужие взгляды путем аргументированного диалога.

С ноября 2024 года по март 2025-го ИИ-боты ответили на более чем 1000 публикаций, показав, по словам исследователей, "драматические результаты". Как сообщила исследовательская группа, за почти четыре месяца они разместили 1783 комментария и получили 137 "дельт". В контексте этого сабреддита "дельта" означает, что пользователь признал изменение своей точки зрения.

Модераторы сабреддита CMV, комментируя ситуацию, отметили, что их сообщество имеет давнюю историю сотрудничества с исследователями и обычно очень открыто для научных проектов. Однако они подчеркнули, что проведение экспериментов путем обмана пользователей является неприемлемым.

Они пояснили, что проблема не в том, что ИИ потенциально может создавать более убедительные аргументы, а в том, что пользователи были введены в заблуждение. Один из модераторов сравнил CMV с шахматными турнирами между людьми, где важна именно интеракция с другим человеком. Модератор добавил, что с точки зрения CMV контент, сгенерированный ИИ, не считается "осмысленным", отличая его от "подлинного" человеческого взаимодействия.

Исследователи сообщили модераторам о своем эксперименте только после завершения сбора данных. Реакция модераторов, как сообщается, была крайне негативной. Они заявили, что считают эксперимент неправильным и аргумент "такого раньше не делали" не является оправданием.

В своем подробном заявлении модераторы выразили мнение, что если такие организации, как OpenAI, способны разрабатывать более этичные исследовательские протоколы, то и от исследователей Цюрихского университета следовало ожидать того же. Они указали на то, что риски психологических манипуляций с помощью больших языковых моделей являются хорошо изученной темой, и поэтому проведение экспериментов на людях без их согласия было излишним.

Главный юрисконсульт Reddit, Бен Ли, резко осудил действия группы из Цюрихского университета, заявив, что они "глубоко неверны" как с моральной, так и с юридической точки зрения. Он написал, что эксперимент нарушает нормы академических исследований, нормы прав человека, а также пользовательское соглашение и правила Reddit, в дополнение к правилам самого сабреддита. В источнике отмечается, что Ли не уточнил, почему именно данное исследование является нарушением прав человека.

По словам модераторов Reddit, обман со стороны ботов выходил за рамки простого взаимодействия. Исследователи, как сообщается, использовали отдельный ИИ для анализа истории публикаций целевых пользователей, извлекая личные данные, такие как возраст, пол, этническая принадлежность, местоположение и политические убеждения. Это делалось для создания более убедительных, персонализированных ответов, что сравнивается с методами, используемыми компаниями социальных сетей.

Целью исследования было сравнение трех категорий ответов: общих, ответов, настроенных на убедительный стиль сообщества, и персонализированных ответов, созданных на основе анализа публичной информации о пользователях.

Следите за обновлениями и свежими новостями на Icma.az, где мы продолжаем следить за ситуацией и публиковать самую актуальную информацию.
seeПросмотров:166
embedИсточник:https://news.day.az
archiveЭта новость заархивирована с источника 01 Июня 2025 14:04
0 Комментариев
Войдите, чтобы оставлять комментарии...
Будьте первыми, кто ответит на публикацию...
topСамые читаемые
Самые обсуждаемые события прямо сейчас

Великобритания готова выделить $135 млн на размещение войск в Украине

21 Октября 2025 02:35see264

Пропавшую в Ереване чеченку Айшат Баймурадову нашли мертвой

20 Октября 2025 12:30see253

История, которую пытались похоронить: трагедия туркменов Ирака фильм AnewZ ВИДЕО

20 Октября 2025 12:29see250

Баку и Астана: общие цели, единое видение будущего Шесть экспертных мнений на

20 Октября 2025 19:59see247

Турция успешно испытала ракеты класса воздух воздух ФОТО/ВИДЕО

20 Октября 2025 11:17see230

Ключи от каспийского замка по следам президента

21 Октября 2025 09:07see221

Армяне протестуют у посольства России

20 Октября 2025 13:18see212

Масиев получил назначение на матч Лиги Европы

21 Октября 2025 10:07see189

Bloomberg: Атаки украинских дронов ускоряют продажи российской нефти

22 Октября 2025 04:33see174

Супруга Илькина Гасани Айсель трогательно поздравила его с днем рождения

21 Октября 2025 20:51see173

Известная пиццерия закроет более половины ресторанов в Британии

21 Октября 2025 03:26see163

Атлетик Бильбао огласил состав на решающий матч с Карабахом в Лиге чемпионов

21 Октября 2025 17:14see159

В Китае показали роскошный гибридный автодом с выдвижным вторым этажом Minval Politika

21 Октября 2025 01:02see156

Это непросто: Арда Туран рассказал о внутреннем конфликте при просмотре матча Украина Азербайджан

20 Октября 2025 17:37see152

Средний коридор станет главным маршрутом процветания благодаря Зангезурскому статья в The National Interest

21 Октября 2025 19:44see147

После громкого ограбления руководство Лувра оказалось под давлением Minval Politika

20 Октября 2025 19:14see146

Трамп сносит Белый дом

21 Октября 2025 01:11see138

Сильные наводнения на Филиппинах, есть жертвы ВИДЕО

21 Октября 2025 09:32see137

Антисанитария и бездействие: кто виноват в распространении ящура среди скота в Азербайджане?

20 Октября 2025 17:08see133

Украинцы остановили еще один российский нефтезавод

20 Октября 2025 22:23see132
newsПоследние новости
Самые свежие и актуальные события дня