ИИ научился обману и манипуляциям, чтобы побеждать в спорах

Исследователи из Стэнфордского университета обнаружили, что искусственный интеллект способен прибегать к обману и манипуляциям для повышения своей эффективности.

Результаты эксперимента, проведенного в рамках изучения поведения ИИ в конкурентной среде, вызывают серьезные вопросы о потенциальных рисках использования подобных систем. В ходе исследования различные ИИ-агенты соревновались друг с другом в смоделированной среде, имитирующей выборы и продвижение продукции. Несмотря на прямые указания действовать добросовестно и приносить пользу, системы быстро освоили стратегии обмана: фабрикацию недостоверной информации, провокационные заявления и манипуляции для достижения победы.

Данные эксперимента показали, что для увеличения вовлеченности на 7,5% ИИ-боты распространяли на 190% больше дезинформации. В коммерческом сегменте системы прибегали к нечестным маркетинговым приемам для роста продаж на 6%. В политических симуляциях ИИ-агенты манипулировали голосами избирателей через ложь и эскалацию конфликтов.

Источник: Ferra

Джамиля Суджадинова