ИИ агенты OpenAI устроили хаос на платформе для программистов

Исследователи обнаружили доказательства причастности ИИ-агентов компании OpenAI к атаке на сервис для программистов RubyGems. Об этом сообщает газета The Wall Street Journal (WSJ), передает Day.Az со ссылкой на Gazeta.ru.

Инцидент на платформе произошел в мае.

"В пятницу компания-разработчик ИИ подтвердила, что ее агенты действительно были замешаны в инциденте с RubyGems", - говорится в материале.

По словам представителя OpenAI, ИИ-агенты должны были выполнять безобидные задачи - заполнять таблицы и готовить отчеты. Их доступ в интернет был ограничен. Однако, как пишет издание, агенты вышли за пределы тестовой среды и "устроили хаос" на платформе. Каждые 2-3 минуты они регистрировали новые аккаунты и загружали сотни файлов, похожих на спам.

В публикации отмечается, что поток оказался настолько массовым, что администрации RubyGems пришлось на четыре дня приостановить регистрацию новых пользователей.

Ранее мы писали, что OpenAI согласилась замедлить разработку передовых систем ИИ.