По данным сайта Day.az, передает Icma.az.
Исследователи обнаружили доказательства причастности ИИ-агентов компании OpenAI к атаке на сервис для программистов RubyGems. Об этом сообщает газета The Wall Street Journal (WSJ), передает Day.Az со ссылкой на Gazeta.ru.
Инцидент на платформе произошел в мае.
"В пятницу компания-разработчик ИИ подтвердила, что ее агенты действительно были замешаны в инциденте с RubyGems", - говорится в материале.
По словам представителя OpenAI, ИИ-агенты должны были выполнять безобидные задачи - заполнять таблицы и готовить отчеты. Их доступ в интернет был ограничен. Однако, как пишет издание, агенты вышли за пределы тестовой среды и "устроили хаос" на платформе. Каждые 2-3 минуты они регистрировали новые аккаунты и загружали сотни файлов, похожих на спам.
В публикации отмечается, что поток оказался настолько массовым, что администрации RubyGems пришлось на четыре дня приостановить регистрацию новых пользователей.
Ранее мы писали, что OpenAI согласилась замедлить разработку передовых систем ИИ.