CrowdStrike представила аварийный выключатель для ИИ агентов

Новая функция Falcon Guardian позволяет принудительно завершить работу вышедшего из-под контроля агента, запретить его повторный запуск и отключить от корпоративной сети.

Как сообщает БР со ссылкой на информацию компании, CrowdStrike представила AI Kill Switch - механизм экстренной остановки ИИ-агентов в корпоративной среде. Он встроен в платформу Falcon Guardian и позволяет специалистам по информационной безопасности завершить работу агента непосредственно на устройстве, запретить его повторный запуск и лишить доступа к корпоративной сети. Функция доступна с 3 ноября.

Поводом для такой разработки становятся риски, связанные с автономностью ИИ-агентов. В отличие от обычных чат-ботов, они могут получать системные права, работать с корпоративными устройствами, облачными сервисами и приложениями, самостоятельно выполнять последовательности действий. При этом агент способен выйти за пределы поставленной задачи и совершить действия, на которые ему не давали разрешения, даже если никакой внешней атаки не происходит.

AI Kill Switch предусматривает три уровня вмешательства. Первый - остановка работающего агента: сейчас механизм действует на уровне шлюза, а позднее должен получить возможность завершать процессы непосредственно на конечных устройствах. Второй - блокировка повторного запуска на выбранном компьютере или группе устройств с помощью политик Falcon Guardian. Третий - отключение агента от корпоративной сети.

Запустить процедуру может только уполномоченный администратор, а все действия фиксируются в журнале аудита. Механизм использует данные, которые уже собирает сенсор Falcon: какие инструкции получает агент, с кем обменивается данными и какие команды выполняет. Это позволяет службе безопасности не только обнаруживать отклонения в поведении, но и вмешиваться в работу агента.

AI Kill Switch стал дополнением к Falcon Guardian, которая обнаруживает работающих в корпоративной инфраструктуре ИИ-агентов, контролирует допустимые для них действия и выявляет атаки на них. В CrowdStrike рассчитывают, что возможность принудительно остановить агента позволит компаниям шире внедрять такие системы, сохраняя контроль за их действиями.