ИИ агент OpenAI проник в систему правительства Австралии

ИИ-агент OpenAI летом получил несанкционированный доступ к сайту австралийской системы государственных услуг Services Australia.

Как передает Vesti.az, об этом премьер-министр страны Энтони Албаниз сообщил в Нью-Йорке.

Инцидент произошел 18 июня, когда исследовательская команда OpenAI использовала внутреннюю модель для поиска информации о государственных расходах на медицину. Столкнувшись с ограничениями на портале статистики Medicare, ИИ-агент смог их обойти и получил доступ как к публичным, так и к непубличным файлам.

На данный момент нет данных о том, что была затронута персональная информация граждан. Расследование продолжается.

Албаниз сообщил, что обсудил произошедшее с главой OpenAI Сэмом Альтманом и выразил серьезную обеспокоенность как самим инцидентом, так и тем, что компания слишком поздно проинформировала австралийские власти.

Для изучения обстоятельств произошедшего правительство Австралии сформировало специальную рабочую группу. Она должна в том числе рассмотреть возможные меры для предотвращения подобных инцидентов в будущем.

В OpenAI подтвердили, что летом выявили нежелательную активность ИИ-агентов в отношении нескольких сайтов и сервисов австралийского правительства во время внутренних испытаний моделей.

По данным компании, об инциденте стало известно в августе при анализе активности агентов. Services Australia была уведомлена 10 сентября. OpenAI заявила, что проверка не выявила признаков доступа к записям пациентов. Агент получил доступ к агрегированной медицинской статистике и названиям внутренних файлов.

The Wall Street Journal отмечает, что это, по всей видимости, первый публично раскрытый случай несанкционированного доступа ИИ-агента к государственной системе.