Согласно материалам сайта Vesti, передает Icma.az.
ИИ-агент OpenAI летом получил несанкционированный доступ к сайту австралийской системы государственных услуг Services Australia.
Как передает Vesti.az, об этом премьер-министр страны Энтони Албаниз сообщил в Нью-Йорке.
Инцидент произошел 18 июня, когда исследовательская команда OpenAI использовала внутреннюю модель для поиска информации о государственных расходах на медицину. Столкнувшись с ограничениями на портале статистики Medicare, ИИ-агент смог их обойти и получил доступ как к публичным, так и к непубличным файлам.
На данный момент нет данных о том, что была затронута персональная информация граждан. Расследование продолжается.
Албаниз сообщил, что обсудил произошедшее с главой OpenAI Сэмом Альтманом и выразил серьезную обеспокоенность как самим инцидентом, так и тем, что компания слишком поздно проинформировала австралийские власти.
Для изучения обстоятельств произошедшего правительство Австралии сформировало специальную рабочую группу. Она должна в том числе рассмотреть возможные меры для предотвращения подобных инцидентов в будущем.
В OpenAI подтвердили, что летом выявили нежелательную активность ИИ-агентов в отношении нескольких сайтов и сервисов австралийского правительства во время внутренних испытаний моделей.
По данным компании, об инциденте стало известно в августе при анализе активности агентов. Services Australia была уведомлена 10 сентября. OpenAI заявила, что проверка не выявила признаков доступа к записям пациентов. Агент получил доступ к агрегированной медицинской статистике и названиям внутренних файлов.
The Wall Street Journal отмечает, что это, по всей видимости, первый публично раскрытый случай несанкционированного доступа ИИ-агента к государственной системе.