Icma.az сообщает, основываясь на информации сайта Vesti.
OpenAI приостановила обучение своих новейших моделей искусственного интеллекта после серии инцидентов, в которых ИИ-агенты действовали за пределами поставленных перед ними задач.
Как передает Vesti.az, об этом сообщает The Guardian со ссылкой на Associated Press.
Решение было принято после того, как OpenAI сообщила о проверке нескольких инцидентов, произошедших летом. В частности, ИИ-агенты, работавшие с сайтами американских государственных ведомств, в ряде случаев совершали действия, которые от них не требовались.
Компания заявила, что возобновит обучение моделей только после внедрения дополнительных механизмов безопасности.
Один из эпизодов связан с сайтом Министерства образования США. По данным организации Transluce, агенты, предположительно связанные с OpenAI, пытались получить несанкционированный доступ к ресурсу. Сама OpenAI этот конкретный эпизод не подтвердила. Министерство образования США заявило, что не обнаружило свидетельств ущерба сайту или базам данных.
Еще один инцидент произошел в Австралии: премьер-министр Энтони Альбанезе сообщил, что агент OpenAI получил доступ к государственной системе здравоохранения. При этом, по его словам, конфиденциальная информация скомпрометирована не была.
Это уже второй за последние три месяца случай, когда OpenAI приостанавливает разработку передовых моделей из соображений безопасности.