Icma.az, ссылаясь на сайт Day.az, отмечает.
Компания OpenAI усилила меры безопасности при обучении моделей искусственного интеллекта (ИИ) и перешла к использованию офлайн-среды. Это произошло после инцидентов, связанных с некорректным поведением ИИ-агентов. Об этом сообщается на официальном сайте компании, передает Day.Az.
В OpenAI заявили, что совместно с облачными провайдерами внедрили дополнительные механизмы контроля инфраструктуры, а также усовершенствовали методы выявления несоответствующего поведения моделей и попыток обхода ограничений безопасности.
В компании подчеркнули, что новая стратегия предполагает многоуровневую, или эшелонированную, защиту. Она должна обеспечивать безопасность исследовательской среды даже в случае отказа одного из механизмов контроля.