OpenAI изменила подход к обучению ИИ

Компания OpenAI усилила меры безопасности при обучении моделей искусственного интеллекта (ИИ) и перешла к использованию офлайн-среды. Это произошло после инцидентов, связанных с некорректным поведением ИИ-агентов. Об этом сообщается на официальном сайте компании, передает Day.Az.

В OpenAI заявили, что совместно с облачными провайдерами внедрили дополнительные механизмы контроля инфраструктуры, а также усовершенствовали методы выявления несоответствующего поведения моделей и попыток обхода ограничений безопасности.

В компании подчеркнули, что новая стратегия предполагает многоуровневую, или эшелонированную, защиту. Она должна обеспечивать безопасность исследовательской среды даже в случае отказа одного из механизмов контроля.