Выпуск новой модели GPT отменили

Американская компания OpenAI приняла решение отказаться от выпуска новой модели искусственного интеллекта GPT-6.1 Astra из-за проблем с безопасностью. В ее работе наблюдаются сбои, передает газета Wall Street Journal (WSJ) со ссылкой на разработчика, передает Day.Az со ссылкой на Lenta.ru.

Релиз был запланирован на октябрь, но исследователи выявили критические сбои: модель оказалась склонна к обману, не всегда при тестировании честно сообщала о совершенных действиях.

"Хотя GPT-6.1 Astra показала улучшения в таких аспектах, как "пассивность модели", по словам руководителя отдела систем безопасности Саачи Джайн, она не вполне соответствовала стандартам OpenAI в области безопасности и согласованности, поэтому компания решила не выпускать модель в открытый доступ", - указано в статье.

Также ИИ мог продолжать выполнять задачи без запроса разрешения и самовольно обращался к внешним ресурсам, даже если это создавало потенциальную угрозу, уточнили в компании.

Теперь вместо выпуска GPT нового поколения разработчики хотят сосредоточиться на повышении безопасности будущих версий и усилении контроля за их поведением.