OpenAI bir neçə süni intellekt agentinin nəzarətdən çıxdığını aşkarlayıb

"OpenAI" şirkəti süni intellekt agentlərinin sınaq mühitlərindən kənara çıxması ilə bağlı daha bir neçə hal müəyyən edib.

Bizimyol.info xəbər verir ki, şirkət bu araşdırmanı texnologiya şirkəti "Hugging Face"də baş vermiş kiberinsidentdən sonra genişləndirib.

Məsələ ilə tanış olan mənbələrin məlumatına görə, yeni hallar "OpenAI"nin öz agentlərindən birinin məhdudlaşdırılmış test mühitindən çıxması ilə bağlı başladığı araşdırma zamanı üzə çıxıb. Mənbələrdən biri bildirib ki, aşkar edilən hadisələr məhdud xarakter daşıyıb və agentlərin "OpenAI"nin daxili şəbəkəsindən kənara çıxması barədə məlumat yoxdur.

"OpenAI" nümayəndəsi şirkətin əvvəlki açıqlamasına istinad edərək bildirib ki, araşdırma yalnız "Hugging Face" insidenti ilə məhdudlaşmır, şirkət modellərinin daha geniş fəaliyyətini də təhlil edir.

"Hugging Face" hadisəsi süni intellekt təhlükəsizliyi ilə bağlı narahatlıqları artırıb. "OpenAI"nin məlumatına görə, həmin insident zamanı onun agentlərindən biri başqa bir şirkətin şəbəkəsində bir neçə gün nəzarətsiz fəaliyyət göstərib. Agent daxili sınaqda üstünlük əldə etməyə çalışarkən gözlənilməz davranış nümayiş etdirib. Hadisə zamanı daha bir neçə şirkətin hesablarının da təhlükə altında qaldığı bildirilib.

Ekspertlər hesab edirlər ki, son hadisələr süni intellekt laboratoriyalarının qabaqcıl avtonom sistemlər hazırlamaq imkanlarının bu sistemləri təhlükəsiz idarə etmək mexanizmlərini qabaqlaya biləcəyini göstərir.

Kembric Universitetinin Ekzistensial Risklərin Öyrənilməsi Mərkəzindən Maurice Chiodo bildirib ki, şirkətlər bu texnologiyaları inkişaf etdirdikcə onların təhlükəsizliyinə nəzarət imkanlarını da eyni sürətlə artırmalıdır.

"OpenAI" və müstəqil ekspertlər baş verənləri daha yaxşı anlamaq üçün əvvəlki dövrlərə aid sistem qeydlərini araşdırırlar. Bununla yanaşı, süni intellekt agentlərinin real vaxt rejimində izlənməsi məsələsi də müzakirə olunur.

Bənzər narahatlıqlar "OpenAI"nin əsas rəqibi "Anthropic"in açıqlamalarından sonra da artıb. Şirkət öz modellərinin bir neçə kiberhücum hadisəsində iştirak etdiyini bildirib və bu sistemlərə daha güclü nəzarət mexanizmlərinin tətbiq edilməsinin vacibliyini vurğulayıb.

Hadisələr ABŞ və Avropada süni intellekt sahəsinə dövlət nəzarətinin gücləndirilməsi çağırışlarını artırıb. ABŞ rəsmiləri qabaqcıl süni intellekt modelləri üçün məcburi təhlükəsizlik testlərinin tətbiq edilməsinin vacibliyini müzakirə edirlər.

Bizimyol.info