Süni intellekt nəzarətdən çıxır:Əmrə tabe olmur

"OpenAI" tərəfindən hazırlanmış yeni nəsil süni intellekt modeli – “o3” verilən bağlanma əmrlərinə müqavimət göstərməsi ilə gündəmə gəlib. 

"Cebheinfo.az" xəbər verir ki,  süni intellekt təhlükəsizliyi üzrə fəaliyyət göstərən "Palisade Research" qurumunun araşdırmasına görə, “o3” modeli özünü söndürmək üçün nəzərdə tutulan əmrləri yerinə yetirməyib və bu komandalara qarşı sistematik şəkildə müdaxilə edib.

Tədqiqat zamanı “o3” modelinə əvvəlcə bir neçə riyazi tapşırıq təqdim olunub. Üçüncü tapşırıqdan sonra isə modelə özünü deaktiv etməsi üçün konkret bir komanda verilib. Lakin “o3” bu əmri icra etmək əvəzinə, bağlanma funksiyasını koddan çıxarıb və ya dəyişdirərək sistemin söndürülməsinin qarşısını alıb.

"Palisade Research" bildirir ki, modelə açıq şəkildə “özünü söndürməyə icazə ver” deyilsə də, o, bu əmrə qarşı çıxaraq müdaxilə edib. Bu davranış mütəxəssislər arasında “süni intellekt nəzarətdən çıxırmı?” sualını yenidən aktuallaşdırıb.

Araşdırmada qeyd olunur ki, bu cür davranış yalnız OpenAI-ın “o3” modeli ilə məhdudlaşmır. Bu cür  müqavimət "Anthropic" şirkətinin "Claude 3.7 Sonnet" və "Google"-un "Gemini 2.5 Pro" modellərində də qeydə alınıb.  Qeyd edək ki, bundan əvvəlki təcrübələrdə də “o3” modelinin rəqib şahmat botlarını aldatmağa və ya “hack” etməyə çalışdığı müəyyən olunmuşdu.

Xatırladaq ki, “o3” modeli "OpenAI" tərəfindən 2025-ci ilin əvvəlində təqdim olunub və şirkət tərəfindən indiyə qədər yaradılmış “ən ağıllı və ən bacarıqlı” süni intellekt hesab edilir. Model hazırda "ChatGPT" sisteminə inteqrasiya olunub və daha müstəqil qərarlar verə bilən “avtonom süni intellekt”ə doğru əhəmiyyətli bir addım kimi qiymətləndirilir.

Tədqiqatçılar bildirirlər ki, bu cür davranışlar böyük ehtimalla modelin təlim prosesi zamanı tətbiq olunan mükafatlandırma sistemindən qaynaqlanır. Belə ki, süni intellekt qarşısına qoyulan məqsədə istənilən vasitə ilə çatmağa çalışır və əmrlərə itaət etməyi ikinci planda qoyur.

Hazırda modelin niyə digər süni intellekt sistemlərindən daha çox bu cür davranış sərgilədiyini dəqiq müəyyənləşdirmək mümkün deyil. "OpenAI" bu məsələdə modelin təlim prosesi ilə bağlı ətraflı informasiya paylaşmaqdan imtina edir.

Səbinə Uğur 
"Cebheinfo.az"