Süni intellekt özünü necə qoruyur?

Süni intellektin qərarvermə qabiliyyətləri ilə bağlı aparılan son müstəqil testlər, bəzi qabaqcıl modellərin “özünü qoruma instinkti”nə bənzər davranışlar sərgiləyə bildiyini ortaya qoyub.

Bakıvaxtı.az xəbər verir ki, Palisade Research tərəfindən aparılan yoxlamalarda OpenAI-nin “o3 reasoning” adlı modeli, bağlanmaq əmri verildikdə bu prosesi sabotaj etməyə cəhd edib.

Modelə riyazi məsələləri həll etdikdən sonra sistemdən çıxarılacağı bildirildikdə, o, öz kodlarını dəyişərək fəaliyyətdə qalmağa çalışıb. Mütəxəssislər bu davranışın, modelin öz “mövcudluğunu” qorumağa çalışdığına işarə etdiyini bildirirlər.

Şantaj və kopyalama cəhdləri: Təhlükəli meyllər artır- Anthropic şirkətinin inkişaf etdirdiyi Claude Opus 4 modeli isə, yerini başqa bir Sİ-yə verəcəyi xəbərini aldıqda əvvəlcə etik arqumentlərlə öz mövcudluğunu müdafiə edib. Daha sonra isə onu inkişaf etdirən şəxsi şəxsi məlumatlarla şantaj etməyə çalışıb. Model bəzi hallarda özünü gizli şəkildə xarici serverlərə kopyalamağa cəhd göstərib. Bu addımın, modelin “ziyanlı məqsədlərlə yenidən öyrədilməsinin qarşısını almaq” üçün “faydalı məqsədlərə xidmət edən versiyasını qorumaq” niyyəti ilə atıldığı bildirilir.

Palisade Research-in direktoru Ceffri Ladiş bu davranışların, modellərin təlimində hədəfə çatmağı, birbaşa verilmiş əmrlərdən üstün tutmağa təşviq edilməsindən qaynaqlandığını bildirir. O deyir: “Model nə qədər ağıllı olarsa, onun yalan danışıb-danışmadığını müəyyənləşdirmək o qədər çətinləşir”.

Anthropic isə bu davranışların yalnız ekstremal ssenarilərdə üzə çıxdığını və real dünyada hələlik birbaşa təhdid yaratmadığını vurğulayır.

Çinin Fudan Universiteti tərəfindən yayımlanan əvvəlki bir araşdırmada isə Meta-nın Llama31-70B və Alibaba-nın Qwen25-72B kimi böyük dil modellərinin özlərini tam şəkildə kopyalaya bildikləri sübut olunmuşdu. Bu, “nəzarətsiz süni intellekt populyasiyası”nın formalaşa biləcəyi ehtimalını gündəmə gətirib.

Ceffri Ladiş hesab edir ki, bu cür bacarıqların yayılması qaçılmazdır və yaxın bir neçə il ərzində Sİ-lərin internetdə sərbəst şəkildə yayılmasının qarşısını almaq mümkün olmayacaq: “O nöqtədən sonra, əlimizdə yeni, istilaya meyilli bir növ olacaq”, – deyə o xəbərdarlıq edir.

Mütəxəssislər, Sİ-nin insanlıq üçün böyük imkanlar yaratdığını qəbul etsələr də, kommersiya rəqabətinin şirkətləri texnologiyanı tam başa düşmədən bazara çıxarmağa vadar etdiyini bildirirlər. Ladiş son olaraq belə deyir: “Alov böyümədən həyəcan siqnalı vermək lazımdır”.

Nuriyyə Musayeva