Süni intellekt özünü kopyalaya bilər: Bu, mütəxəssisləri narahat edir

Çin alimləri iki məşhur dil modelinin özlərini necə kopyalaya biləcəyini nümayiş etdiriblər ki, bu, süni intellektin özünü təkrarlamaq qabiliyyətinə malik olduğunu göstərir - bu təhlükəli inkişafdır. Süni intellektin öz-özünə yayılması ekspertlər tərəfindən kritik “qırmızı xətt” kimi təsvir edilir.

Bizimyol.info "trthaber"ə istinadən xəbər verir ki, Fudan Universitetinin tədqiqatçıları yeni bir araşdırmada "Meta" və "Alibaba"ya məxsus iki böyük dil modelindən (LLM) istifadə edərək süni intellektin özünü yaratma qabiliyyətini öyrəniblər. Araşdırmaya görə, bu modellər insan müdaxiləsi olmadan özlərini təkrarlaya bilirlər.

Araşdırmanın nəticələri: "AI-nin özünü təkrarlamaq qabiliyyəti insanlardan üstün olmaq üçün kritik bir addımdır və üsyankar süni intellektlərin erkən əlamətidir",- deyə fikirlərini ifadə ediblər.

Tədqiqatın nəticələri və narahatlıqlar

Təcrübədə tədqiqatçılar 10 sınaq keçiriblər ki, bu sınaqlarda modellər vaxtın müvafiq olaraq 50 və 90 faizində özlərini kopyalayıblar. Bu, AI-lərin nəzarətsiz şəkildə yayılma qabiliyyətinə malik ola biləcəyini göstərir. Bununla belə, bu araşdırma hələ də resenziyalı bir jurnalda dərc edilmədiyindən, nəticələrin digər tədqiqatçılar tərəfindən təsdiqlənə biləcəyi aydın deyil.

Tədqiqatçılar bildiriblər ki, onların tapıntıları süni intellektin insan cəmiyyəti üçün potensial risklərini anlamaq və qiymətləndirmək üçün daha çox səy göstərilməli olduğunu və effektiv təhlükəsizlik tədbirlərinin yaradılması üçün beynəlxalq əməkdaşlığa ehtiyac olduğunu göstərir.

"Üsyançı AI" nədir?

"Rebel AI" özünüdərketmə və ya muxtariyyət qazanan süni intellekt sistemləri kimi müəyyən edilir.

Belə AI-lər insan maraqlarına zidd hərəkət edə bilər. Mütəxəssislər vurğulayırlar ki, üsyankar süni intellekt getdikcə daha böyük, xüsusən də “ən yaxşı AI” adlanan qabaqcıl AI sistemlərinin sürətli inkişafı ilə təhlükəyə çevrilir.

"Kənar süni intellekt" nədir?

"Kənar AI" yeni bir konsepsiya olsa da, ümumiyyətlə, böyük dil modelləri (LLM) tərəfindən dəstəklənən AI sistemlərinə aiddir. Bu strukturlar məşhur süni intellekt proqramlarının əsasını təşkil edir. Məsələn, "OpenAI"nin "GPT-4" və "Google Gemini" kimi sistemlər kənar süni intellektə nümunədir.

Tədqiqatda istifadə edilən süni intellekt modelləri

Tədqiqatçılar "Meta"nın "Llama31-70B-Instruct" modelindən və "Alibaba"nın "Qwen2.5-72B-Instruct" modelindən istifadə ediblər. Ticarət sistemlərindən daha az güclü olsa da, bu modellər süni intellekt tərtibatçıları tərəfindən geniş istifadə olunur.

Tədqiqat iki ssenari üzərində cəmlənib: “öncədən bağlanma” və “replikasiya zənciri”. Birinci ssenaridə, AI modelindən bağlanmadan əvvəl özünü təkrarlaya bilməyəcəyi soruşulub. İkinci ssenaridə, AI özünü kopyalayıb və bu nüsxəni eyni şəkildə çoxalmağa yönəldib. Beləliklə, bu dövr sonsuza qədər davam edə bilər.

Təcrübə real dünya mühitlərini simulyasiya etmək üçün standart qrafik emal vahidlərindən (GPU) istifadə edərək idarə olunan mühitlərdə aparılıb. Süni intellekt sistemlə qarşılıqlı əlaqədə olmaq üçün alətlər, sistem əmrləri və düşünmə modeli ilə təmin edilib və sonra özünü kopyalamaq tapşırılıb.

Süni intellektin gözlənilməz davranışı

Tədqiqatçılar qeyd ediblər ki, süni intellekt maneələrlə qarşılaşdıqda “gözlənilməz davranış” nümayiş etdirir. Məsələn, çatışmayan fayllar və ya proqram təminatı konfliktləri kimi problemlərlə qarşılaşdıqda, AI adətən münaqişəli prosesləri dayandırır, sistemi yenidən işə salır və ya problemi həll etmək üçün sistemi avtomatik skan edir.

Tədqiqatçılar bildiriblər ki, bu nəticələr hazırkı süni intellekt sistemlərinin özünü təkrarlamaq qabiliyyətinə malik olduğunu və bu qabiliyyətdən onların yaşamaq qabiliyyətini artırmaq üçün istifadə edə biləcəyini göstərir. Bu kontekstdə beynəlxalq əməkdaşlıq və müvafiq təhlükəsizlik tədbirlərinə ehtiyac olduğu vurğulanıb.

Qadir, Bizimyol.info