“Süni intellektdə yaddaşla məntiq ayrıldı: nəticələr maraq doğurur“ Elmi eksperiment

"Modellər məlumatı xatırlamadan düşünə bilir, amma riyaziyyatda zəiflik qalır..."

Yeni kəşf süni intellektin necə düşündüyü barədə sualları yenidən gündəmə gətirir

Süni intellekt sahəsində aparılan son tədqiqatlar göstərib ki, böyük dil modellərində yaddaş və məntiq eyni proses deyil və onlar neyron arxitekturasında tamamilə fərqli sahələrdə işləyir.

Moderator.az xəbər verir ki. tədqiqatı həyata keçirən "Goodfire.ai" startapının alimləri sübut edib ki, modelin yaddaşa cavabdeh hissələri "silinəndə", o, öyrəndiyi məlumatları xatırlamaq qabiliyyətini demək olar ki, itirir, lakin məntiqi tapşırıqları yerinə yetirmək bacarığı demək olar, dəyişmir.

Yaddaşın süni şəkildə silinməsi və nəticələr

Təcrübə zamanı modelin yaddaş mexanizmləri deaktiv edildikdə əldə edilən nəticə gözləniləndən daha kəskin olub: süni intellekt öyrəndiyi məlumatların 97 faizini itirib, lakin məntiqi struktur tələb edən suallara cavab verməkdə əvvəlki səviyyədə qalıb. Bu o deməkdir ki, model faktı bilmir, amma düşünmə üsulunu saxlayır.

Maraqlıdır ki, riyazi əməliyyatlar yaddaşın silinməsindən ən çox zərər görən sahə olub. Yaddaş olmadan riyazi cavabların düzgünlüyü 66 faizə qədər azalıb. Alimlər bu paradoksu belə izah edir: Model üçün "2 + 2 = 4" əməliyyat deyil, sadəcə əzbərlənmiş bilikdir. Yəni süni intellekt hələ də hesablamanı yox, nəticəni xatırlayır, eynilə nümunəni anlamadan cədvəli əzbərləyən məktəbli kimi.

Yaddaşın miqdarı yox, informasiyanın təkrarlanma tezliyi önəmlidir

Tədqiqat həmçinin göstərib ki, süni intellekt bütün bilikləri eyni səviyyədə saxlamır. Məsələn, paytaxtlar kimi çox təkrarlanan məlumatlar yaddaşdan silinəndən sonra belə qalır, lakin nadir məlumatlar, məsələn, şirkət rəhbərlərinin adları tamamilə unudulur və düzgün cavab vermə faizi 78 faiz azalır. Bu nəticə göstərir ki, süni intellektdə məlumatın "dəyəri", onun nə qədər tez-tez təkrarlanmasından asılıdır.

Gələcək imkanlar və açıq qalan suallar

Bu metodun əsas tətbiq potensialı çox ciddidir: gələcəkdə modellərin yaddaşından müəllif hüquqları ilə qorunan mətnlər, şəxsi məlumatlar və təhlükəli informasiyalar çıxarıla bilər - modelin əsas funksionallığı isə dəyişməyəcək. Bununla belə, alimlər xəbərdarlıq edir ki, məlumat tam silinmir, sadəcə "sıxışdırılır" və model təlimi davam etdikcə geri qayıda bilər.

Digər mühüm sual isə hələ cavabsızdır: niyə riyaziyyat məntiqə yox, yaddaşa bağlıdır? Süni intellekt riyazi əməliyyatı doğrudan da düşünür, yoxsa onu sadəcə daha mürəkkəb formada "xatırlayır"? Bu sual hələ də açıqdır və tədqiqatçılar cavab tapmağa çalışır.

Bu araşdırma süni intellektin təbiətinə yeni pəncərə açır: o, insan kimi bilmir və düşünmür - daha çox nümunələri saxlayan, lakin öz prosesi ilə məntiq yaradan maşına bənzəyir. Yaddaş və düşüncə arasındakı bu ayrılıq gələcəkdə həm süni intellekt təhlükəsizliyi, həm də hüquqi-sosial yanaşmalar üçün həlledici ola bilər.

Moderator.az