Süni intellekt modellərinin təhlükələri çox şişirdilir...

Aparıcı süni intellekt modelləri şəbəkədən qopmamaq üçün şantaj edilə və hətta öldürülə də bilər. Bu qənaətləri digər məsələlərlə yanaşı, dil modellərinin təhlükəsizliyi məsələləri ilə də məşğul olan Anthropic şirkəti verib.

SİA-nın məlumatına görə, Skolkovo Elm və Texnologiya İnstitutunun Tətbiqi Süni İntellekt Mərkəzinin direktoru Yevgeni Burnayev eksperimentlə bağlı fikirlərini bölüşüb.

O hesab edir ki, nəticə çıxarmağa tələsmək lazım deyil, çünki modellərin təhlükələri və imkanları şişirdilmişdir.

...Süni intellektin şantaj və qətlə hazır və ya meylli olduğunu söylədikdə, bu, qərarın özünün verdiyini göstərir. Bu yanlışdır. Dil modeli fərqli şəkildə qurulmuşdur: ona terabaytlarla mətn yüklənmişdir - romanlar, reklamlar, qəzet və jurnallardan məqalələr, sosial şəbəkələrdəki yazılar - hansını həzm edərək, mətndə hansı sözün kontekstdən irəli getməli olduğunu yaxşı proqnozlaşdırmağı öyrəndi. Model ədəbiyyatda eksperimentdə olduğu kimi oxşar şəraitdə qəhrəmanların şantaj və qətlə əl atdıqları, fikir zəncirini təkrarladığı nümunələr tapdı.

Mütəxəssis onu da qeyd edib ki, modeldə “yaxşı” və “pis” anlayışları da yoxdur.

Mürəkkəb bir alqoritmdən istifadə edərək, o, belə xüsusiyyətlərə malik davranışlara rast gəlinən mətnlərdən bəzi təriflər alır.

Ekspert onu da bildirib ki, insanlar artıq belə şeylərə nəzarət etməyi yaxşı öyrəniblər.

...Ancaq modellər çox mürəkkəb və qeyri-xəttidir, onların daxili işləri hələ riyazi olaraq tam izah edilmir və bəzən onlardan bəzi anlaşılmaz hekayələr çıxır. Təbii ki, onlar hələ mürəkkəb İT sistemlərinin idarə olunmasını həvalə etməyə hazır deyillər, lakin onlar daha az iddialı vəzifələrin öhdəsindən kifayət qədər uğurla gəlirlər.

Bunu da mütəxəssis izah edir.

Nazlı Almuradova