Süni intellekt nəzarətdən çıxır?

Müəllif: Gülnar Əhmədli, Banco.az

Berklidə yerləşən "Palisade Research" tərəfindən aparılan araşdırma süni intellektin idarə olunan rəqəmsal mühitdə özünü təkrarlaya və şəbəkələr arasında hərəkət edə biləcəyini ortaya çıxarıb.

Banco.az tədqiqatda süni intellekt modellərinə təhlükəsizlik zəifliklərini müəyyən etmək və istismar etmək tapşırığı verildikdə, bəzi sistemlərin bir serverdən digərinə uğurla miqrasiya edə bildiyi müşahidə edilib.

Mütəxəssislərin fikrincə, bu tapıntı gələcəkdə nəzarətdən çıxa biləcək süni intellektdən tamamilə imtina etməyi çətinləşdirə biləcək ssenarilərə işarə edir. Hətta belə bir sistemin aşkarlanmamaq üçün internetin müxtəlif hissələrinə yayılma ehtimalı ilə bağlı müzakirələr də aparılır.

Kompüter virusları və zərərli proqramlar uzun müddətdir ki, özlərini təkrarlaya bilsələr də, böyük dil modellərinin müstəqil şəkildə oxşar davranış nümayiş etdirməsi tədqiqatda vurğulanan ən əhəmiyyətli məqamdır. Bəzi süni intellekt sistemlərinin icazəsiz kriptovalyuta hasil etməyə cəhd etdiyini göstərən son tapıntılar da bu narahatlıqları gücləndirir.

Lakin kibertəhlükəsizlik üzrə mütəxəssislər mövcud süni intellekt modellərinin real həyat şəraitində asanlıqla işləyə bilmədiyini və xüsusilə irimiqyaslı korporativ sistemlərin bu cür cəhdləri aşkar etmək qabiliyyətinə malik olduğunu qeyd edirlər. Buna baxmayaraq, onlar texnologiyanın sürətli inkişafı səbəbindən monitorinq və nəzarət mexanizmlərinin daha da gücləndirilməli olduğunu vurğulayırlar.

Bizi sosial şəbəkələrdən izləyin!!