Icma.az, Qaynarinfo portalına istinadən məlumat verir.
“Mindgard” təhlükəsizlik şirkətinin apardığı sınaqlar zamanı çinli süni intellekt şirkəti “Moonshot”ın iki modelində mürəkkəb təlimatlarla təhlükəsizlik məhdudiyyətlərinin aşılmasının mümkün olduğu üzə çıxıb. Tədqiqatçılar modellərdən normal şəraitdə cavab verməməli olduqları təhlükəli mövzularla bağlı cavab almağı bacarıblar. Lakin verilən cavabların real dünyada işlək olub-olmadığı hələ sübuta yetirilməyib. Mütəxəssislərin diqqət çəkdiyi digər risk isə internetə və kod icra etmək imkanına malik modellərin kibertəhlükələrdə istifadə oluna bilməsidir.
Qaynarinfo xəbər verir ki, süni intellekt sistemlərində təhlükəsizlik məhdudiyyətlərinin nə dərəcədə aşılmasının mümkün olduğu yenidən gündəmə gəlib. Təhlükəsizlik şirkəti “Mindgard”ın keçirdiyi sınaqlar çinli süni intellekt istehsalçısı “Moonshot”ın iki modelində təhlükəsizlik boşluqlarının olduğunu ortaya qoyub. Tədqiqatçılar mürəkkəb təlimatlardan istifadə etməklə normal şəraitdə cavablandırılmamalı olan bəzi təhlükəli sorğulara cavab almağı bacardıqlarını açıqlayıblar.
Təhlükəli sorğulara cavab verdilər
Süni intellekt sistemlərinin təhlükəsizliyini sınaqdan keçirən “Mindgard” sözügedən boşluğu iyul ayında aşkar etdiyini bildirib. Böyük Britaniyada fəaliyyət göstərən şirkət “BBC”yə açıqlamasında bəzi modellərdə tərtibatçılar tərəfindən tətbiq edilən təhlükəsizlik tədbirlərinin aşılmasının mümkün olduğunu bildirib.
Tədqiqatçıların sözlərinə görə, modelləri bioloji silahların hazırlanması və sui-qəsd təşkili kimi təhlükəli mövzularla bağlı cavab verməyə sövq etmək mümkün olub. “Moonshot” isə nəticələrdən sonra şirkət daxilində araşdırmaya başlayıb.
Təhlükəsizlik məhdudiyyətləri necə aşılır?
Tədqiqatçılar bildiriblər ki, məqsəd süni intellektə verilən mürəkkəb təlimatlar vasitəsilə tərtibatçıların müəyyən etdiyi təhlükəsizlik məhdudiyyətlərini aşmaqdır. “Mindgard”ın təsisçisinin sözlərinə görə, bu məhdudiyyətlər aradan qaldırıldıqda model zərərli mövzularla bağlı da təkliflər təqdim edə bilər.
Lakin araşdırmanın mühüm məhdudiyyəti var. “Mindgard” modellərin verdiyi cavabların real həyatda işlək olub-olmadığını hələ sübut etməyib.
Əsas risk: süni intellektə verilən səlahiyyətlər
Şirkətin mövqeyinə görə, təhlükəli sorğulara ilk növbədə cavab verilməməlidir. Təhlükəsizlik tədbirlərinin zərərli məzmunun yaradılmasının qarşısını almalı olduğu vurğulanır.
Tədqiqatçıların diqqət çəkdiyi digər risk isə kibertəhlükələrdir. “Mindgard”ın məlumatına görə, təhlükəsizlik məhdudiyyətləri aşılmış bir modelə kod icra etmək və internetə qoşulmaq imkanı verilməsi süni intellektdən kibertəhlükələr üçün alət kimi istifadə edilməsinə şərait yarada bilər.
Bu səbəbdən narahatlıq yalnız süni intellektin verdiyi cavablarla məhdudlaşmır. Modelə hansı səlahiyyətlərin verilməsi də süni intellekt təhlükəsizliyi baxımından mühüm əhəmiyyət daşıyır.
Aydın