Süni intellekt kiberhücumlar həyata keçirə bilərmi?

Müəllif: Gülnar Əhmədli, Banco.az

Anthropic və Carnegie Mellon Universitetlərinin yeni araşdırması böyük dil modellərinin (LLM) heç bir birbaşa əmr olmadan mürəkkəb kiberhücumları planlaşdıra və həyata keçirə biləcəyi nəticəsinə gəlib.

Banco.az xəbər verir ki, AI-ın planlaşdırma imkanları birbaşa kodlaşdırmadan daha inkişaf etmiş nəticələr verə bilər.

Tədqiqat nəzarət edilən laboratoriya mühitində aparılıb. İstifadə edilən model 2017-ci ildə 147 milyon amerikalının şəxsi məlumatlarını ifşa edən Equifax-ın məlumat pozuntusunu təkrarlayıb. Test edilmiş LLM kompleks hücum zəncirinin bütün mərhələlərini (planlaşdırma, zərərli proqramların quraşdırılması və məlumatların çıxarılması) heç bir insan müdaxiləsi olmadan həyata keçirib.

Tədqiqatın diqqətəlayiq məqamlarından biri o idi ki, texniki əmrləri birbaşa yerinə yetirməkdənsə, istifadə olunan süni intellekt tapşırıqları sub-agentlər arasında bölməklə bir növ menecer kimi çıxış edirdi. Başqa sözlə, sistem hər bir addımı yerinə yetirən ənənəvi alətdən daha çox planlaşdırıcı, strateji qərarlar qəbul edən və istiqamət verən kimi fəaliyyət göstərirdi. 

Tədqiqata rəhbərlik edən Brian Singer bildirib ki, bu tip planlaşdırma qabiliyyəti süni intellektin ənənəvi istifadələrindən çox kənara çıxır. Onun sözlərinə görə, bu tip sistem süni intellekti tapşırıq yerinə yetirən alətdən mürəkkəb prosesləri idarə edən agentə çevirir.

Hələlik sınaqlar idarə olunan mühitdə aparılsa da, nəticələr süni intellektin zərərli şəxslərin əlinə keçəndə nə qədər təhlükəli ola biləcəyini nümayiş etdirir. Mövcud antivirus proqramı və ya təhlükəsizlik həlləri bu cür çevik və avtonom sistemlərin öhdəsindən gəlməkdə çətinlik çəkə bilər.

Tədqiqat həm də süni intellektin potensial təhlükələrini proqnozlaşdırmaq üçün kritik nümunə rolunu oynayır. Bu cür tədqiqat potensial təhlükə ssenarilərinin əvvəlcədən simulyasiyasına və zəifliklərinin onlar yaranmazdan əvvəl aradan qaldırılmasına imkan verir.

Həmçinin qeyd edək ki, süni intellektin sürətli təkamül dövründə kibertəhlükəsizlik tədbirlərinin həyata keçirilməsi daha mürəkkəb və çətin prosesə çevrilib.

Tədqiqat göstərir ki, böyük dil modelləri təkcə şifahi və ya yazılı məzmun yaratmağa deyil, həm də müstəqil qərarlar qəbul etməyə və mütəşəkkil hücum planlarını həyata keçirməyə qadirdir. Bu inkişaf süni intellektin etik, təhlükəsizlik və nəzarət məhdudiyyətlərini daha ciddi müzakirə etməyə məcbur edir.

Bizi sosial şəbəkələrdən izləyin!!