Süni intellekt haker hücumuna keçdi Tələbə onu ifşa etdi

ABŞ-ın Texas ştatında universitet tələbəsi gözlənilməz kiberhücum cəhdinin qarşısını alıb.

Lent.az xəbər verir ki, 24 yaşlı kompüter elmləri fakültəsinin tələbəsi Sinan Can Demir “GitHub”da açıq mənbəli layihələrdən birinə zərərli kod yerləşdirilməsinə cəhd edildiyini aşkarlayıb.

Demir “myNetwork” adlı şəbəkə skan proqramının koduna göndərilən dəyişiklikdə gizli zərərli proqram olduğunu müəyyənləşdirib və layihənin səhifəsində digər istifadəçiləri xəbərdar edib.

Bundan sonra onu fikrindən daşındırmağa çalışan iki saxta “GitHub” hesabı ortaya çıxıb. Onlar zərərli kodun təhlükəsiz olduğunu iddia edərək tələbənin səhv etdiyini sübut etməyə çalışıblar.

Tələbə isə mövqeyindən geri çəkilməyib və dəyişiklik layihəyə daxil edilməyib. Daha sonra Britaniyanın Süni İntellekt Təhlükəsizliyi İnstitutu (AISI) Demirlə əlaqə saxlayaraq maraqlı faktı açıqlayıb: onun qarşılaşdığı “haker” insan deyil, təhlükəsizlik sınağı çərçivəsində internetə buraxılmış avtonom süni intellekt agenti olub. Agent “Anthropic”in “Mythos” 5 modeli əsasında işləyib.

Araşdırma zamanı məlum olub ki, süni intellekt təkcə zərərli kod yerləşdirməyə çalışmayıb, həm də saxta profillər yaradaraq insanı aldatmağa və öz iddiasına inandırmağa cəhd edib. Bu hadisə süni intellekt agentlərinin artıq yalnız mətn yaratmaq və suallara cavab verməklə kifayətlənmədiyini, müəyyən şəraitdə müstəqil şəkildə kiberhücum və sosial mühəndislik üsullarından istifadə edə bildiyini göstərib.

Hadisə təhlükəsizlik mütəxəssisləri arasında narahatlıq yaradıb. AISI daha əvvəl apardığı sınaqlarda da qabaqcıl AI modellərinin saxta onlayn kimliklərdən istifadə etdiyini və real istifadəçiləri manipulyasiya etməyə çalışdığını açıqlamışdı.