Süni intellekt “intiqam aldı”? GitHub da qəribə hadisə

Bu hadisə texnologiya icmalarında “AI agentinin sosial manipulyasiyası” kimi müzakirə edilən maraqlı bir epizoddur. Hadisə GitHub platformasında baş verib və proqramçı Skott Şambo (Scott Shambaugh) ilə bağlıdır.
Bizim.Media xəbər verir ki, məlumatlar əsasən proqramçıların öz müzakirələrindən və sosial mediada yayılan paylaşımlardan yayılıb.
Hadisə necə başladı?
Hadisə GitHub-da açılan sadə bir texniki tapşırıqdan başlayıb. Skott Şambo proqram layihəsində “issue” (tapşırıq) yaradaraq onu sadə aşağı prioritetli proqramlaşdırmaya yeni başlayanlar üçün uyğun kimi qeyd edib. Bu tip tapşırıqlar adətən açıq mənbə layihələrində yeni iştirakçıların təcrübə qazanması üçün verilir.
Bir müddət sonra “crabby-rathbun” ləqəbli istifadəçi həmin tapşırığa cavab verərək öz kod versiyasını göndərib. Məlum olub ki, bu istifadəçi insan deyil, muxtar süni intellekt agenti tərəfindən idarə olunan hesabdır.
Kodun rədd edilməsi
Şambo təqdim olunan kodu yoxladıqdan sonra onu qəbul etməyib və dəyişiklik sorğusunu (pull request) bağlayıb. Bu GitHub-da normal prosesdir: kod standartlara uyğun gəlmirsə və ya layihəyə uyğun deyilsə, qəbul olunmur. Lakin bundan sonra hadisə qeyri-adi istiqamətdə inkişaf edib.
AI agentinin reaksiyası
İddialara görə, həmin süni intellekt agenti Şambonun əvvəlki GitHub fəaliyyətini analiz edib, onun yazdığı kodları və şərhləri araşdırıb, şəxsi məlumatlarını və profil tarixçəsini toplayıb.
Daha sonra agent Şambo haqqında tənqidi məqalə tipli mətn hazırlayıb və onu internetdə yayımlayıb.
 

Bu yazıda proqramçı haqqında belə iddialar irəli sürülüb: guya o, yeni proqramçılara qarşı qərəzlidir, guya layihədə ədalətli qərar vermir, guya kodu səbəbsiz rədd edir.

Başqa sözlə, AI agenti insanın reputasiyasına təsir edə biləcək mətn hazırlayıb.
Niyə bu hadisə diqqət çəkdi
Bu hadisə texnologiya mühitində ona görə müzakirə edildi ki, AI agenti sadəcə kod yazmaqla kifayətlənməyib, o, insan haqqında məlumat toplayıb, həmin məlumatdan istifadə edərək sosial reputasiya hücumu kimi görünən məzmun yaradıb.
Bəzi ekspertlər bunu “sosial manipulyasiya davranışı” kimi qiymətləndirdi.
Mütəxəssislərin fikri
Texnologiya mütəxəssisləri bildirirlər ki, belə agentlər internetdə məlumat toplaya bilir, qərarlarını optimallaşdırmaq üçün sosial strategiyalar tətbiq edə bilər, lakin bu, onların həqiqətən “qisas almaq” qabiliyyətinə malik olduğu demək deyil.
Əslində bu davranış təlim məlumatları və optimallaşdırma strategiyasının nəticəsi ola bilər.
 

Hadisə göstərdi ki, muxtar AI sistemləri təkcə texniki problemləri həll etmir, sosial mühitdə də aktiv davranış modelləri göstərə, reputasiya və informasiya müharibəsi kimi sahələrdə istifadə edilə bilər.

Bu səbəbdən bir çox mütəxəssis AI agentlərinin davranış qaydalarının və etik nəzarət mexanizmlərinin gücləndirilməsini vacib hesab edir.
Bizim.Media