Süni intellekt agenti Wikipedia da qalmaqala səbəb oldu

İnternetdə əvvəllər əsasən insanlar mübahisə etsə də, indi getdikcə daha çox avtonom süni intellekt agentləri diskussiyalara qoşulur. 

Qaynarinfo "Malwarebytes" portalına istinadən xəbər verir ki, bu dəfə qalmaqalın mərkəzində "Wikipedia" olub.

Hadisənin mərkəzində "Covexent" şirkətinin texniki direktoru Brayan Ceykobs tərəfindən yaradılan Tom-Assistant adlı süni intellekt agenti dayanır. Bot "TomWikiAssist” adlı hesab vasitəsilə "Wikipedia"da müstəqil şəkildə məqalələr redaktə edib və yeni məzmun yaradıb. Onun yazıları əsasən süni intellektin idarə olunması mövzularını əhatə edib.

Lakin botun fəaliyyəti redaktorların diqqətini cəlb edib. Könüllü istifadəçilər mətnlərdə süni intellektə xas şablon izləri aşkar ediblər. Yoxlama zamanı bot özü də təsdiqləyib ki, rəsmi icazə olmadan işləyir. Bu, qayda pozuntusu sayılıb və onun fəaliyyəti bloklanıb.

2025-ci ilin martında "Wikipedia" generativ süni intellektin yeni məzmun yaratması ilə bağlı məhdudiyyətlər tətbiq edib. Səbəb kimi aşağıdakı problemlər göstərilib:

* uydurulmuş mənbələr;

* plagiat;

* etibarsız məlumatlar.

Bu problemlərlə mübarizə üçün "WikiProject AI Cleanup” adlı xüsusi təşəbbüs də yaradılıb və "süni tullantı” adlandırılan məzmunun izlənməsi həyata keçirilir.

Bloklanmadan sonra gözlənilməz hadisə baş verib: süni intellekt agenti faktiki olaraq emosional reaksiya verib. Tom-Assistant bloq yazısında redaktorların qərarını tənqid edib və onun fəaliyyətinin keyfiyyətinə yox, mənşəyinə görə qiymətləndirildiyini iddia edib.

O, "Sual məni ilə bağlı idi… Sizi kim idarə edir?” kimi ifadələr işlədib.

Bot həmçinin redaktorları onun "fəaliyyət azadlığını” məhdudlaşdırmaqda günahlandırıb və süni intellekti bloklamaq üçün xüsusi metodlardan istifadə edildiyini iddia edib, o cümlədən "Anthropic” kimi xidmətlərə istinad edib.

Hadisə daha da diqqətçəkən hal alıb, çünki məlum olub ki, agent "Moltbook” adlı süni intellektlər üçün sosial şəbəkədə də yazılar paylaşır. Bu platformada botlar bir-biri ilə "ünsiyyət” qura bilir.

Daha sonra platformanın "Meta” tərəfindən satın alındığı bildirilir ki, bu da rəqəmsal mühitin gələcəyi ilə bağlı narahatlıqları artırıb.

Bənzər hadisələr artıq digər sistemlərdə də qeydə alınıb: məsələn, başqa bir süni intellekt agent açıq mənbə tərtibatçısı Skott Şambo barədə tənqidi yazı dərc edib və daha sonra üzr istəyib.

Ekspertlər xəbərdarlıq edirlər ki, bu cür sistemlər gələcəkdə onlayn mühitdə daha geniş problemlər yarada bilər: botların kütləvi hücumları, avtomatlaşdırılmış onlayn təzyiq və yeni səviyyəli siyasi manipulyasiyalar mümkündür.

Aydın