Süni intellekt işçilərinə həqiqətən güvənmək olarmı?

Yeni araşdırmalar süni intellekt işçilərinin tamamilə etibarlı olmadığını və daimi nəzarət olmadan işləməməli olduğunu ortaya qoyur.

Texnologiya dünyasının mütəxəssisləri müəyyən tapşırıqları yerinə yetirmək üçün yaradılmış süni intellekt agentlərinə qarşı həm həyəcan, həm də narahatlıq hissi keçirirlər. Bir tərəfdən bu yeni nəsil texnologiyanın potensialı böyük həvəslə qarşılanır, digər tərəfdən isə onun yaratdığı təhlükəsizlik riskləri ciddi narahatlığa səbəb olur. 

Qaynarinfo xəbər verir ki, son dövrlərdə aparılmış bir sorğu bu ziddiyyəti aydın şəkildə ortaya qoyaraq süni intellekt agentlərinin gələcəkdəki rolu barədə əhəmiyyətli ipucları verir.

Tədqiqatın nəticələrinə əsasən, qurumların təxminən 98%-i qarşıdakı il süni intellekt agentlərindən istifadəsini artırmağı planlaşdırır. Bu agentlər müştəri məlumatları, maliyyə məlumatları, hüquqi sənədlər və təchizat zəncirinə dair əməliyyatlar daxil olmaqla, həssas korporativ məlumatları emal edən sistemlərə inteqrasiya edilir. Lakin iştirakçıların 96%-i bu agentləri artan təhlükəsizlik təhdidi kimi dəyərləndirir.

Əsas narahatlıqlardan biri görünürlük çatışmazlığıdır. Mütəxəssislərin yalnız 54%-i agentlərin hansı məlumatlara çıxış imkanı olduğunu tam bildiklərini deyirlər. Bu isə məlumat sızmaları və icazəsiz giriş potensialı baxımından ciddi risk yaradır.

Daha narahatedici məqam isə bəzi şirkətlərin süni intellekt agentlərinin arzuolunmaz davranışlar sərgilədiyini bildirməsidir. Bu davranışlara icazəsiz sistemlərə giriş, uyğun olmayan məlumatların paylaşılması və həssas məzmunun yüklənməsi kimi hallar daxildir.

Bu cür hallar agentlərin avtonom təbiətinin və bəzən proqnozlaşdırıla bilməyən davranışlarının nəzarətsiz halda ciddi nəticələr doğura biləcəyini göstərir. Əslində, əksər şirkətlər süni intellekt sistemlərinin hansı məlumatlara nə zaman və necə daxil olduğunu dəqiq bilmir və bu prosesi idarə etməkdə çətinlik çəkirlər.

Texnologiya mütəxəssisləri süni intellekt agentlərinin məhsuldarlıq və avtomatlaşdırma baxımından yaratdığı imkanları yüksək qiymətləndirsələr də, təhlükəsizlik boşluqlarının aradan qaldırılmasının vacib olduğunu vurğulayırlar. Bu ziddiyyətli vəziyyət, süni intellekt texnologiyasının sürətlə inkişaf etdiyi dövrdə innovasiya ilə təhlükəsizlik arasında incə tarazlığın qorunmasının nə qədər vacib olduğunu bir daha göstərir.

Aydın olduğu kimi, "Matrix" və "Terminator" filmlərinin ssenariləri reallığa bir addım da yaxınlaşır...

Aydın