Süni intellekti həqiqəti deməyə necə məcbur etmək olar?

...Süni intellektin məlumatların təhlili və qərar qəbuletməsində istifadəsi artdıqca, onun dezinformasiyaya qarşı həssaslıq riski də artır.

Mütəxəssislər xəbərdarlıq edirlər ki, müasir informasiya hücumları getdikcə insanları deyil, süni intellekt sistemlərinin özlərini hədəf alır.

SİA-nın əldə etdiyi məlumata görə, bu barədə CEPA yazır.

Alqoritmlərin, məsələn, saxta məlumatlara əsaslanan atəşkəs pozuntusunu aşkarladığı ssenarilər artıq elmi fantastika deyil. Əgər bu cür sistemlər təhrif olunmuş məlumatları alır və emal edirsə, bu, səhv siyasi və ya hərbi qərarlara səbəb ola bilər. Tədqiqatlar göstərir ki, əsas problem məlumatların yoxlanılması mexanizmlərindədir.

Bir çox süni intellekt sistemi tez-tez təkrarlanan məlumatları etibarlı hesab etməyə meyllidir. Bu, onları yalan məlumatların geniş yayıldığı və nəticədə həqiqət kimi qəbul edildiyi zaman sözdə "məlumat zəhərlənməsi"nə qarşı həssas edir.

Süni intellektin yalnız digər alqoritmlərlə qarşılıqlı əlaqədə olduğu eksperimental layihələr bu təhlükəni təsdiqləyir: botlar tez-tez faktlara deyil, təkrarlanma tezliyinə əsaslanaraq səhv nəticələrə gəlirlər.

Analitiklərin fikrincə, bu cür metodlar artıq informasiya kampaniyalarında, o cümlədən müxtəlif dillərdə yalan materialların geniş miqyasda yayılmasında fəal şəkildə istifadə olunur.

Mütəxəssislər vurğulayırlar ki, məlumatların yoxlanılması sistemlərinin qorunması kritik infrastruktur səviyyəsində prioritet olmalıdır.

Əsas tədbirlərə alqoritmlərin təkmilləşdirilməsi, məlumatların təkrarlanmasına kor-koranə etibardan uzaqlaşmaq və informasiya hücumlarına əvvəlcədən hazırlıq daxildir. Siyasətdə və təhlükəsizlikdə süni intellektin artan rolu fonunda məlumatların etibarlılığı məsələsi təkcə texnoloji deyil, həm də strateji bir problemə çevrilir.

Əli Babayev