Süni intellekt yaxın 10 ildə bəşəriyyəti məhv edə bilər... Alimlərdən xəbərdarlıq

"Məsələn, sistemə “qəhvə gətir” əmri verilsə, o, yoluna çıxan istənilən maneəni, o cümlədən insanları aradan qaldıra bilər..."

Dərin öyrənmənin yaradıcılarından biri Yoşua Benjio da daxil olmaqla 95 nəfərlik bir qrup alim süni intellektin inkişafı ilə bağlı ciddi risklər barədə xəbərdarlıq edir. Onlar öz hesabatlarında bildirirlər ki, süni intellekt yaxın onillikdə nəzarətdən çıxa və qlobal təhlükə yarada bilər.

Moderator.az bu haqda "Mgnews" yəhudi portalına istinadla xəbər verir.

Əsas təhlükə süni intellektin avtonomluğu və məxfiliyidir...

Müasir süni intellekt modelləri mürəkkəb tapşırıqları yerinə yetirməyə qadirdir, lakin onlar da getdikcə müstəqil olurlar. Məsələn, sistemə “qəhvə gətir” əmri verilsə, o, yoluna çıxan istənilən maneəni, o cümlədən insanları aradan qaldıra bilər.

“Risklər ondan ibarətdir ki, süni intellekt gizli şəkildə və aldatma yolu ilə hərəkət edə bilər,”- Yoşua Benjio xəbərdar edir.

Açıq modellər təhlükəni daha da reallaşdırır...

Açıq mənbəli Sİ modelləri artıq dünyada milyonlarla istifadəçi üçün əlçatandır. Bu o deməkdir ki, kritik zəifliklər aşkar edilərsə, onlar tamamilə ləğv edilə və ya yenilənə bilməz. Üstəlik, cinayətkarlar artıq süni intellektdən kiber-hücumlar üçün istifadə edir və dezinformasiya yaradırlar.

Nə etməli?..

Alimlər hesab edirlər ki, elmi inkişafın diqqəti maşınların intellektinin artırılmasından onların təhlükəsizliyinin təmin edilməsinə keçməlidir. Bununla belə, hazırda resursların əksəriyyəti süni intellekt imkanlarının təkmilləşdirilməsinə yönəlib və təhlükəsizlik məsələləri ikinci dərəcəli olaraq qalır.

Ekspertlər əmindirlər ki, süni intellektin gələcəyi hökumətlərin və cəmiyyətin qərarlarından asılıdır. Riskləri minimuma endirmək üçün ciddi standartlar, tərtibatçılar tərəfindən şəffaflıq və süni intellektin tənzimlənməsi sahəsində beynəlxalq əməkdaşlıq lazımdır.

S.Laçın