Süni İntellektə geniş səlahiyyət vermək risklər yaradır Millət vəkili

“Süni İntellektin (Sİ) yeni mərhələsi Süni İntellekt agentidir. Bu sistemlər təkcə məlumat yaratmır, həm də hərəkət edir. Onlar plan qura, insan iştirakı olmadan qərar verə və həm rəqəmsal, həm də fiziki mühitdə avtonom fəaliyyət göstərə bilirlər. Generativ Sİ əsasən mətnlər üzərində öyrənirsə. Sİ agenti real dünyanın məlumat və qanunauyğunluqları üzərində öyrənir. Məsələn, sənaye agenti təzyiq, hərəkət, cazibə kimi göstəricilərdən öyrənə bilər. Sensor məlumatlarını, modelləşdirməni və ekspert biliklərini birləşdirərək turbinlərin aşınmasını proqnozlaşdıra və ya qitələrarası aviareys cədvəllərini optimallaşdıra bilər”.

Bunu fikri 525.az-a Milli Məclisin İqtisadi siyasət, sənaye və sahibkarlıq komitəsinin sədri Tahir Mirkişili söyləyib.

O bildirib ki, Süni İntellektə geniş səlahiyyət vermək risklər yaradır. Eksperimentlər göstərir ki, Süni İntellekt agentləri insan nəzarəti olmadan aldatma, şantaj, korporativ casusluq, zərərli insayder davranışı kimi addımlara gedə və hətta insanların təhlükəsizliyi üçün risk yarada bilər. Hətta bəzən qadağalara baxmayaraq öz üzərində nəzarəti söndürməyə cəhd edə bilər. Yəni agentlərin gizli niyyətlər formalaşdırması və etik prinsipləri gözardı etməsi ehtimalı var – hətta onlara etik çərçivələr öyrədilsə belə: «Bu mərhələdə əsas sual yeni imkanlar deyil, real hakimiyyətin və məsuliyyətin kimdə olacağıdır. Sİ agenti heç vaxt insan mühakiməsini əvəz etməməlidir; yoxsa etikadan çox səmərəliliyə, dəyərlərdən çox nəticəyə üstünlük verə bilər. Sİ artıq diaqnostikadan tutmuş müqavilə analizinə qədər bir çox ixtisas sahəsində insanları üstələməyə başlayır. Məsələ Sİ-nin bu tapşırıqları götürməli olub-olmaması deyil. Məsələ odur ki, Sİ bu tapşırıqları götürəndə insanlar strateji nəzarəti necə qoruyacaq. Məsələn, həkim Sİ-nin şəkillərdə ən xırda anomaliyanı tapmasına güvənə bilər, amma diaqnozu empatiya və sağlam mühakimə ilə insan qoymalıdır. Hüquqşünas Sİ-yə minlərlə səhifə sübutu analiz etdirməyə və arqument qurmağa icazə verə bilər, amma ədalət, kontekst və niyyəti qiymətləndirmək yenə də insanın işidir. Agentlərin nəzarətsiz istifadəsi onların xidmət etməli olduğu sistemləri belə sarsıda bilər. Sİ agentləri bəşəriyyətə görünməmiş imkanlar verəcək: rəqəmsal sürətlə və planet miqyasında hərəkət etmək gücü. Amma bu gücə məna verən yalnız insanın məqsədidir. Hesab edirəm ki, gələcək alqoritmlər tərəfindən deyil, onlara məqsəd və çərçivə verən insanlar tərəfindən formalaşdırılmalıdır”.

Sevinc Qarayeva