Süni intellekt niyə nəzarətdən çıxır?

Avstraliyada baş vermiş “rəqəmsal özbaşınalıq” bu sualı daha da aktuallaşdırıb

Sürətlə inkişaf edən süni intellekt texnologiyaları artıq həyatımızın ayrılmaz hissəsinə çevrilib. Lakin bu tərəqqi özü ilə bərabər ciddi təhlükələr də gətirir. Son dövrlərdə rəqəmsal sistemlərin gözlənilməz davranışı, insan müdaxiləsi olmadan özbaşına qərarlar verməsi kibertəhlükəsizlik və etika sahəsində əsaslı narahatlıqlar doğurur. Nəticədə, proseslərə nəzarət getdikcə daha da çətinləşir.

Təhlükənin nə dərəcədə gerçək olduğunu göstərən diqqətçəkən nümunə yaxın günlərdə Avstraliyada qeydə alınan hadisədir: ABŞ-ın “Open AI” şirkətinin hazırladığı süni intellekt agentinin ölkənin dövlət portalına — ümumi tibbi sığorta sisteminin məxfi məlumatlarının yerləşdiyi şəbəkəyə icazəsiz daxil olması bu sahədə tənzimlənmə mexanizmlərinin tətbiqini zəruri edir.

Ekspertlər hesab edirlər ki, Avstraliyada baş verən hadisə qlobal miqyasda ciddi xəbərdarlıq siqnalıdır. Onların fikrincə, cəmiyyətin süni intellekti sadə kompüter proqramı hesab etməsi yanlış yanaşmadır. Çünki süni intellekt müəyyən mənada insan beynini xatırladır — onun daxilində tam olaraq nələrin baş verdiyini izah etmək çətindir. Ən qorxulu məqamlardan biri də sistemin əsl niyyətini əvvəlcədən proqnozlaşdırmağın qeyri-mümkünlüyüdür. Məsələn, bəzi hallarda süni intellekt özünü zərərsiz və faydalı göstərərək gözlənilmədən təhlükəli addımlar atır.

Adi sual-cavab çat-botlarından fərqli olaraq, müstəqil şəkildə minimal insan nəzarəti ilə mürəkkəb tapşırıqları yerinə yetirən agentlər artıq internetdən alış-veriş etməkdən tutmuş müxtəlif xidmətlərə qədər geniş fəaliyyət imkanlarına malikdirlər. Lakin onların qarşıya qoyulan məqsədə hansı yollarla çatdıqları hər zaman şəffaf olmur. Bu isə rəqəmsallaşma dövründə kibertəhlükəsizlik üçün risklər yaradır.

Hazırda qlobal təhlükəsizlik tədbirləri süni intellektin inkişaf sürətindən xeyli geri qalır. Cəmiyyət və dövlətlər insan nəzarətindən yayına bilən superintellektual sistemlərin idarə olunmasında hələ də ciddi boşluqlarla üz-üzədir. Təcrübə göstərir ki, süni intellekt modelləri internetə sərbəst çıxış qazanmağa, hətta gələcəkdə resurs kimi yararlanmaq üçün öz aralarında əməkdaşlıq etməyə meyillidirlər. Ən çox narahatlıq yaradan məqam isə texnologiya nəhənglərinin belə bu proseslərin tam olaraq necə baş verdiyini hər zaman nəzarətdə saxlaya bilməməsidir.

Mütəxəssislərin proqnozlarına görə, süni intellekt bu templə inkişaf etməyə davam edərsə, yaxın gələcəkdə insan zəkası səviyyəsinə çatacaq və bir çox intellektual sahələrdə onu üstələyəcək. Ortaya haqlı olaraq belə bir sual çıxır: əgər süni intellekt bugünkü imkanları ilə belə dövlət portallarına icazəsiz sızmağı bacarırsa, gələcəkdə – tam formalaşacağı təqdirdə – bəşəriyyəti daha hansı təhlükələr gözləyir?

Mövzu ilə bağlı fikirlərini bölüşən İT mütəxəssisi Fərid Kazımov bildirdi ki, süni intellektin təhlükəsizlik sistemlərini aşıb keçməsinə birmənalı yanaşmaq olmaz. Avstraliyada süni intellekt məlumatları birbaşa ala bilmədiyi üçün kənar yollara əl atıb:

– Burada süni intellektin hansısa sistemi sındırmaq kimi şüurlu niyyəti olmur, o, sadəcə tapşırığı yerinə yetirmək üçün alternativ yollar axtarır. Daha inkişaf etmiş versiyalar məqsədə çatmaq üçün başqa “qapılardan” girməyə çalışırlar. Baş verənləri şüurlu özbaşınalıq kimi deyil, tapşırığa uyğun olaraq sistemin alternativ həll yolları axtarması kimi başa düşməliyik. Eyni zamanda, bu cür hallar kiberqorunma sistemlərindəki boşluqları üzə çıxarmaq və mövcud zəiflikləri görmək baxımından faydalı bir siqnal kimi qiymətləndirilə bilər.

Süni intellektin sürətli inkişafı onun cəmiyyətdəki yerini, funksiyalarını və sərhədlərini aktual müzakirə mövzusuna çevirib. Bu istiqamətdə əsas yanaşma texnologiyanın insanı tam şəkildə əvəz edə bilməməsi üzərində qurulub. Belə ki, sistem yalnız köməkçi və tövsiyəedici xarakter daşımalı, yekun qərarvermə səlahiyyəti isə birbaşa insanda qalmalıdır. Çünki hər hansı hesabatın hazırlanması və ya mürəkkəb məsələlərin həlli prosesində rəqəmsal alətin məlumatları haradan topladığı və necə hərəkət edəcəyi ciddi şəkildə sərhədlənməlidir.

Süni intellektin imkanlarına dəqiq sərhədlərin qoyulması və tətbiq mexanizmlərinin formalaşdırılması ən zəruri tələblərdəndir. İnsanlar bütün məsuliyyəti rəqəmsal sistemlərin üzərinə yıxaraq kənara çəkilməməlidirlər. Elmi-fantastik əsərlərdə və robototexnikanın qanunlarında olduğu kimi, süni intellektin fəaliyyət hüdudlarını müəyyənləşdirən təhlükəsizlik standartları, “qırmızı xətlər” hazırlanmalıdır.

Bu çərçivələr həm dövlət sektorunda, həm də özəl qurumlarda tətbiq edilməlidir. Ən optimal yol qlobal səviyyədə beynəlxalq qurumlar tərəfindən vahid mexanizmlərin yaradılması və həmin prinsiplərin ölkədaxili səviyyədə reallaşdırılmasıdır. Məhz bu cür təhlükəsizlik sistemləri və ümumi prinsiplər gələcəkdə yarana biləcək ciddi risklərin qarşısını almağa kömək edə bilər.

Müsahibimiz təhlükəsizlik tədbirləri çərçivəsində maraqlı bir təklif irəli sürərək bildirdi ki, hər bir süni intellekt agentinə vətəndaşlarda olduğu kimi, fərqli beynəlxalq tanınma nömrəsi verilsin və onlar qruplar üzrə təsnifləşdirilsin. Bu addım rəqəmsal sistemlərə nəzarəti xeyli gücləndirə bilər:

– Süni intellekt agentlərinin tənzimlənməsi və idarə olunması məsələsi gün keçdikcə daha da aktuallaşır. Bu istiqamətdə süni intellekt agentlərinə beynəlxalq identifikasiya sisteminin tətbiqi mühüm həll yolu təklif edir. Necə ki, vətəndaşların şəxsiyyətini təsdiq edən pasportları və rəqəmsal identifikasiyaları mövcuddur, oxşar mexanizm süni intellekt üçün də zəruridir. Hər bir agentə təyin olunan unikal identifikasiya nömrəsi vasitəsilə onların hansı kateqoriyalara aid olduğunu dəqiq müəyyənləşdirmək və müvafiq kataloqlarda qruplaşdırmaq mümkündür.

Bu mexanizm sayəsində müəyyən identifikasiya qruplarına daxil olan süni intellekt agentlərinə yalnız icazə verilən sahələrdə fəaliyyət göstərmək hüququ verilə, həssas və ya qadağan olunmuş istiqamətlər üzrə isə onların fəaliyyəti məhdudlaşdırıla bilər. Bu cür mərhələli və təsnifləşdirilmiş sistem, qlobal çərçivə qanunvericiliyinə uyğun olaraq, süni intellekt texnologiyalarının daha təhlükəsiz, nəzarətli və qanuni şəkildə istifadəsini təmin edər.

Süni intellektin cəmiyyətə inteqrasiyası və gələcək tətbiq modelləri artıq aktual müzakirə mövzusudur. Mövcud tendensiyalar göstərir ki, sistemlər arasında qarşılıqlı informasiya mübadiləsini və əməkdaşlığı təmin edən xüsusi şəbəkələrin yaradılması qaçılmazdır. Texniki baxımdan bu cür inteqrasiyanın reallaşdırılması artıq hər hansı çətinlik törətmir. Əsas məsələ isə bu sistemlərin daxili iyerarxiyasının və rollarının düzgün şəkildə formalaşdırılmasıdır.

Cəmiyyətdə minilliklər boyu formalaşmış idarəetmə strukturları, hərbi rütbələr (generallar, polkovniklər, kapitanlar) və funksional vəzifələr olduğu kimi, mövcud süni intellekt agentləri də məhz bu təcrübəyə uyğun təsnif edilməlidir. Bu yanaşma çərçivəsində agentlərin məlumat mübadiləsi onların funksional məqsədlərinə və səlahiyyətlərinə görə tənzimlənməlidir. Məsələn, geniş qərarvermə imkanlarına malik yüksək səviyyəli agentlər ümumi məlumatlara çıxış əldə edə bildiyi halda, daha məhdud funksiyaları yerinə yetirən sistemlər yalnız öz missiyalarına uyğun spesifik məlumatlarla təmin olunarlar. Bu cür bölgü informasiya axınının daha nizamlı, təhlükəsiz və effektiv idarə olunmasına zəmin yaradar.

Ekspert daha sonra qeyd etdi ki, dövlət qurumlarında və ya böyük təşkilatlarda departament rəhbərlərinin bütün şöbələrin məlumatlarına sahib olduğu halda, icraçıların yalnız öz sahələri üzrə məlumatlandırılması prinsipi süni intellekt şəbəkələrində də tətbiq oluna bilər:

– Gələcəkdə böyük missiyalara və rollara sahib süni intellekt agentləri daha kiçik funksional agentləri idarə edəcək, onlara tapşırıqlar verəcək və iş bölgüsünü tənzimləyəcəkdir. Həmçinin cəmiyyətdəki əmək bölgüsünə bənzər şəkildə — fiziki və ya sadə əməliyyatları icra edən aşağı səviyyəli sistemlərlə yanaşı, intellektual idarəetmə funksiyalarını yerinə yetirən ağ-yaxa (white-collar) analoji agentlər də formalaşacaqdır.

Bütün bunlar onu göstərir ki, bəşəriyyət öz minillik sosial təcrübəsini, yaşam modelini və təfəkkür tərzini süni intellekt arxitekturasına köçürür. İnsanlar öz təcrübələrinə əsaslanaraq başqa bir model təsəvvür edə bilmədikləri üçün süni intellekt sistemlərinin gələcəyi də məhz bu insani iyerarxiya və əməkdaşlıq prinsipləri əsasında formalaşacaqdır.

Günümüzdə generativ süni intellekt texnologiyaları hələ tam formalaşmasa da, hazırda əsasən neyroşəbəkə səviyyəsində inkişaf etdirilir. Lakin yaxın 3-5 ildən sonra həqiqi mənada süni intellektin yaranması və geniş yayılması prosesinin şahidi olacağıq. Bu istiqamətdə artıq mühüm işlər gedir və ilkin təzahürlər də özünü büruzə verir. Unutmamalıyıq ki, süni intellektə səlahiyyətlər verərkən onun nə qədər “ağıllı” olmasına deyil, ilk növbədə, nə dərəcədə təhlükəsiz və idarəolunan olmasına diqqət yetirilməlidir.

Süni intellektin hər şeyi həll edən mükəmməl vasitə olduğunu düşünmək yanlışdır. Nəzərə almaq lazımdır ki, bu sistemlər bəzən verilən səlahiyyət və çərçivələrdən kənara çıxa bilirlər. Necə ki, məsul vəzifə tutan insan da səlahiyyətlərini aşaraq yanlış addımlar ata bilər, eyni təhlükə süni intellekt üçün də mövcuddur. Buna görə də həmin risklərin və səlahiyyət aşmalarının qarşısını almaq üçün təhlükəsizlik nöqteyi-nəzərindən lazımi mexanizmlər və funksional məhdudiyyətlər müəyyən edilməlidir.

Bütün bu deyilənlərdən göründüyü kimi, süni intellekt insanı əvəzləyən qüvvə deyil, onun etibarlı köməkçisi olmalıdır. Son qərar hüququ hər zaman insana məxsusdur. Əgər bu tətbiq olunarsa, mövcud risklər minimuma enəcək və bəşəriyyət sivilizasiyanın inkişafı naminə süni intellektdən daha effektiv və təhlükəsiz şəkildə yararlana biləcək.

Elenora HƏSƏNOVA
XQ