İnsan süni intellekt üzərində nəzarəti itirə bilərmi?

Süni intellekt tədricən insanın verdiyi tapşırıqları yerinə yetirən bir vasitədən daha mürəkkəb problemləri müstəqil həll edə bilən texnologiyaya çevrilir. Gələcəkdə süni intellekt daha güclü və yeni modellərin yaradılmasında da iştirak edə bilər.

Ekspertlər xəbərdarlıq edirlər ki, belə ssenaridə əsas təhlükə “maşınların üsyanı” deyil. Risk insanların süni intellekt sistemlərinin fəaliyyətinə nəzarət etməyə fiziki olaraq çatdırmaması ola bilər.

Azpost.info bildirir ki, bu barədə “Egeszseg Kalauz” yazır.

Söhbət rekursiv özünü təkmilləşdirmə konsepsiyasından gedir. Bu yanaşmaya görə, süni intellekt daha təkmil model yaratmaqda tərtibatçılara kömək edir. Yeni model isə növbəti versiyanın hazırlanması üçün daha geniş imkanlara malik olur. Bu proses təkrarlandıqca süni intellektin inkişaf tempi əhəmiyyətli dərəcədə sürətlənə bilər.

Hazırda belə ssenari hipotetik olaraq qalır. Müasir qabaqcıl modellər hələ də tədqiqatçıların və mühəndislərin iştirakı, sınaqlar və nəzarət tələb edir. Lakin avtonom süni intellekt agentləri inkişaf etdikcə insanın prosesdəki rolu tədricən azala bilər.

“Google DeepMind”in keçmiş tədqiqatçısı, “Sampura Research” şirkətinin yaradıcısı Rişub Cayn hesab edir ki, müəyyən şərtlər daxilində sistemlər öz imkanlarını çox sürətlə genişləndirə bilər. Bunun ən son həddi insanın tam nəzarət edə bilməyəcəyi superintellektin ortaya çıxması ola bilər.

Lakin ekspertə görə, ən real təhlükə süni intellektin qəfildən “öz iradəsinə” sahib olaraq dünyanı ələ keçirmək qərarına gəlməsi deyil. Daha real problem sistemin o qədər çox əməliyyatı belə yüksək sürətlə yerinə yetirməsi ola bilər ki, insanlar onların hər birini yoxlamağa fiziki olaraq çatdırmasın.

Süni intellekt milyonlarla əməliyyat həyata keçirə bilər

Adi çat-bot əksər hallarda insana konkret cavab verir və həmin cavabı oxuyub qiymətləndirmək mümkündür. Avtonom agent isə fərqli işləyir. O, tapşırığı müstəqil şəkildə mərhələlərə bölə, kod yaza, onlayn xidmətlərdən istifadə edə, digər proqramlarla əlaqə saxlaya və ardıcıl qərarlar qəbul edə bilər.

Gələcəkdə belə sistemlər yüz minlərlə, hətta milyonlarla əməliyyat həyata keçirə bilər. Caynın fikrincə, süni intellekt hətta bütöv bir şirkətin fəaliyyətini koordinasiya edə bilər.

Bu vəziyyətdə ənənəvi nəzarət üsullarının tətbiqi xeyli çətinləşir. Problem yalnız sürətlə bağlı deyil. Avtonom agentin davranışı onun qoşulduğu xidmətlərdən, rəqəmsal mühitdən və əvvəlki əməliyyatların nəticələrindən asılıdır. Buna görə texniki baxımdan düzgün yazılmış kod belə gözlənilməz nəticələrə səbəb ola bilər.

Əgər süni intellektin imkanları onların təhlükəsizliyini yoxlamaq üsullarından daha sürətlə inkişaf edərsə, ayrı-ayrı səhvlər genişmiqyaslı problemlərə səbəb ola bilər.

Əsas risklərdən biri kiberməkanda görünür

Avtonom süni intellektin kibertəhlükəsizlik sahəsində istifadəsi də əlavə narahatlıq yaradır. Agentə nə qədər çox səlahiyyət verilirsə, onun hansı sistemlərə çıxışının olduğu və hansı əməliyyatları həyata keçirə bildiyinə nəzarət bir o qədər vacib olur.

Strateji Risklər Şurasının baş elmi əməkdaşı Kristal Qrant bu cür sistemlərin potensial hücum xarakterli kiber imkanlarına diqqət çəkir.

Məsələn, seçki günü kritik infrastrukturun və ya elektrik təchizatının fəaliyyətini pozan kiberhücum ciddi nəticələrə səbəb ola bilər.

Digər problem isə hücumun mənbəyinin müəyyənləşdirilməsidir. Avtonom sistemlər fəaliyyətlərinin izlərini daha effektiv gizlətməyi öyrənərsə, kiberhücumun arxasında hansı ölkənin, təşkilatın və ya şirkətin dayandığını müəyyənləşdirmək çətinləşə bilər. Bu isə yanlış nəticələrə və yeni kiber qarşıdurmalar riskinin artmasına səbəb ola bilər.

Süni intellekt şirkətləri də riskləri qəbul edir

Rekursiv özünü təkmilləşdirmə məsələsi süni intellekt şirkətlərinin özündə də müzakirə olunur. “OpenAI” süni intellektin tam və təhlükəsiz şəkildə özünü təkmilləşdirməsini təmin edən hazır həllin hələ mövcud olmadığını bildirir.

Bununla yanaşı, şirkətlər tədqiqat işlərinin böyük hissəsini həyata keçirə bilən sistemləri nəzərdən keçirirlər. Bu, süni intellektin yalnız hazır texnologiyadan istifadə edən vasitə deyil, yeni texnologiyaların yaradılması prosesinin iştirakçısına çevrilməsi istiqamətində addımlardan biri ola bilər.

“Anthropic”də də oxşar xəbərdarlıqlar səslənib. Şirkətdə tam rekursiv özünü təkmilləşdirmənin nəzarətin itirilməsi riskini artıra biləcəyi qeyd olunur.

Bununla belə, bütün alimlər belə inkişafın mütləq şəkildə superintellektin qəfil ortaya çıxmasına gətirib çıxaracağını düşünmür.

Kornell Universitetinin informatika fakültəsinin dosenti Con Tikstan bildirir ki, müasir texnologiyaların fiziki və texniki məhdudiyyətləri var. Süni intellekt proqramlaşdırma və elmi fəaliyyət sahəsində daha effektiv olsa belə, bu, hər yeni modelin heç bir məhdudiyyət olmadan daha güclü sistem yarada biləcəyi anlamına gəlmir.

Nəzarətin itirilməsi birdən deyil, tədricən baş verə bilər

Bu səbəbdən ekspertlər daha az fantastik başqa bir ssenarini də nəzərdən keçirirlər. Süni intellekt elə bir anda sıçrayış etməyə və bəşəriyyətin nəzarəti dərhal itirməsinə bilər.

Əvəzində insanlar yeni modellərin hazırlanması və öyrədilməsi ilə bağlı getdikcə daha çox funksiyanı süni intellektə həvalə edə bilərlər.

Problem o zaman yarana bilər ki, proseslərin böyük hissəsini insanın daxili mexanizmini tam anlamadığı və izləyə bilmədiyi sistemlər həyata keçirsin. Bu halda nəzarət artıq ayrı-ayrı cavablara və ya kod parçalarına deyil, bütöv fəaliyyət zəncirinə yönəlməli olacaq.

Texnologiya şirkətləri arasındakı rəqabət də əlavə risk yarada bilər. Daha güclü modelləri rəqiblərdən əvvəl hazırlamaq və bazarda üstünlük qazanmaq istəyi təhlükəsizlik yoxlamalarına ayrılan vaxtın azaldılmasına səbəb ola bilər.

N.Talıblı

AzPost.az