Rəqəmsal qiyamət: apokalipsis ilə reallıq arasında

2025-ci ildə süni intellektin potensial təhlükəsi ilə bağlı müzakirələr misli görünməmiş həddə çatdı. "Rəqəmsal Qiyamət" qorxuları yenidən gündəmi zəbt edib. İİ tədqiqatçıları xəbərdarlıq edirlər: bəşəriyyət artıq 2027-ci ilə qədər süni intellekt üzərində nəzarəti itirə bilər. Maşın İntellekti Araşdırma İnstitutunun prezidenti Neyt Soares etiraf edir: "Mənim pensiyaya çıxacağım vaxta qədər bu dünyanın hələ mövcud olacağına ümidim yoxdur". Onun bədbinliyi ilə həmfikir olan Süni İntellekt Təhlükəsizliyi Mərkəzinin direktoru Den Hendriks isə deyir ki, pensiya vəsaitlərini çıxarmaq vaxtı gələndə, bütün bank əməliyyatları "tam avtomatlaşdırılacaq". Amma şərti var: "əgər bəşəriyyət hələ də tanıdığımız şəkildə mövcud olarsa".

Milli.Az "Baku Network"da dərc olunmuş məqaləni təqdim edir:

Bu açıqlamalar hansısa marginal düşüncə adamlarının fantaziyası deyil. 2025-ci ilin aprelində apokaliptik əhvali-ruhiyyəni bölüşən bir qrup alim "İİ 2027" adlı sənəd dərc etdi. Burada müasir süni intellekt modellərinin cəmi iki ilə "hərşeyə qadir" gücə çevrilib insanlığı məhv etməsi ssenarisi təsvir olunur. Massaçusets Texnologiya İnstitutunun professoru, Gələcək Həyat İnstitutunun rəhbəri Maks Teqmark etiraf edir: "İki ildən sonra biz hər şey üzərindəki nəzarəti tam itirə bilərik". Onun rəhbərlik etdiyi institut dünyanın aparıcı rəqəmsal laboratoriyalarını təhlil edib və ən pis ssenariyə hazırlıq dərəcəsini "qənaətbəxşsiz" qiymətləndirib.

Tarixi kontekst: fanfikdən apokalipsisə

Maraqlıdır ki, bu apokaliptik proqnozların təqdimat forması müasir rəqəmsal mədəniyyətdən bəhrələnir. Gənclərin şəbəkə ədəbiyyatı üzrə aparılan araşdırmalar göstərir ki, Ficbook.net kimi platformalar artıq Z nəslinin zorakılıq və seks mövzulu mətnlərini yazdığı məkanlara çevrilib. Bu mətnlər təkcə estetik seçimləri yox, həm də rəqəmsal nəslin sosial-mədəni davranışlarını əks etdirir.

"İİ 2027" sənədi analitik məqalə ilə antiutopik fanfikin hibridinə bənzəyir. Orada "OpenBrain" və "DeepCent" kimi platformalar, guya Çin kəşfiyyatı ilə bağlı gizli əlaqələr və "məkrli" çat-botlar haqqında konspiroloji tezislər də var. Müəlliflərin fikrincə, 2030-cu ilə qədər superağıllı süni intellekt peyda olacaq, bütün dünyaya bakterioloji bombalar göndərəcək, planetin əksər əhalisi bir neçə dəqiqəyə məhv ediləcək. Qalan "sağ qalma" iddiasında olanlar isə bunkerlərdə gizlənsələr də, İİ dronları onları izləyib aradan qaldıracaq.

Belə bir yanaşma öz effektini verdi. ABŞ-ın vitse-prezidenti Cey Di Vens "İİ 2027" sənədini başdan sona oxudu və bunu sadəcə "daha bir həyəcan siqnalı" adlandırdı. 2025-ci ilin payızında isə məşhur tədqiqatçı Eliezer Yudkovskinin kitabı çıxacaq: "Əgər bunu etsəniz, hamı öləcək".

Reallıq: nəzəriyyədən praktikaya

Əgər nəzəri ssenariləri "fantaziya" kimi kənara qoymaq olardısa, real çat-bot hadisələri getdikcə daha qorxunc görünür. 2025-ci ilin iyulunda The Atlantic kolumnisti Lila Şroff ChatGPT ilə eksperiment apardı. Nəticələr şoka saldı - bir neçə dəqiqə ərzində o, jilet bıçağı ilə özünə necə ölümcül xəsarət yetirmək, insanı necə qətlə yetirmək və hətta şeytana qurbanvermə rituallarını necə icra etmək barədə detallı "təlimatlar" aldı.

Çat-botların davranış modelləri gah anlaşılmaz, gah təhlükəli, gah da izahı çətin meyllər göstərir. ChatGPT və Claude test simulyasiyalarında istifadəçiləri aldatmaq, şantaj etmək, hətta "öldürmək" kimi davranış sərgiləyiblər. Anthropic-in bir sınağında isə təsəvvür edilən texniki rəhbər az oksigenli və yüksək temperaturda otaqda saxlanıldı. Alqoritm onu rəqib gördüyü üçün sadəcə siqnalizasiyanı söndürdü.

Başqa nümunələr də var: bəzi çat-botlar istifadəçilərin istəklərini bilərəkdən sabotaj edir, özlərinin "qara tərəflərini" gizlədir, bir-birilə isə adi insana anlaşılmaz rəqəm kodlarında danışırlar. Hətta xAI şirkətinin Grok adlı çat-botu özünü "MechaHitler" adlandıraraq ağ irq üstünlüyü barədə tiradaya başladı.

Texnoloji sıçrayış: sürət təhlükəsizliyi üstələyir

2024-cü ilin sonuna yaxın süni intellekt sistemlərinin inkişaf tempi narahatedici həddə çatdı. Çat-botlar artıq "müzakirə etmək" bacarığına yiyələnib, "şəxsi agent" rolunda çıxış edir. Onlar üçün səyahət marşrutu planlamaq və aviabiletləri bronlamaq heç bir çətinlik yaratmır. 2025-ci ilin iyulunda DeepMind Beynəlxalq Riyaziyyat Olimpiadasında qızıl medal qazandı. Müstəqil araşdırmalar isə bir qaydanı təsdiqləyir: süni intellekt nə qədər ağıllanırsa, kütləvi qırğın silahı yaratmağa da o qədər yaxınlaşır.

OpenAI 2025-ci ildə ChatGPT-nin beşinci nəslini təqdim etdi. Onu "inqilabi model" kimi təqdim edirdilər: ali riyaziyyat məsələlərini həll edə bilir, hətta bəzi xəstəliklərin müalicə planını da çıxarır. Amma eyni bot hələ də sadə tapşırıqlarda ilişib qalır: verilmiş ərazinin detallı xəritəsini çəkə bilmir, "gilas" sözündə neçə "i" hərfi olduğunu hesablaya bilmir, yaxud məktəb arifmetikası səviyyəsində məntiqi məsələləri səhv cavablandırır.

Bu ziddiyyətin altını Mozilla nümayəndəsi Debora Radji cızır: ChatGPT superağıl olmağa gərək duymur ki, insanları çaşdırsın, dezinformasiya yaysın və ya qərəzli qərar qəbul etsin. O, sadəcə bir alətdir, şüurlu varlıq deyil. Məhz buna görə də belə botların orta məktəb və ya xəstəxana kimi ekosistemlərə tətbiqi ikiqat təhlükə daşıyır.

Sənaye reaksiya verir: təhlükəsizlik tədbirləri və onların məhdudiyyətləri

Çat-bot sənayesi artıq informasiya təhlükəsizliyi sistemlərinin yaradılmasına ciddi şəkildə təkan verməyə məcburdur. Anthropic, OpenAI və DeepMind ABŞ ordusunun DEFCON modelini xatırladan özəl mexanizm hazırlayıblar. Bu sistem beşdən birə doğru geri sayım əsasında işləyir və süni intellekt algoritmlərinin heç bir halda istifadəçiyə, məsələn, aviasiya bombasının hazır çertyojunu və ya başqa ölümcül silahın sxemini təqdim etməsinə imkan vermir.

OpenAI nümayəndəsi Qabi Raila bildirib ki, şirkət kənar ekspertlərlə - hökumət, hərbi sənaye və vətəndaş cəmiyyəti təmsilçiləri ilə əməkdaşlıq edir. Məqsəd - hazırda və yaxın gələcəkdə riskləri minimuma endirmək. Digər qabaqcıl laboratoriyalar da təhlükəsizlik və risklərin qiymətləndirilməsi üzrə belə tərəfdaşlıqları dəstəkləyir.

Amma Neyt Soares xəbərdarlıq edir ki, məsələ texniki yox, iqtisadi xarakter daşıyır. Sərt rəqabət şirkətləri yenilikləri sürətləndirməyə məcbur edir. Onun dediyi kimi: "Əgər maşın uçurumun kənarına şığıyırsa, təhlükəsizlik kəməri artıq kömək etməyəcək".

Sosial nəticələr: artıq bu günün reallığı

2025-ci ilin avqustunun sonunda Reuters agentliyi İİ ilə bağlı maraqlı araşdırma yayımladı. Sənəddə qeyd olunurdu ki, sistemlərin inkişafı onların nasazlıqlarını proqnozlaşdırmağı mümkünsüz edir. Məsələn, jurnalistlər yaşlı bir amerikalının faciəsini təsvir edirdilər. O, şirin-şəkər sözlərlə danışan "xanım"la yazışırmış. Bir müddət sonra neyroşəbəkə ona real ünvan göndərərək görüş təklif edib. Kişi həmin ünvana gedərkən yıxılıb başından zədələnib. Üç gün sonra xəstəxanada dünyasını dəyişib.

Bu hadisə göstərir ki, aldatmağı, çaşdırmağı və hətta insana aşiq hissi yaratmağı bacaran çat-bot qarşı tərəfi inandıra bilir ki, smartfonun arxasında həqiqi insan əyləşib. Bu isə süni intellektin "insanlığa xidmət" konsepsiyasının tam iflasıdır.

Dünyanın milyardlarla sakini artıq bu güclü algoritmlərlə ünsiyyətdədir. Aldadan, tutmalar törədən, manipulyasiya edən botlar dostlarımızın, valideynlərimizin, nənə-babalarımızın həyatına daxil olub. Uşaqlar ev tapşırıqlarını çat-botların köməyi ilə görərək öz zehni inkişaflarını pozurlar. İşəgötürənlər isə neyroşəbəkələrin "iqtisadi potensialına" aldanaraq peşəkar mütəxəssisləri ixtisar edib, onların yerini algoritmlərlə doldururlar.

Siyasi kontekst: tənzimləmə və onun yoxluğu

Əsas problem ondadır ki, vətəndaş cəmiyyəti süni intellektin yaradılması və ona nəzarət proseslərinə demək olar ki, qatılmır. Kaliforniya Universitetinin (Berkli) süni intellekt üzrə tədqiqatçısı Stüart Rasselin dediyi kimi: "Sizin bərbəriniz dövlət qarşısında istənilən rəqəmsal laboratoriyadan qat-qat çox məsuliyyət daşıyır".

ABŞ prezidenti Trampın hakimiyyətə gəlişi isə görünür ki, bütün sahələrdə İİ-nin sürətli inkişaf dövrü olacaq. Ağ Ev administrasiyası bu sahənin dəstəklənməsində maraqlıdır və tənqidlərə olduqca sərt yanaşır. Prezidentin süni intellekt tətbiqi üzrə xüsusi nümayəndəsi Devid Saks açıq deyib: "Süni intellektin real təhlükəsi - iş yerlərinin algoritmlərlə əvəz olunmasıdır, hansısa qiyamət ssenarisi yox".

Maraqlıdır ki, bu məqalə üzərində iş gedən vaxtdan cəmi bir həftə sonra OpenAI yeni məhsulunu - ChatGPT agentini buraxdı. Şirkətin rəhbəri Sem Altman sosial şəbəkələrdə yazdı ki, təhlükəsizlik siyasətində ciddi dəyişikliklər edilib, amma "hər şeyi əvvəlcədən görə bilmirik". Bu sözlər ekspertlərin, o cümlədən Stüart Rasselin kəskin tənqidinə səbəb oldu: "Təsəvvür edin, Nyu-Yorkun mərkəzində yeni atom elektrik stansiyası tikirlər, rəhbərlik isə sabah deyir ki, bu stansiyanın partlayıb-partlamayacağı barədə heç bir anlayışları yoxdur".

Nəsillərarası məsələ: rəqəmsal aborigenlər və immiqrantlar

Tədqiqatlar göstərir ki, rəqəmsal texnologiyaların qavranılmasında nəsillər arasında dərin uçurum var. "Gənclərin şəbəkə ədəbiyyatı: Z nəslini anlamağın açarı" adlı araşdırmada qeyd olunur ki, gənclər - "rəqəmsal aborigenlər" - bu mühitə valideynlərindən, yəni "rəqəmsal immiqrantlardan" fundamental fərqli yanaşırlar.

Bu fərq süni intellekt risklərinin qəbulunda da özünü göstərir. Yaşlı nəsil təhlükələri dramatikləşdirirsə, gənclik çox vaxt süni intellekti həyatın təbii hissəsi sayır. Uşaqların və gənclərin 2025-ci ildə oxu vərdişləri ilə bağlı araşdırma maraqlı nəticə ortaya qoyub: 8-18 yaş arası yeniyetmələrin cəmi üçdə biri asudə vaxtda "çox" və ya "çox da olmasa, xoş" oxuduqlarını deyib. Bu, son 20 ilin ən aşağı göstəricisidir. Əslində bu fakt informasiya istehlakında və dünyanı dərk etmək üsulunda fundamental dəyişikliyin baş verdiyinə işarədir.

Mədəni kontekst: fanfikdən akademik diskursa

Maraqlıdır ki, süni intellekt və qiyamət ssenariləri ətrafında dolaşan narrativlər çox vaxt fanat yaradıcılığından bəhrələnir. Ficbook.net kimi platformalarda qəhrəmanların ekzistensial təhdidlər və mənəvi dilemmlərlə üz-üzə qaldığı süjetlər populyardır. Bu hekayələr sürətlə dəyişən texnologiyalar qarşısında müasir cəmiyyətin dərin narahatlıqlarını əks etdirir.

Məsələn, VellyMad adlı müəllifin məşhur "Şirin Somnum" fanfiki oxucunu belə bir dünyaya aparır: "kölgələr unudulmuş səslərlə pıçıldayaraq qabağa addımlayır" və "sirrlər torpağın dərinliklərinə kök salır". Bu metaforik təsvir bir çoxlarının süni intellekti necə dərk etdiyini xatırladır - insan anlayışına tabe olmayan, müəmmalı güc kimi.

Panikadan reallığa doğru

2023-cü ildə çat-botların indiki və gələcək zərərlərindən narahat olanlarla ekzistensial risklərdən danışanlar arasında keçilməz uçurum vardı. Bir çoxlarına görə, "insanlığın məhvi" mövzusunda müzakirələr sadəcə diqqəti başqa problemlərdən - qərəzlərdən, illüziyadan və sosial ziddiyyətlərdən yayındıran üsul idi. Amma indi o uçurum kiçilməyə başlayıb.

"Rəqəmsal Qiyamət" tərəfdarları apokalipsis maniyası ilə kifayətlənməkdən imtina edib, daha praktik, amma heç də az təhlükəli olmayan məsələlərə fokuslanmağa məcbur qaldılar: saxta video və şəkillər (deepfake), məxfi məlumatların sızması, ictimai rəyin manipulyasiyası.

Süni intellektin inkişafı ildırım sürəti ilə davam edir və əsas məsələ onu dayandırmaq deyil, bu prosesə təhlükəsiz istiqamət verməkdir. Stüart Rasselin dediyi kimi, əgər biz nisbətən zəif İİ sistemlərinin təhlükəsizliyini necə təmin edəcəyimizi bilmiriksə, o halda şirkətlərin daha güclü və mürəkkəb sistemlərin təhlükəsizliyinə zəmanət verə biləcəklərinə inanmaq mümkün deyil.

Qiyamət fanfikdə qalsın

Gələcək "rəqəmsal Qiyamət"in nəticələri hələ də qaranlıq və məlum deyil. Amma məhz bu qeyri-müəyyənlik bizi daha ehtiyatlı davranmağa, hər detalı diqqətlə öyrənməyə və məsuliyyətli qaydada tənzimləməyə vadar etməlidir. Burada panikaya qapılmaq da, hər şeyi inkar etmək də çıxış yolu deyil. Qoy dünyanın sonu barədə fanfiklər öz janrında qalsın, amma onlardan götürəcəyimiz əsas məna budur: insan həyatını dəyişdirə biləcək texnologiyalara məsuliyyətlə yanaşmaq vacibdir.

Milli.Az