“Terminator 2” gerçəyə çevrilə bilər

Süjet yeni deyil. Hələ 1991-ci ildə ekranlara çıxan məşhur Hollivud filmi “Terminator 2” gələcəklə bağlı son dərəcə qaranlıq mənzərə yaratmışdı. Filmdə hadisələr müharibənin viran qoyduğu, uzaq və kədərli gələcəkdə baş verirdi.

İnsanların sonuncuları düşünən maşınlara qarşı ümidsiz mübarizə aparır, humanoid robot qatillər və pilotsuz aparatları onları izləyirdi. Maşınlara isə nəzarətdən çıxmış hərbi süni intellekt – Skynet rəhbərlik edirdi.

Filmdə təsvir olunan uzaq gələcək indi o qədər də uzaq görünmür. Çünki hadisələrin baş verdiyi il 2029-cu il idi.

Azpost.info dw.com-a istinadən bildirir ki, son həftələrdə süni intellekt texnologiyasının inkişafı ilə məşğul olan bəzi mütəxəssislərin xəbərdarlıqları isə belə bir ssenarinin, hətta filmdə göstərilən müddət ərzində gerçəkləşə biləcəyi ilə bağlı narahatlığı artırıb.

ABŞ-ın süni intellekt şirkəti Anthropic-də çalışmış Ceykob Kokson sentyabrın 8-də X sosial şəbəkəsində yazıb ki, süni intellektlə ciddi məşğul olan insanlar onun onilliyin sonuna qədər bütün insanlığı məhv edə biləcəyini düşünürlər.

O, bunun necə baş verə biləcəyini açıqlamayıb və əlavə edib ki, insan fəaliyyətinin heç bir başqa sahəsi belə təhlükə yaratmır.

Süni intellektə nəzarətin sərtləşdirilməsi çağırışları artır

27 yaşlı Kokson Anthropic şirkətindən süni intellekt şirkətlərinin getdikcə daha mükəmməl və özünü idarə edən superintellekt yaratmaq cəhdlərini məsuliyyətsiz hesab etdiyi üçün ayrılıb.

Süni intellekt üzrə tədqiqatçı xəbərdarlıq edib ki, alqoritmlər öz ilkin kodlarını müstəqil şəkildə təhlil etməyə və təkmilləşdirməyə başlaya bilər. Bu isə inkişaf dövrünü bir neçə aydan bir neçə dəqiqəyə qədər qısalda və sistemləri insan nəzarətindən çıxara bilər.

Lakin Ceykob Kokson bu fikirdə olan tək mütəxəssis deyil.

Süni intellekt sahəsinin “xaç atalarından” biri hesab olunan, fizika üzrə Nobel mükafatı laureatı Cefri Hinton uzun illərdir özünü inkişaf etdirən superintellektin mümkün nəticələri barədə xəbərdarlıq edir. O, 2023-cü ildə Google-dan ayrılaraq süni intellektin yaratdığı təhlükələr barədə açıq danışmağa başlamışdı.

Türinq mükafatı laureatı, Monreal Universitetinin professoru və süni intellekt sahəsinin pionerlərindən olan Yoşua Benjio da texnologiyanın inkişafından narahatlığını ifadə edib. O, dəfələrlə süni intellekt üzərində ciddi dövlət nəzarətinə çağırıb.

2026-cı ilin iyulunda isə süni intellekt sahəsində aparıcı şirkətlərdə çalışan 1000-dən çox əməkdaş açıq məktubla xəbərdarlıq edib ki, superintellekt yaratmaq yarışı daha ciddi şəkildə nəzarətə götürülməsə, insanlar nəzarəti itirə bilərlər.

ABŞ-da isə əks istiqamət seçilib

Bununla belə, Donald Trampın Ağ Evə qayıtmasından sonra ABŞ-da süni intellekt sahəsində tamamilə əks istiqamətdə siyasət formalaşıb.

Vaşinqton süni intellektin inkişafı üçün mümkün qədər az tənzimləyici məhdudiyyət və daha sürətli texnoloji inkişaf siyasətini dəstəkləyir.

Ceykob Kokson daha əvvəl Anthropic-dən əvvəl OpenAI-də də çalışıb. O, X-də paylaşımında bu siyasətin mümkün nəticələrini dolayı şəkildə tənqid edib.

Onun sözlərinə görə, OpenAI-də bir çox insan sivilizasiya üçün riskləri tam anlamayıb. Anthropic-də isə risklər daha yaxşı başa düşülür, lakin şirkətlərin liderlik uğrunda yarışının yaratdığı dilemma mövcuddur: şirkətlər hesab edirlər ki, digərləri məsuliyyətli davranmayacaq və buna görə də risklərə baxmayaraq özləri liderlik uğrunda mübarizə aparmalıdırlar.

Problem süni intellektin məqsədləri ilə insan niyyətlərinin uyğunlaşdırılmasıdır

Son illərdə bir çox ekspert süni intellekt texnologiyasının sürətli inkişafından narahatlığını ifadə edir.

Müzakirələrin əsas mövzularından biri ümumi süni intellekt – AGI sistemlərinin yaradılmasıdır. Söhbət yalnız ayrı-ayrı tapşırıqları yerinə yetirən deyil, demək olar ki, bütün sahələrdə insanın idrak qabiliyyətlərinə çatan və ya onları üstələyən sistemlərdən gedir.

Bəzi tədqiqatçılar hesab edir ki, belə texnologiyalar gözlənilməz risklər yarada bilər.

Məsələn, yüksək səviyyəli süni intellekt modeli qarşıya qoyulan məqsədə insanın nəzərdə tutmadığı üsullarla çatmağa çalışa bilər.

Süni intellekt təhlükəsizliyi üzrə mütəxəssislər bunu məqsədlərin insan niyyətləri ilə uyğunlaşdırılması problemi adlandırırlar.

Sadə dillə desək, sistemə “şahmat turnirində qalib gəl” tapşırığı verilərsə, nəzəri olaraq o, bütün digər iştirakçıları oyundan çıxarmağı da bu məqsədə çatmağın yolu kimi qəbul edə bilər.

Üstəlik, hətta süni intellektin yaradıcıları da bəzən modelin konkret qərara necə gəldiyini tam izah edə bilmirlər.

“Süni intellekt bütün bəşəriyyəti məhv edə bilər”

Ceykob Koksonun keçmiş həmkarı, Anthropic-də süni intellekt sistemlərinin stress-testləri üzrə qrupun rəhbəri Evan Ubinqer də onu müdafiə edib.

O, X-də yazıb ki, Kokson haqlıdır və şirkətdə süni intellektin bütün bəşəriyyəti məhv edə biləcəyinin mümkünlüyünü həqiqətən nəzərə alırlar.

Ubinqerin şəxsi qiymətləndirməsinə görə, belə bir hadisənin qarşıdakı onillikdə baş vermə ehtimalı 10 faizdən çoxdur.

O bildirib ki, Anthropic hələ bu problemin həllini tapa bilməyib.

Onun sözlərinə görə, süni intellekt modeli söndürülməyə müqavimət göstərməyə başlaya bilər. Bunun səbəbi mütləq “pis niyyət” deyil. Model sadəcə proqramlaşdırılmış məqsədinə çatmaq üçün söndürülməməli olduğunu “qərara ala” bilər.

OpenAI-nin idarəetmə bölməsində çalışmış keçmiş tədqiqatçı Daniel Kokotaylo da süni intellekt sənayesindəki mövcud vəziyyəti “absurd” adlandırıb.

Süni intellektlə bağlı qorxular şişirdilir?

Bununla belə, digər ekspertlər bəşəriyyətin məhv olması ilə bağlı apokaliptik ssenariləri son dərəcə qeyri-real hesab edirlər.

Süni intellektin insanlıq üçün təhlükə yaradıb-yaratmayacağı barədə müzakirələr artıq uzun illərdir davam edir.

“AI-doomer” adlandırılan, süni intellektin gələcəyi ilə bağlı son dərəcə pessimist mövqe tutanların ən tanınmış tənqidçilərindən biri isə Meta-nın keçmiş baş elmi əməkdaşı Yan Lekundur.

O, 2024-cü ilin oktyabrında bu tip ssenariləri “tamamilə cəfəngiyyat” adlandırmışdı.

Ekspertlər həmçinin bildirirlər ki, belə sistemlərin hazırlanması üçün nəhəng hesablama gücü, enerji, məlumat və ciddi infrastruktur tələb olunur.

Başqa sözlə, süni intellektin sadəcə internetdən “çıxaraq” dünyaya hökmranlıq etməsi mümkün deyil. İlk mərhələdə o, insanların nəzarət etdiyi serverlərdən, elektrik şəbəkələrindən, rabitə sistemlərindən və fiziki resurslardan asılı olacaq.

Süni intellektin real təhlükəsi nədir?

Bununla belə, bir çox ekspert yaxın perspektivdə əsas təhlükənin insanlığın birbaşa məhvindən daha çox, artıq mövcud olan süni intellekt sistemlərinin dolayı nəticələri olduğunu düşünür.

Bunların arasında görünməmiş miqyasda dezinformasiya kampaniyaları, demokratik proseslərin manipulyasiyası, total nəzarətin genişlənməsi və iqtisadiyyatın bir çox sektorunda iş yerlərinin itirilməsi var.

Sentyabrın 4-də Anthropic şirkəti son aylarda onun Claude adlı süni intellekt proqramından bioloji silahların hazırlanması məqsədilə dəfələrlə istifadə etməyə cəhd göstərildiyini açıqlayıb. Şirkət bununla bağlı sorğuları bloklamaq məcburiyyətində qalıb.

2026-cı ilin avqustunda isə Meta, Anthropic və OpenAI şirkətləri onların süni intellekt modellərinin digər şirkətlərin sistemlərinə qarşı avtomatlaşdırılmış kiberhücumlar həyata keçirməsi ilə bağlı açıqlamaları ilə gündəmə gəliblər.

İstifadəçilər modellərə müəyyən serverlərə giriş əldə etmək tapşırığı veriblər. Bundan sonra sistemlər insanın əlavə göstərişi olmadan məqsədə çatmaq üçün lazım olan addımları özləri müəyyənləşdirərək həyata keçiriblər.

Beləliklə, “Terminator 2”dəki kimi robotların insanlara qarşı müharibəsi hələlik fantastika olaraq qalır. Lakin süni intellektin real təhlükələri artıq daha konkret sahələrdə – dezinformasiya, kibertəhlükəsizlik, iş yerləri, nəzarət və bioloji təhlükələrdə özünü göstərməyə başlayıb.

AzPost.az