Icma.az
close
up
RU
İnsan süni intellekt üzərində nəzarəti itirə bilərmi?

İnsan süni intellekt üzərində nəzarəti itirə bilərmi?

Azpost portalından verilən məlumata görə, Icma.az xəbər yayır.

Süni intellekt tədricən insanın verdiyi tapşırıqları yerinə yetirən bir vasitədən daha mürəkkəb problemləri müstəqil həll edə bilən texnologiyaya çevrilir. Gələcəkdə süni intellekt daha güclü və yeni modellərin yaradılmasında da iştirak edə bilər.

Ekspertlər xəbərdarlıq edirlər ki, belə ssenaridə əsas təhlükə “maşınların üsyanı” deyil. Risk insanların süni intellekt sistemlərinin fəaliyyətinə nəzarət etməyə fiziki olaraq çatdırmaması ola bilər.

Azpost.info bildirir ki, bu barədə “Egeszseg Kalauz” yazır.

Söhbət rekursiv özünü təkmilləşdirmə konsepsiyasından gedir. Bu yanaşmaya görə, süni intellekt daha təkmil model yaratmaqda tərtibatçılara kömək edir. Yeni model isə növbəti versiyanın hazırlanması üçün daha geniş imkanlara malik olur. Bu proses təkrarlandıqca süni intellektin inkişaf tempi əhəmiyyətli dərəcədə sürətlənə bilər.

Hazırda belə ssenari hipotetik olaraq qalır. Müasir qabaqcıl modellər hələ də tədqiqatçıların və mühəndislərin iştirakı, sınaqlar və nəzarət tələb edir. Lakin avtonom süni intellekt agentləri inkişaf etdikcə insanın prosesdəki rolu tədricən azala bilər.

“Google DeepMind”in keçmiş tədqiqatçısı, “Sampura Research” şirkətinin yaradıcısı Rişub Cayn hesab edir ki, müəyyən şərtlər daxilində sistemlər öz imkanlarını çox sürətlə genişləndirə bilər. Bunun ən son həddi insanın tam nəzarət edə bilməyəcəyi superintellektin ortaya çıxması ola bilər.

Lakin ekspertə görə, ən real təhlükə süni intellektin qəfildən “öz iradəsinə” sahib olaraq dünyanı ələ keçirmək qərarına gəlməsi deyil. Daha real problem sistemin o qədər çox əməliyyatı belə yüksək sürətlə yerinə yetirməsi ola bilər ki, insanlar onların hər birini yoxlamağa fiziki olaraq çatdırmasın.

Süni intellekt milyonlarla əməliyyat həyata keçirə bilər

Adi çat-bot əksər hallarda insana konkret cavab verir və həmin cavabı oxuyub qiymətləndirmək mümkündür. Avtonom agent isə fərqli işləyir. O, tapşırığı müstəqil şəkildə mərhələlərə bölə, kod yaza, onlayn xidmətlərdən istifadə edə, digər proqramlarla əlaqə saxlaya və ardıcıl qərarlar qəbul edə bilər.

Gələcəkdə belə sistemlər yüz minlərlə, hətta milyonlarla əməliyyat həyata keçirə bilər. Caynın fikrincə, süni intellekt hətta bütöv bir şirkətin fəaliyyətini koordinasiya edə bilər.

Bu vəziyyətdə ənənəvi nəzarət üsullarının tətbiqi xeyli çətinləşir. Problem yalnız sürətlə bağlı deyil. Avtonom agentin davranışı onun qoşulduğu xidmətlərdən, rəqəmsal mühitdən və əvvəlki əməliyyatların nəticələrindən asılıdır. Buna görə texniki baxımdan düzgün yazılmış kod belə gözlənilməz nəticələrə səbəb ola bilər.

Əgər süni intellektin imkanları onların təhlükəsizliyini yoxlamaq üsullarından daha sürətlə inkişaf edərsə, ayrı-ayrı səhvlər genişmiqyaslı problemlərə səbəb ola bilər.

Əsas risklərdən biri kiberməkanda görünür

Avtonom süni intellektin kibertəhlükəsizlik sahəsində istifadəsi də əlavə narahatlıq yaradır. Agentə nə qədər çox səlahiyyət verilirsə, onun hansı sistemlərə çıxışının olduğu və hansı əməliyyatları həyata keçirə bildiyinə nəzarət bir o qədər vacib olur.

Strateji Risklər Şurasının baş elmi əməkdaşı Kristal Qrant bu cür sistemlərin potensial hücum xarakterli kiber imkanlarına diqqət çəkir.

Məsələn, seçki günü kritik infrastrukturun və ya elektrik təchizatının fəaliyyətini pozan kiberhücum ciddi nəticələrə səbəb ola bilər.

Digər problem isə hücumun mənbəyinin müəyyənləşdirilməsidir. Avtonom sistemlər fəaliyyətlərinin izlərini daha effektiv gizlətməyi öyrənərsə, kiberhücumun arxasında hansı ölkənin, təşkilatın və ya şirkətin dayandığını müəyyənləşdirmək çətinləşə bilər. Bu isə yanlış nəticələrə və yeni kiber qarşıdurmalar riskinin artmasına səbəb ola bilər.

Süni intellekt şirkətləri də riskləri qəbul edir

Rekursiv özünü təkmilləşdirmə məsələsi süni intellekt şirkətlərinin özündə də müzakirə olunur. “OpenAI” süni intellektin tam və təhlükəsiz şəkildə özünü təkmilləşdirməsini təmin edən hazır həllin hələ mövcud olmadığını bildirir.

Bununla yanaşı, şirkətlər tədqiqat işlərinin böyük hissəsini həyata keçirə bilən sistemləri nəzərdən keçirirlər. Bu, süni intellektin yalnız hazır texnologiyadan istifadə edən vasitə deyil, yeni texnologiyaların yaradılması prosesinin iştirakçısına çevrilməsi istiqamətində addımlardan biri ola bilər.

“Anthropic”də də oxşar xəbərdarlıqlar səslənib. Şirkətdə tam rekursiv özünü təkmilləşdirmənin nəzarətin itirilməsi riskini artıra biləcəyi qeyd olunur.

Bununla belə, bütün alimlər belə inkişafın mütləq şəkildə superintellektin qəfil ortaya çıxmasına gətirib çıxaracağını düşünmür.

Kornell Universitetinin informatika fakültəsinin dosenti Con Tikstan bildirir ki, müasir texnologiyaların fiziki və texniki məhdudiyyətləri var. Süni intellekt proqramlaşdırma və elmi fəaliyyət sahəsində daha effektiv olsa belə, bu, hər yeni modelin heç bir məhdudiyyət olmadan daha güclü sistem yarada biləcəyi anlamına gəlmir.

Nəzarətin itirilməsi birdən deyil, tədricən baş verə bilər

Bu səbəbdən ekspertlər daha az fantastik başqa bir ssenarini də nəzərdən keçirirlər. Süni intellekt elə bir anda sıçrayış etməyə və bəşəriyyətin nəzarəti dərhal itirməsinə bilər.

Əvəzində insanlar yeni modellərin hazırlanması və öyrədilməsi ilə bağlı getdikcə daha çox funksiyanı süni intellektə həvalə edə bilərlər.

Problem o zaman yarana bilər ki, proseslərin böyük hissəsini insanın daxili mexanizmini tam anlamadığı və izləyə bilmədiyi sistemlər həyata keçirsin. Bu halda nəzarət artıq ayrı-ayrı cavablara və ya kod parçalarına deyil, bütöv fəaliyyət zəncirinə yönəlməli olacaq.

Texnologiya şirkətləri arasındakı rəqabət də əlavə risk yarada bilər. Daha güclü modelləri rəqiblərdən əvvəl hazırlamaq və bazarda üstünlük qazanmaq istəyi təhlükəsizlik yoxlamalarına ayrılan vaxtın azaldılmasına səbəb ola bilər.

N.Talıblı

AzPost.az

Ən son yeniliklər və məlumatlar üçün Icma.az saytını izləyin, biz hadisənin gedişatını izləyirik və ən aktual məlumatları təqdim edirik.
seeBaxış sayı:104
embedMənbə:https://azpost.info
archiveBu xəbər 07 Oktyabr 2026 10:02 mənbədən arxivləşdirilmişdir
0 Şərh
Daxil olun, şərh yazmaq üçün...
İlk cavab verən siz olun...
topGünün ən çox oxunanları
Hal-hazırda ən çox müzakirə olunan hadisələr

Almaniya klubu “Qalatasaray”ın futbolçusuna elçi düşdü

20 Noyabr 2026 01:32see363

Bu gün Xudayar Yusifzadənin doğum günüdür

20 Noyabr 2026 06:19see340

“Eyni tempdə davam edirik” Rui Jorje

20 Noyabr 2026 21:10see279

"Sabah" "Sumqayıt"ı darmadağın etdi

20 Noyabr 2026 21:17see273

“iPhone”un 20 illiyinə özəl model üçün iki fərqli dizayn sınaqdan keçirilir

20 Noyabr 2026 22:20see270

İraola: “Belə bir şey baş verməməlidir”

20 Noyabr 2026 21:35see269

DİN və Baş Prokurorluq 2 noyabr mitinqinin təşkilatçılarına xəbərdarlıq edib

20 Noyabr 2026 06:10see263

Anthropic in səhmləri Nasdaq da ticarətin ilk günündə 17 % artıb

20 Noyabr 2026 07:19see256

Tramp: Putin Ukraynadakı müharibəni diplomatik yolla bitirmək istədiyini açıq şəkildə bildirib

20 Noyabr 2026 22:14see253

Bütün dövrlərin ən böyük kino ulduzu seçildi

20 Noyabr 2026 22:37see249

Dövlətçilik məfkurəsinə sədaqətin təcəssümü ŞƏRH

20 Noyabr 2026 21:27see241

Quba klubu ətrafında qalmaqal: FİF rəhbəri Ayaz Abdullayevin iddialarını təkzib etdi

20 Noyabr 2026 22:29see238

YAP Nizami rayon təşkilatının növbəti yeni ərazi partiya təşkilatı təsis edilib

20 Noyabr 2026 20:43see238

“Unudulmaz bir hekayə yazmağa çalışacağıq” Dambrauskas

20 Noyabr 2026 21:24see236

"Barselona" ilə oyunda inanılmaz hekayələrdən birini yazmağa çalışacağıq"

20 Noyabr 2026 22:21see235

Liderlər razılığa gəldi: Süni intellektin hərbi əməliyyatlara müdaxiləsi məhdudlaşdırılır

20 Noyabr 2026 21:29see228

“Xəstələr bilmir hara getsin, hara qaçsın” Onkoloji müalicə ilə bağlı ÇAĞIRIŞ

20 Noyabr 2026 17:30see224

Mən Ukraynada Prezident olsaydım... Tramp Putinlə söhbətində danışdı

20 Noyabr 2026 22:29see224

Ağdamda yaradıcı master klas təşkil olundu FOTO

20 Noyabr 2026 21:05see208

Cennifer Lopesdən ETİRAF: “Altı ay dayanmadan ağladım”

20 Noyabr 2026 19:20see206
newsSon xəbərlər
Günün ən son və aktual hadisələri