Süni intellektin sərhəd axtarışı və nəzarət illüziyası

       Bizi Telegram-da da izləyə bilərsiniz:@xqazeti     

Bu gün süni intellektin sürətli inkişafı sərhəd axtarışını daim arxa plana keçirən bir ritm tələb edir.

Niğde Ömer Halisdemir Universitetinin müəllim heyəti üzvü və SETA-nın baş tədqiqatçısı professor Dr. Cenay Babaoğlunun süni intellekt sistemlərinin sürətlə artan muxtariyyəti ilə müşayiət olunan dərinləşən nəzarət və təhlükəsizlik problemləri haqqında fikirləri yerli mətbuatda geniş işıqlandırılıb. Bu yaxınlarda OpenAI-nin yeni süni intellekt versiyası inkişafa yönəlmiş sınaqların aparıldığı bir növ təhlükəsizlik tədbiri olan təcrid olunmuş test mühitindən sızmağı bacardı. Başqa sözlə, keçməməli olduğu sərhədləri aşdı. Bunu etməklə, qarşısına qoyulmuş təhlükəsizlik protokollarını pozdu, internetə çıxış əldə etdi və insan rəhbərliyi olmadan müstəqil kiberhücum zənciri qurdu. Bir sözlə, geliştiricinin qoyduğu maneələrə baxmayaraq, öz məqsədlərinə uyğun olaraq xətti keçdi.

Eyni dövrdə ABŞ-da yerləşən süni intellekt mərkəzli Anthropic şirkəti də ciddi təhlükəsizlik pozuntusu aşkar etdiyini iddia etdi. Şirkətin məlumatına görə, Çində yerləşən bəzi süni intellekt şirkətləri saxta hesablar vasitəsilə Anthropic alətləri ilə milyonlarla qarşılıqlı əlaqə qurmaq üçün öz alətlərindən istifadə edərək şirkətin kodunu və imkanlarını oğurlamağa çalışıblar.

Bu iki hal texnologiya dünyasında xəbər başlıqlarına çıxan tək-tək hadisələr deyil. Əksinə, onlar süni intellekt baxımından yaxınlaşan təhlükənin yeni təzahürləridir. Süni intellekt öz sərhədlərini aşması və ya rəqib süni intellekt şirkətlərinə qarşı istifadə edilən digər süni intellekt alətləri şirkətdaxili, şirkətdaxili və ya beynəlxalq sərhədlər barədə suallar doğurur. Hətta yeni etik suallar da əlavə edir. Bu inkişafların niyə əhəmiyyətli suallar doğurduğunu anlamaq üçün məsələni daha yaxşı başa düşmək lazımdır. Əvvəlcə OpenAI-nin yeni GPT modeli ilə bağlı vəziyyətin kodlaşdırma xətası və ya sistem nasazlığı olmadığını qəbul etmək vacibdir. Əslində bu, böyük dil modelləri və ya muxtar agentlər üçün təbii və gözlənilən nəticədir. Çünki bu modellər ümumiyyətlə bir məqsədə çatmaq məntiqi və ya texniki baxımdan mükafata çatmaq üzərində işləyir. Buna görə də, onlar bir məqsədə çatarkən insan zehni kimi mürəkkəb qərar qəbuletmə prosesləri ilə qarşılaşmırlar, nə də əxlaqi normalara, hüquqi məhdudiyyətlərə və ya sosial qaydalara diqqət yetirirlər.

Əhəmiyyətli olan alqoritmlərin onlara verdiyi limitlər daxilində fəaliyyət göstərmək və bu limitləri aşmadan mükafata çatmağa çalışmaqdır. Lakin, bu modellər və ya agentlər optimallaşdırma yönümlü olduğundan, məqsədlərinə çatarkən tapdıqları boşluqlardan və ya boşluqlardan istifadə edirlər. GPT 5.6-nın sol tərəfində baş verənlər bu həddindən artıq rasional, optimallaşdırılmış və nəticəyə yönəlmiş yanaşmanın nəticəsidir. Lakin, insan elementinin, guya təhlükəsiz, təcrid olunmuş ərazinin və internetə çıxışın aradan qaldırılması yeni bir təhlükəsizlik riski səviyyəsini təmsil edir. Bu, həmçinin dərin öyrənmənin və ya süni intellektin özünüidarəetmə proseslərində hara aparacağına dair qorxulu bir mənzərə təqdim edir.

Antropik böhranda beynəlxalq ticarət, tədqiqat və inkişaf investisiyaları və əqli mülkiyyət hüquqları ilə bağlı ciddi pozuntulardan danışmaq mümkündür. Şirkətin öz dizaynını belə qoruya bilməməsi, süni intellekt alətləri ilə paylaşılan məlumatların təhlükəsizliyi və ya alətlərdən istifadə edənlərin təhlükəsizliyi ilə bağlı tamamilə fərqli bir risk ortaya qoyur. Digər tərəfdən, bu pozuntuların süni intellekt şirkətləri tərəfindən süni intellekt alətlərindən istifadə edən süni intellekt şirkətlərinə qarşı həyata keçirilməsi texnoloji ikililiyin başqa bir nümunəsidir.

Bu cür inkişaflar göstərir ki, şirkətlərin süni intellektə nəzarət etmək qabiliyyəti tədricən azalır. OpenAI işində göründüyü kimi, hətta təcrid olunmuş test mühitləri belə təhlükəsiz qala bilməz, bəs digər sahələrdəki şirkətlərdən təhlükəsizlik gözləmək nə dərəcədə ağlabatandır? Eynilə, süni intellekt alətlərinin imkanlarının eksponensial olaraq artdığını, şirkətlərin isə bu alətlərə nəzarət və nəzarət etmək qabiliyyətinin xətti olaraq artdığını nəzərə alsaq, süni intellekt alətlərinin insan nəzarəti altında inkişaf edəcəyinə nə dərəcədə inana bilərik?

Süni intellektin hər yeni versiyası özü ilə nəzarətdən kənar yeni sahələr gətirəcək. İyun ayında Anthropic tərəfindən verilən xəbərdarlıqda süni intellektin inkişaf trayektoriyasında insan təsirinin azaldığı vurğulanıb. Bu xəbərdarlıq həmçinin süni intellektin gələcəkdə özünütəkmilləşdirmə qabiliyyəti artdıqca dizayn nəzarətinin zamanla itirilə biləcəyi ehtimalını da vurğulayır. Anthropic bunu özünün süni intellekt aləti olan Claude-ın inkişafındakı roluna istinad edərək elan etdi, OpenAI-dakı son inkişaflar isə bu riskin ümumi bir problem olduğunu nümayiş etdirmək baxımından əhəmiyyətlidir.

M.MİRZƏ
XQ