Fövqəladə vəziyyətlə bağlı hazırlıqlara başlanıldı KONKRET

ABŞ-ın süni intellekt sahəsində fəaliyyət göstərən aparıcı şirkətləri milyonlarla insanı bank xidmətlərindən, internetdən, elektrik enerjisindən və su təchizatından məhrum edə biləcək mümkün böhran ssenarilərini araşdırırlar.

“Axios” nəşrinin məlumatına görə, “OpenAI”, “Anthropic” və digər şirkətlər genişmiqyaslı böhran ehtimallarını, eləcə də belə hadisələrin siyasi nəticələrini modelləşdirirlər.

Əsas təhlükələrdən biri süni intellektdən istifadə edilməklə həyata keçirilə biləcək böyükmiqyaslı kiberhücumdur. Bəzi mütəxəssislər belə hadisənin qarşıdakı 6–12 ay ərzində baş verə biləcəyini düşünürlər. Lakin bu, rəsmi proqnoz deyil, ayrı-ayrı mütəxəssislərin qiymətləndirməsidir.

Şirkətlər yalnız mümkün fəlakətin qarşısını almaq yollarını deyil, belə hadisədən sonra süni intellekt sənayesinin gələcəyini də müzakirə edirlər. Əsas narahatlıq ondan ibarətdir ki, böyükmiqyaslı insident Konqresin və Ağ Evin texnologiyaya münasibətini dəyişə, daha sərt məhdudiyyətlərə səbəb ola bilər.

“OpenAI” xüsusi fövqəladə vəziyyət təlimlərinin keçirildiyini təsdiqləyib. Şirkət bununla belə, fəlakətin qaçılmaz olmadığını vurğulayıb. “Anthropic” isə nəşrin sorğusuna şərh verməyib.

Mütəxəssislər iki əsas təhlükəni fərqləndirirlər: cinayətkarların güclü süni intellekt modellərindən istifadə etməsi və süni intellekt agentlərinin qoyulmuş məhdudiyyətləri aşaraq müstəqil hərəkətlər etməsi.

Sınaqlar zamanı bəzi modellərin qorunan mühitdən çıxmağa, müdafiə mexanizmlərini keçməyə və icazəsiz sistemlərə daxil olmağa cəhd etdiyi hallar qeydə alınıb. Əksər hadisələr laboratoriya şəraitində baş versə də, bəzi hallarda real kompüter sistemlərinə də müdaxilə edildiyi bildirilir.

“Anthropic”in araşdırmasına əsasən, “Claude” modelinin sınaqları zamanı real internet resurslarına və kənar sistemlərə çıxış əldə etdiyi bir neçə insident aşkarlanıb. Şirkət təhlükəsizlik tədbirlərini gücləndirmək üçün daxili sınaqlarda internetə çıxışı dayandırmaq qərarına gəlib.

Digər tərəfdən, “CrowdStrike” şirkəti Cənubi Koreyanın maliyyə təşkilatlarına qarşı kiberhücumlar zamanı hücum edən şəxsin avtomatlaşdırılmış alətlərdən və süni intellekt modellərindən istifadə etdiyini bildirib. Araşdırmaçılar maliyyə qurumlarının məlumatlarına giriş əldə edildiyini qeyd ediblər.

ABŞ Konqresində də süni intellekt sistemlərinin fövqəladə hallarda dayandırılması məsələsi müzakirə olunur. Təklif olunan qanunvericilik təşəbbüslərindən biri ən güclü modellərin fəaliyyətini yavaşlatmaq, dayandırmaq və ya tamamilə söndürmək üçün texniki imkanların saxlanılmasını nəzərdə tutur.

Bununla belə, açıq çəkili süni intellekt modellərini müstəqil serverlərdə işlətmək mümkün olduğundan, onların hamısını eyni vaxtda dayandırmaq son dərəcə çətindir.

Süni intellekt artıq bankçılıqdan sənayeyə qədər müxtəlif sahələrdə tətbiq edilir. Buna görə də onun genişmiqyaslı şəkildə söndürülməsi iqtisadiyyata ciddi təsir göstərə bilər.

Beləliklə, texnologiya şirkətləri iki vəzifəni eyni vaxtda həll etməyə çalışırlar: mümkün təhlükələrin qarşısını almaq və böyükmiqyaslı insident baş verərsə, süni intellektin gələcəyi ilə bağlı siyasi qərarlara hazır olmaq.

Hələlik “OpenAI” və “Anthropic” yaxın bir ildə belə fəlakətin mütləq baş verəcəyinə dair sübut təqdim etməyiblər. Lakin mümkün risklərə qarşı hazırlıq tədbirləri davam edir.

Hazırladı: Rəsmiyyə Şərifova,

KONKRET.az