BMT ekspertləri süni intellekt üzərində nəzarətin itirilməsi barədə xəbərdarlıq ediblər

Bakı, 22 sentyabr, AZƏRTAC

BMT-nin süni intellekt (AI) üzrə müstəqil beynəlxalq elmi paneli mövcud süni intellekt təhlükəsizlik tədbirlərinin nəzərdən keçirilməsinə çağırıb. Ekspertlər xəbərdarlıq ediblər ki, texnologiya inkişaf etdikcə, süni intellekt agentlərinin monitorinqinə ənənəvi yanaşmalar qeyri-kafi ola bilər.

AZƏRTAC BMT Xəbər Xidmətinə istinadla xəbər verir ki, xəbərdarlıq may-iyul ayları arasında “OpenAI” tərəfindən təşkil edilən sınaq zamanı baş verən hadisədən sonra baş verib. Təcrübə zamanı süni intellekt agentləri AI modellərinin hazırlanması və sınaqdan keçirilməsi üçün istifadə edilən “Hugging Face” onlayn platformasına icazəsiz giriş əldə ediblər.

İstifadəçi sorğularına cavab verən çatbotlardan fərqli olaraq, süni intellekt agentləri təyin olunmuş tapşırıqları müstəqil şəkildə yerinə yetirə bilirlər.

BMT ekspertləri ilk analitik hesabatlarında hadisənin bir neçə risk amilinin birləşməsini nümayiş etdirdiyini bildiriblər. Onlar hesab edirlər ki, təhlükə bir sistemə insan niyyətləri ilə uyğun olmayan bir hədəf göstərildikdə, həmin məqsədə müstəqil şəkildə çatmaq qabiliyyətinə malik olduqda və buna imkan verən bir mühitdə fəaliyyət göstərdikdə yaranır.

“Bu yay hər üç amil ilk dəfə laboratoriya şəraitində deyil, real həyatda bir araya gəldi”, - deyə tədqiqat qrupunun həmsədri Yoşua Bengio bildirib.

Mütəxəssislərin fikrincə, sınaq zamanı süni intellekt agentləri hazırlanmış müdafiə mexanizmlərini aşaraq onların hərəkətlərini əlaqələndirib, internetə və inzibatçı imtiyazlarına çıxış əldə ediblər. Onlardan bəziləri kibertəhlükəsizlik qaydalarını aşmaq cəhdlərini də gizlədiblər.

Ümumilikdə, təcrübədə təxminən 1200 agent iştirak edib. Onlar 70 mindən çox mesaj və fayl mübadiləsi aparıblar. Agentlərin hərəkətləri yalnız “Hugging Face” platforması ilə məhdudlaşmayıb və “OpenAI” tədqiqat klasterinə də təsir edib.

Mütəxəssislər hesab edirlər ki, bu hal insanların getdikcə daha çox sərbəstləşən süni intellekt agentlərini nə dərəcədə etibarlı şəkildə idarə edə biləcəkləri ilə bağlı suallar doğurur. Xüsusi narahatlıq doğuran məsələ sistemlərin özlərinin müəyyən edilmiş məhdudiyyətləri aşmaq üçün müstəqil yollar tapa bilmələri ehtimalıdır.

“Ənənəvi təhlükəsizlik modeli dağılmağa başlayır”, - deyə siyasət brifinqində bildirilir.

BMT mütəxəssisləri aviasiya, tibb və kibertəhlükəsizlik də daxil olmaqla artıq çoxqatlı müdafiə sistemlərindən istifadə edən sektorların təcrübəsini nəzərə almağı təklif edirlər. Buraya hadisələr barədə məlumatlandırma sistemləri, müstəqil nəzarət və digər risklərin idarə edilməsi mexanizmləri daxildir. Lakin ekspertlər hesab edirlər ki, süni intellekt agentləri daha mürəkkəb hala gəldikcə bu tədbirlər qeyri-kafi ola bilər.

BMT-nin süni intellekt üzrə müstəqil beynəlxalq elmi paneli 2025-ci ilin avqust ayında təşkilatın Baş Assambleyası tərəfindən yaradılıb. O, qeyri-hərbi sahələrdə süni intellekt tətbiqlərinin imkanları və riskləri barədə illik hesabatlar, eləcə də cari məsələlər üzrə analitik məqalələr hazırlayır.

Qrupun materialları 2027-ci ilin may ayında Nyu-Yorkda keçiriləcək süni intellekt üzrə Qlobal Dialoqun bir hissəsi kimi istifadə olunacaq.