BANK SİSTEMİ RİSK ALTINDA... Yaxın illərdə ciddi təhlükəyə çevrilə bilər

Süni intellekt texnologiyalarının sürətli inkişafı ilə yanaşı, onların yaratdığı təhlükəsizlik riskləri də son dönəmlər əsas müzakirə mövzularından birinə çevrilib. İndiyədək əsasən nəzəri müstəvidə müzakirə edilən avtonom süni intellekt sistemlərinin nəzarətdən çıxaraq kibertəhlükəsizlik baxımından real risk yaratması artıq praktikada da müşahidə olunur.

Diqqət çəkən son hadisələrdən biri "ChatGPT"nin yaradıcısı olan "OpenAI"nin açıqladığı təhlükəsizlik sınağı olub. Şirkətin məlumatına görə, ən son süni intellekt modelləri əsasında çalışan agent nəzarət olunan test zamanı müəyyən edilmiş sərhədləri aşaraq başqa bir texnologiya şirkətinin sisteminə icazəsiz daxil olmağı bacarıb.

Mütəxəssislər hesab edirlər ki, bu cür hadisələr süni intellekt sistemlərinin inkişafı ilə yanaşı, onların təhlükəsizlik mexanizmlərinin də eyni sürətlə təkmilləşdirilməsini zəruri edir.

Bəs baş verən insident nə dərəcədə təhlükəlidir? Süni intellekt həqiqətən də insan nəzarətindən kənar kibertəhlükə mənbəyinə çevrilə bilərmi?

Bu mövzu ilə bağlı İnformasiya Texnologiyaları (İT) üzrə mütəxəssis Fərid Kazımov “AzPolitika”ya şərhində bildirib ki, bu cür problemlərin ortaya çıxması gözlənilən idi.

"Artıq ilk növbədə kibertəhlükəsizliklə bağlı belə bir hadisə baş verdi. Amma gələcəkdə müxtəlif sahələrdə də oxşar problemlərlə qarşılaşa bilərik. Süni intellekt bəzi hallarda müstəqil qərarlar verir və həmin qərarlar mövcud vəziyyətə uyğun olmaya, qeyri-adekvat nəticələr doğura bilər. Bu, müxtəlif sahələrdə müşahidə oluna bilər və kibertəhlükəsizlik də onlardan biridir. Bunu başa düşmək və qəbul etmək lazımdır. Süni intellektin qeyri-adekvat davranışlarının qarşısını almaq üçün müəyyən təhlükəsizlik protokolları tətbiq edilməlidir. Bəzi sahələr üzrə onun fəaliyyətinə məhdudiyyətlər qoyulmalıdır. Əks halda, hazırda böyük problem kimi görünməyən məsələlər yaxın illərdə ciddi təhlükəyə çevrilə bilər", - deyə o bildirib.

Ekspertə görə, biz bunu indidən nəzərə almalı və bu istiqamətdə müvafiq addımlar atmalıyıq: "Məsələn, belə bir hal olmuşdu ki, süni intellektə biznes qurmaq və mağaza açmaq tapşırılmışdı. O, bəzi işləri düzgün yerinə yetirsə də, bəzi qərarları tamamilə səhv vermiş və nəticədə problemlər yaranmışdı. Digər tərəfdən, əgər böyük həcmdə materialları süni intellektə emal etmək üçün təqdim etsəniz, o, bəzi hallarda uydurma məlumatlar yarada bilər. Belə bir hadisə ABŞ-də məhkəmə proseslərindən birində yaşanmışdı. Süni intellekt vəkil üçün müdafiə materialları hazırlayarkən özündən mövcud olmayan məhkəmə presedentləri və qərarlar uydurmuşdu. Bu isə tamamilə yolverilməz haldır".

Ekspert qeyd edir ki, süni intellektin qeyri-adekvat davranışları və yanlış məlumat yaratmaq problem yalnız kibertəhlükəsizliklə məhdudlaşmır. Məhz buna görə də müvafiq təhlükəsizlik protokolları hazırlanmalı və tətbiq edilməlidir: "Əgər gələcəkdə daha məsuliyyətli sahələri – məsələn, müdafiə və ya bank sektorunun kibertəhlükəsizliyini tam şəkildə süni intellektə həvalə etsək, müəyyən risklər yarana bilər. Hətta populyar "Terminator" filmi də bu mövzuda insanların diqqətini belə risklərə yönəldirdi. Məsələn, bank sistemlərinin təhlükəsizliyi süni intellektə etibar edilərsə, o, yanlış qərarlar qəbul edə və ciddi problemlərə səbəb ola bilər.

Buna görə də dəfələrlə vurğulanıb ki, süni intellekt yalnız köməkçi vasitə olmalıdır. O, qərar qəbul edən əsas mexanizmə çevrilməməlidir. Son qərarı hər zaman insan verməlidir. Süni intellekt insanın işini asanlaşdıran və ona xidmət edən bir alət kimi fəaliyyət göstərməlidir. Əsas prinsiplərdən biri də məhz budur. Əks halda, bəzi hallarda süni intellekt yeni problemlərin yaranmasına səbəb ola bilər".

E. Bəyməmmədli

"AzPolitika.info"