AI sistemlərində TƏHLÜKƏ: Süni intellekt nəzarətsiz qala bilərmi?

"Sistem və modellərlə bağlı əlavə məsələlər mövcuddur. Məsələn, süni intellekt sistemlərində məlumatların toplanması, təmizlənməsi, yenidən işlənməsi (reprocessing), modelin təlimləndirilməsi, test edilməsi və nəhayət istifadəyə verilməsi (deployment) mərhələlərində zəifliklər ola bilər".
Bunu Demokrat.az-a açıqlamasında informasiya texnologiyaları üzrə mütəxəssis Natiq Məmişov deyib.
O, bildirib ki, əgər bu mərhələlərin hər hansı birində boşluq varsa, məsələn, məlumat mənbələri yetərincə yoxlanmayıbsa, modelin versiyası düzgün idarə olunmayıbsa və ya test mərhələsində yetərli monitorinq aparılmayıbsa, bu zaman sistem ciddi nasazlıqlara səbəb ola bilər:
"Bəzən sistem bütövlükdə kənar nəzarətsiz və risksiz şəkildə işləməyə başlaya bilər ki, bu da arzuolunmaz nəticələr doğura bilər. Bundan əlavə, bu problemlər yalnız lokal səviyyədə deyil, genişmiqyaslı sistemlərdə də ortaya çıxa bilər. Məsələn, hansısa inzibati strukturların, məsələn, bələdiyyələrin qərarvermə prosesində süni intellektdən istifadə etməsi prinsipial olaraq mümkündür. Bu gün bu texnologiyanı tam tətbiq etmək çətin görünə bilər, amma potensial baxımından realdır".
Onun sözlərinə görə, belə sistemlərin tətbiqində müəyyən hüquqi və inzibati çərçivələr, eləcə də sosial məsuliyyət daşıyan strukturların, məsələn, xeyriyyə fondlarının və ya bələdiyyələrin öz proseslərinə uyğun vaxt planlaması və müddət öhdəlikləri müəyyənləşdirilməsi zəruridir.
Əfsanə Kamal
Demokrat.az