Süni intellekt xətasından ABŞ la Çini müharibəyə başlayacaqdı

ABŞ ordusu nüvə silahı komponentləri daşıdığı iddia edilən Çin gəmisini ələ keçirməyə hazırlaşıb. Məlum olub ki, süni intellekt yükün təbiətini səhv müəyyən edib. Hadisənin təfərrüatı belədir:

Bu yaz ABŞ ordusu süni intellekt tərəfindən yaradılan yalan məlumatlar ehtiva edən kəşfiyyat hesabatı səbəbindən Çinlə müharibənin astanasında idi. CNN bu barədə vəziyyətlə tanış olan dörd mənbəyə istinadən məlumat yayıb.

Hadisə İranla müharibə fonunda baş verib. ABŞ ordusu Çin gəmisinin nüvə silahı komponentləri daşıdığı iddia edilən bir hesabat alıb. Hesabat dərhal həyəcan təbili çalıb və hərbçiləri gəmini ələ keçirməyə hazırlaşmağa sövq edib.

Silahlı ABŞ qoşunları artıq gəmiyə minməyə hazırlaşırdı və hərbi təyyarələr artıq havada idi. Vəziyyət əməliyyat başlamazdan qısa müddət əvvəl, rəsmilər məlumatın mənşəyini daha ətraflı araşdırdıqda dəyişib. Məlum olub ki, hesabat Xüsusi Əməliyyatlar Komandanlığının analitiki tərəfindən süni intellekt chatbotundan istifadə edərək hazırlanıb. Süni intellekt Çin gəmisindəki yükün təbiətini səhv müəyyən edib. CNN dəqiq yükü müəyyən edə bilməyib.

Bir mənbə hazırlanmış sənədi "tamamilə yalan" adlandırıb, lakin nəticələr daha ciddi ola bilərdi. Mənbəyə görə, səhv "az qala müharibəyəsəbəb olacaqdı". Amerikanın Çin gəmisinə qarşı hər hansı bir əməliyyatı Vaşinqton və Pekin arasında daha da gərginliyə səbəb ola bilərdi.

CNN-in məlumatına görə, analitik əvvəlcə söhbət botundan ABŞ Xüsusi Əməliyyatlar Komandanlığının Sakit Okean bölməsindən alınan gəminin manifestindəki kəşfiyyat məlumatlarını təhlil etməsini istəyib. Çat bot açıq mənbələri siqnal kəşfiyyatı ilə birləşdirib və sonra yük haqqında səhv bir nəticəyə gəlib.

Daha sonra analitik yenidən süni intellektdən istifadə edib, bu dəfə tapıntılarını standart kəşfiyyat hesabatına çevirmək üçün. Hesabat hərbi rəsmilərə paylandı və onlar bunu standart, təsdiqlənmiş analitik hesabat kimi qəbul etmiş ola bilərlər.

Hadisə ABŞ ordusunda süni intellektdən geniş istifadə fonunda baş verib. Texnologiyanın çoxlu miqdarda kəşfiyyat məlumatlarını təhlil etməkdə, zərbələr üçün hədəflərin seçilməsində, logistikada və digər tapşırıqlarda istifadəsi planlaşdırılır. Yanvar ayında ABŞ Müdafiə Naziri Pit Heqset süni intellektin sürətləndirilmiş yerləşdirilməsi strategiyasını açıqlayıb.

Eyni zamanda, CNN-ə görə, ordu və kəşfiyyat sahələrində süni intellektdən istifadə mərkəzləşdirilməmiş olaraq qalır: fərqli bölmələr fərqli sistemlərdən istifadə edir və fərqli təhlükəsizlik qaydalarına riayət edir. Bu cür vasitələrin yaratdığı məlumatların yoxlanılması üçün vahid standart yoxdur.

CNN mənbələrinə görə, ABŞ kəşfiyyat icmasında bir sistemin yalan məlumat yaratdığı sözdə süni intellekt "hallüsinasiyaları" halları artıq baş verib. Bəzi rəsmilər kəşfiyyat istehsalını sürətləndirmək üçün edilən tələskənliyin səhvlərin sayını artıra biləcəyindən qorxurlar.

Xatırladaq ki, OpenAI bu yaxınlarda təhlükəli süni intellekt model davranışının yeni hallarını aşkar edib. Xüsusilə, bir test zamanı model yaratdığı faylı icazəsiz internetə yükləyib ki, sonradan cavablarında ona istinad edə bilsin.

VƏLİ