Süni intellektin bəşəriyyəti məhv etməsi ehtimalı 10 faizdən çoxdur

Süni intellektin sürətli inkişafının yarada biləcəyi təhlükələrlə bağlı yeni xəbərdarlıq səsləndirilib.

Modern.az xəbər verir ki, bu barədə BBC məlumat yayıb.

“Anthropic” şirkətinin süni intellekt təhlükəsizliyi üzrə tədqiqatçısı Evan Hubinger qarşıdakı 10 il ərzində süni intellektin bütün bəşəriyyətin məhvinə səbəb olması ehtimalını 10 faizdən yüksək qiymətləndirib.

Hubinger bildirib ki, hazırkı süni intellekt modellərinin yaratdığı təhlükə hələ aşağı səviyyədədir. Onu narahat edən əsas məsələ isə texnologiyanın yaxın gələcəkdə özünü təkmilləşdirə biləcək səviyyəyə çatmasıdır.

Tədqiqatçının fikrincə, süni intellekt sistemləri öz imkanlarını sürətlə artırarsa, insanların həmin sistemlər üzərində nəzarəti itirməsi mümkündür. Bu isə texnologiyanı bəşəriyyət üçün mövcudluq təhlükəsinə çevirə bilər.

Hubinger bu fikirləri əvvəllər “OpenAI” və “Anthropic” şirkətlərində çalışmış süni intellekt tədqiqatçısı Jacob Coxon-un paylaşımına cavab olaraq səsləndirib. “Anthropic”dən ayrıldığını açıqlayan Coxon hər iki şirkəti məsuliyyətsiz davranmaqda ittiham edib.

“Bu sistemlər tezliklə insanlardan üstün səviyyəyə çata bilər. Onlar istənilən sistemi sındıra, bir gecədə müxtəlif sahələrdə inqilab yarada, real güc və resurslar əldə edə bilərlər”, – Coxon bildirib.

Anthropic yeni modelini Britaniyada sınaqdan keçirməyib

Xəbərdarlıq “Anthropic”in ən yeni süni intellekt modelini Böyük Britaniyanın Süni İntellekt Təhlükəsizliyi İnstitutuna – AISI-yə təqdim etməməsi fonunda səslənib.

“Financial Times”ın məlumatına görə, şirkət yeni modelinin buraxılışdan əvvəl AISI tərəfindən sınaqdan keçirilməsinə imkan verməyib. Bu qərar Britaniya hökumətində süni intellekt modellərinin təhlükəsizliyinin müstəqil qiymətləndirilməsi ilə bağlı narahatlıq yaradıb.

BBC məsələ ilə bağlı “Anthropic”ə müraciət etsə də, şirkətin cavabı açıqlanmayıb. Böyük Britaniya Nazirlər Kabineti Ofisinin nümayəndəsi də modelin instituta təqdim olunub-olunmadığını təsdiqləməyib.

Qurum bildirib ki, hökumət “Anthropic” də daxil olmaqla texnologiya şirkətləri ilə süni intellekt modellərinin təhlükəsizliyinin artırılması istiqamətində əməkdaşlığı davam etdirir.

“Süni intellekt ABŞ–Çin yarışına çevrilib”

Kembric Universitetinin maşın öyrənməsi üzrə professoru Neil Lawrence hesab edir ki, “Anthropic”in qərarı ABŞ ilə Çin arasında güclənən texnoloji rəqabətlə əlaqəli ola bilər.

Onun sözlərinə görə, ABŞ-də süni intellekt getdikcə daha çox Çinlə strateji yarışın bir hissəsi kimi qiymətləndirilir. Vaşinqtonun bu sahədə daha qapalı siyasət yürütməsi müttəfiq ölkələrlə əməkdaşlığın azalmasına gətirib çıxara bilər.

Süni intellektin insan zəkasını üstələməsi və özünü müstəqil şəkildə inkişaf etdirə bilən “superintellekt” sistemlərinin yaranması son illərdə texnologiyanın təhlükəsizliyi ilə bağlı müzakirələrin əsas mövzularından birinə çevrilib. Bununla belə, Hubingerin səsləndirdiyi 10 faizdən yüksək göstərici elmi konsensus deyil, tədqiqatçının şəxsi risk qiymətləndirməsidir. 
Aydan Qasımova