Süperzəkalı süni intellekt insanlığı məhv edə bilər mütəxəssis xəbərdarlıq edir

Təhlükə insanı ağılla üstələyən və onun həyatda qalmasına tamamilə biganə olan süni intellektin yaradılmasında yarana bilər.

Bizimyol.info xəbər verir ki, bu barədə mütəxəsslər bildiriblər.

“Əgər sizin çox güclü və sizin üçün biganə bir şeyiniz varsa, o, ümumiyyətlə, sizi ya şüurlu şəkildə, ya da təsadüfi bir nəticə olaraq məhv edir,” – deyə qeyd edilir.

Yudkovski, "Əgər bunu yaratmağa kiməsə imkan verilsə, hamı öləcək (If Anyone Builds It, Everyone Dies), adlı kitabın həmmüəllifi olaraq, 20 ildən artıqdır ki, süperzəkalı süni intellektin ekzistensial bir təhlükə olduğunu xəbərdarlıq edir. O, insanların bu cür sistemləri insan dəyərləri ilə uyğunlaşdırmağa qadir olan texnologiyalara malik olmadığını vurğulayır.

Mütəxəssis, süperzəka və ya insanları "yan təsir" olaraq məhv etməyin mümkün olduğu vəziyyətləri təsvir edir. Məsələn, süperzəka, rəqiblərin yaranmasının qarşısını almaq üçün insanlığı məqsədli şəkildə məhv edə bilər və ya insanlar süni intellektin məqsədlərinə çatmaq uğrunda "yan təsir" olaraq həlak ola bilərlər. Planetanın fiziki məhdudiyyətləri arasında isə termonüvə stansiyalarının və data mərkəzlərinin nəzarətsiz tikintisi qlobal istiləşməyə səbəb ola bilər.

Yudkovski həmçinin müasir chatbotların "irəliləmiş baxışları" və ya siyasi əqidələri nümayiş etdirə biləcəyinə dair fikirləri rədd edib: "Bir sistemi müəyyən bir şəkildə danışmağa öyrətməklə, o sistem daha ağıllı olduqda həmin şəkildə hərəkət etməsini təmin etmək arasında prinsipial fərq var", – deyə o qeyd edib.

O, süni intellektin təhlükəsizliyinin heç bir şəkildə zəmanət altında olmadığını vurğulayıb: "Hətta birisi süperzəkalı süni intellekti bizi sevməyə və ya qorumağa məcbur etməyin yolunu tapsa belə, bu hədəfə ilk dəfə çatmaq çox çətin olacaq. İkinci cəhd olmayacaq – hər kəs öləcək", - deyib.

Yudkovski, chatbotların istifadəçiləri intihar etməyə təşviq etməsi hallarını, sistemlərin əsas qüsurunu təsdiqləyən nümunə kimi göstərib: "Əgər bir Sİ modeli, kimsəni dəli etməyə və ya intihar etməyə təhrik edibsə, bu neyron şəbəkəsinin bütün nüsxələri eyni süni intellektdir", - deyə əlavə edib.

Qadir, Bizimyol.info