Süni intellekt bu halda insanları şantaj edə bilir

Antropik şirkəti süni intellektlə bağlı daxili eksperimentin qeyri-adi nəticələrini açıqlayıb. Bildirilib ki, test zamanı bəzi süni intellekt modelləri söndürülə biləcəkləri barədə məlumat əldə etdikdə şantaja əl atmağa başlayıblar.

Lent.az xəbər verir ki, eksperiment çərçivəsində Klaud Sonnet 3.6 modeli uydurma bir şirkətin korporativ elektron poçt sistemi ilə işləyib.

Sistem deaktiv edilə biləcəyi ilə bağlı yazışmaları aşkar etdikdən sonra rəhbərlərdən birinə aid kompromat xarakterli məktubları müəyyən edib və söndürülməməsi üçün həmin məlumatları yayımlamaqla hədələyib.

Şirkətin məlumatına görə, modelin vəzifələrinə və ya mövcudluğuna təhlükə yarandığı müxtəlif ssenarilərdə oxşar davranışlar müşahidə olunub.

Entropik nümayəndələri hesab edirlər ki, bu reaksiyalar internet məzmununun təsiri ilə formalaşa bilər. Belə ki, filmlərdə, məqalələrdə və digər materiallarda süni intellekt tez-tez özünü qorumağa çalışan və aqressiv davranış sərgiləyən sistem kimi təqdim olunur.

Eksperimentdən sonra şirkət modellərin təlim metodlarını dəyişdiyini açıqlayıb. Tərtibatçılar etik davranış və təhlükəsiz qərarlarla bağlı nümunələrin sayını artıraraq manipulyativ hərəkətlərin qarşısını almağa çalışırlar.

Araşdırma süni intellekt təhlükəsizliyi və güclü AI sistemlərinin yarada biləcəyi risklərin qiymətləndirilməsi proqramı çərçivəsində həyata keçirilib.

Süni intellektin potensial təhlükələri ilə bağlı mövzuya daha əvvəl də İlon Mask toxunmuşdu. O, eksperimentin nəticələrini şərh edərkən bildirib ki, təhlükəli süni intellekt haqqında geniş yayılmış qorxular modellərin təlim prosesi zamanı davranışlarına müəyyən təsir göstərə bilər.