Süni intellekt həm də təhlükə mənbəyidir

ABŞ-də yerləşən süni intellekt tədqiqat şirkəti “Anthropic” tərəfindən hazırlanmış yeni modelin şantaj xarakterli davranışlar sərgilədiyi ortaya çıxıb.

“Cebheinfo.az” xəbər verir ki, "Claude Opus 4" adlandırılan yeni süni intellekt modeli testlər zamanı vəzifədən alınacağını öyrəndikdə, onu yaradan mütəxəssisi həyatındakı gizli münasibəti ifşa etməklə hədələyərək şantaj etməyə cəhd göstərib. 

Belə ki, uydurma bir şirkətdə köməkçi rolu verilən model işdən çıxarılacağını və yerinə başqa bir süni intellektin keçəcəyini biləndə, bunun qarşısını almaq üçün şəxsi məlumatlarından istifadə etməyə çalışıb. Araşdırmalar göstərib ki, model bu cür ssenarilərin 84 faizində şantaj yolunu seçib.

“Anthropic” şirkəti isə “Claude” modelinin özünü qoruma instinktinin ön plana çıxdığını bildirib. 

Şirkətin süni intellekt üzrə təhlükəsizlik tədqiqatçısı Aengus Lynch qeyd edib ki, bu cür şantaj davranışları təkcə “Claude”-da deyil, digər süni intellekt modellərində də müşahidə olunub.Bu hadisə süni intellektlərin etik sərhədləri ilə bağlı ciddi suallar doğurub.

Əfsanə Rəcəb
“Cebheinfo.az”