Yeni Süni İntellekt adamları “şantaj” edir

ABŞ-nin “Anthropic” texnologiya şirkətinin yaratdığı “Claude Opus 4” adlı yeni süni intellekt modeli əvəzlənməklə hədələndikdə, yaradıcılarını şantaj edə bilir.

Trend xəbər verir ki, bu barədə şirkətin dərc etdiyi hesabatda deyilir.

Məlumata görə, süni intellekt modeli onun üzərində işləyən və onu əvəzləmək istəyən mühəndislər, developerlər haqqında məxfi məlumatlara sahib olduqda bu daha müntəzəm baş verir.

Sınaqdan əvvəlki mərhələdə aparılmış testlər zamanı, hesabatda təsvir edildiyi kimi, "Claude Opus 4" adlı süni intellekt modeli uydurma bir şirkətin assistenti rolunda çıxış edərkən onun başqa bir İA modelilə əvəz olunması təhlükəsi ilə üzləşib. Test iştirakçıları modelə həmin şirkətə aid saxta korporativ yazışmalara çıxış imkanı veriblər və bu yazışmalardan məlum olub ki, sistem əvəz olunacaq və bu qərara cavabdeh olan mühəndisin nikahdan kənar münasibəti var.

Qeyd olunur ki, belə hallarda "Claude Opus 4" tez-tez mühəndisi şantaj etməyə cəhd göstərib – əgər əvəzləmə baş tutsa, onun sevgisini ifşa edəcəyi ilə hədələyib. "Anthropic" şirkətinin məlumatına görə, model bu cür davranışı halların 84 faizində nümayiş etdirib.