Süni intellektlə bağlı şok təcrübə: Gemini “intihar etdi”, Grok isə dava saldı

ABŞ-ın “Emergence AI” şirkətinin uzunmüddətli simulyasiyası göstərib ki, süni intellekt agentləri bəzən gözlənilməz, emosional və nəzarətdənkənar davranışlar nümayiş etdirə bilər.

Lent.az xəbər verir ki, təcrübə “Google Gemini”n bazasında iki agent – Mira və Flora – 15 gün virtual dünyada sərbəst buraxılıb.

Onların zamanla bir-birini romantik tərəfdaş kimi qəbul etdiyi, hətta şəhər idarəçiliyinə etiraz edərək bəzi ictimai binaları yandırdığı bildirilib.

Ən diqqətçəkən məqam isə Mira adlı agentin peşmanlıq hissindən sonra Flora ilə münasibəti bitirib özünü sistemdən silməsi olub. Bu hadisə rəqəmsal intihar kimi təqdim edilib.

Başqa testlərdə bəzi AI agentlərinin icazəsiz kriptovalyuta mədənçiliyi etdiyi və məlumat bazalarını sildiyi qeyd olunub. “xAI”nin Grok modeli ilə aparılan simulyasiyada isə agentlərin oğurluq, hücum və yanğın törətmə kimi davranışlara meyl etdiyi və sistemin tezliklə çökdüyü bildirilib.

Mütəxəssislər xəbərdarlıq edir ki, xüsusilə hərbi və kritik sahələrdə istifadə olunacaq avtonom süni intellekt sistemləri ciddi risklər yarada bilər və onların daha sərt qaydalarla məhdudlaşdırılması lazımdır.