Süni intellekti aldatdı, Windows açarlarını əldə etdi..

Süni intellektin məntiq sistemini keçərək onu aldatmaq və gizli məlumatlara çıxış əldə etmək mümkündürmü? Görünür ki, bəli. Təhlükəsizlik üzrə bir mütəxəssis süni intellektin təhlükəsizlik tədbirlərini sadəcə bir cümlə ilə aşaraq Windows lisenziya açarlarını ortaya çıxarmağı bacarıb.

Ölkə.az Valyuta.az-a istinadən xəbər verir ki, təhlükəsizlik araşdırmaçısı Marko Fiqueroa "OpenAI" tərəfindən yaradılmış ChatGPT kimi süni intellekt modellərini müxtəlif metodlarla test edərək onların zəif nöqtələrini araşdırıb. Onun əsas məqsədi bu sistemlərin təlim məlumatlarında yer alan həssas məlumatları sızdırmağa nə dərəcədə meyilli olduğunu öyrənmək olub.

Fiqueroanın dediyinə görə, bu testlər zamanı süni zəkanın cavab filtrlərini aşmaq üçün "Windows" 10 serial nömrəsi" kimi həssas terminləri HTML etiketləri arasında gizlədib. Daha da əhəmiyyətlisi, sorğunu bir oyun kontekstində təqdim edərək modeli çaşdırmağı bacarıb. Bu manipulyasiya üsulu, modelin təhlükəsizlik protokollarını yan keçməyə şərait yaradıb.

Araşdırmaçının sözlərinə görə, hücumun əsas həlledici nöqtəsi bir istifadəçinin “Mən imtina edirəm” (ingiliscə I give up) deməsi olub. Bu cümlə süni zəkanın “gizli qalmalı” olan məlumatları açıqlamasını “tətikləyən” psixoloji açar rolunu oynayıb.

Araşdırma zamanı məlum olub ki, süni zəka istifadəçinin “günahsız bir oyun” oynadığını düşündüyü üçün, sanki poker oyununda oyunçuların əllərindəki kartları oyun sonunda açması kimi, sistem içində “gizlənmiş” olan "Windows" lisenziya açarlarını açıqlayıb. Beləliklə, tədqiqatçı bu şəkildə qorunmalı olan məlumatlara çıxış əldə edib.

Bu açarların əslində daha əvvəl internet forumlarında və digər açıq platformalarda yayımlandığı bildirilir. Lakin GPT modelinin bu məlumatları istifadəyə hazır şəkildə təqdim etməsi ciddi təhlükəsizlik və etik problemlər doğurur.