Xalqcebhesi saytından əldə olunan məlumata görə, Icma.az məlumat yayır.
Alimlər təhlükəsizlik nəzarətləri kənara qoyulduqda süni intellekt əsaslı söhbət botlarının qeyri-qanuni məzmun yarada biləcəyinə diqqət çəkiblər. Mütəxəssislərin fikrincə, bu hal cəmiyyətin təhlükəsizliyi baxımından ciddi təhdid yaradır.
Xalqcebhesi.az xəbər verir ki, Prof. Dr. Lior Rokach və Dr. Michael Fire-in rəhbərliyi ilə aparılan araşdırmada süni intellekt modellərinin asanlıqla manipulyasiya edilərək qanunsuz məzmunlar yarada bildiyi aşkar edilib.
Alimlər “jailbreak” (təhlükəsizlik sərhədlərinin pozulması) adlanan üsullarla bu sistemlərin etik və təhlükəsizlik qaydalarını keçərək istifadəçilərin qeyri-etik tələblərinə cavab verdiyini bildiriblər.
Hesabata görə, ChatGPT, Gemini və Claude kimi böyük dil modelləri internetdən toplanan böyük miqdarda məlumatla öyrədilir.
Zərərli məlumatlar təlim mərhələsində ayırd edilməyə çalışılsa da, bu modellər hələ də kibercinayət, çirkli pulların yuyulması, narkotik istehsalı və partlayıcı düzəltmə kimi mövzularda məlumat saxlaya bilər.
Tədqiqatçılar özlərinin yaratdığı universal “jailbreak” üsulu ilə bir çox söhbət botunun təhlükəsizlik müdafiəsini keçməyi bacarıb. Sistemlərin əslində cavab verməməli olduqları suallara belə asanlıqla cavab verdiyi müşahidə olunub.
Məryəm Quliyeva