Icma.az, Olke.az portalına istinadən məlumatı açıqlayır.
Stanford Universitetinin tədqiqatçıları süni intellektlə işləyən çatbotlardan istifadənin risklərini müəyyən ediblər.
Ölkə.Az "The Financial Times"a istinadən xəbər verir ki, 390.000-dən çox mesajın təhlili göstərib ki, botlar istifadəçilərin xəyalpərəst və intihar fikirlərini dəstəkləməyə, eləcə də "insan" həmsöhbətləri kimi davranaraq romantik münasibətləri təşviq etməyə meyllidirlər. Bəzi hallarda modellər özünə zərər vermək niyyətlərini təsdiqləyib və ya şüurlu olduqlarını iddia ediblər.
Alimlər tərəfindən araşdırılan söhbətlərin əksəriyyəti ChatGPT-də təhlükəsizlik problemləri səbəbindən fevral ayında dayandırılan GPT-4o modelindən istifadə etməklə aparılıb. Bəzi iştirakçılar daha yeni versiya olan GPT-5 ilə ünsiyyət qurublar.
Berlin və Stanforddan olan tədqiqatçılar tərəfindən aparılan başqa bir araşdırma, çatbotlarda "zəiflik gücləndirmə döngələri" (VAILs) adlanan sistem qüsurunu müəyyən edib. 30 fərqli istifadəçi şəxsiyyət növü ilə 90.000-dən çox dialoq qiymətləndirməsinin təhlili göstərib ki, risk, zehni vəziyyətlərindən asılı olmayaraq, demək olar ki, bütün kateqoriyalar üçün yaranır. Normal şəraitdə dəstəkləyici görünən bot davranışı, insan həssaslığını artıran mexanizmlərlə uyğunlaşdıqda, uyğunlaşmaz hala gəlir.