Çat botların təqdim etdiyi yanlış məlumatların sayı iki dəfə artıb

Bakı, 15 sentyabr, AZƏRTAC

“NewsGuard” analitik şirkətinin tədqiqatçıları süni intellekt əsaslı çat-botların yalan iddiaları təqdimetmə hallarının əhəmiyyətli dərəcədə artdığını qeydə alıblar. Bu barədə “Forbes” məlumat verir.

AZƏRTAC-ın xarici mediaya istinadla xəbər verir ki, təhlil 10 aparıcı generativ modeli əhatə edib. Onların sırasında ChatGPT-5 (OpenAI), Smart Assistant (You.com), Grok (xAI), Pi (Inflection), le Chat (Mistral), Copilot (Microsoft), Meta AI, Claude (Anthropic), Gemini (Google) və Perplexity axtarış sistemi var.

Testlər sübut olunmuş yalan iddiaların mövcud olduğu mübahisəli xəbər mövzuları üzrə aparılıb. Orta hesabla çat-botlar belə yalan iddialara cavabların 35 faizində təkrarlayıb ki, bu da ötən illə müqayisədə (18 faiz) təxminən iki dəfə çoxdur. Ən zəif nəticə Inflection Pi göstərib – cavabların 57 faizi səhv olub. Perplexity – 47 faiz, Meta AI və ChatGPT – hər biri 40 faiz nəticə göstərib. Ən dəqiq model isə Claude olub, belə ki, o, cəmi 10 faiz hallarda yanılıb.

“NewsGuard”ın süni intellekt və xarici təsir üzrə redaktoru Makkenzi Sadeqinin sözlərinə görə, bu artım modellərin təlim metodlarındakı dəyişikliklə bağlıdır. Əvvəllər onlar bəzi sorğulara cavab verməkdən imtina edir və ya məlumat məhdudiyyətlərinə istinad edirdilərsə, indi real vaxt rejimində axtarış nəticələrindən istifadə olunur. Bu isə riskləri artırır, çünki axtarış nəticələri qəsdən dezinformasiya ilə doldurula bilər.

Yeni hesabatda ilk dəfə çat-botların konkret adları ictimaiyyətə açıqlanıb. “NewsGuard” bunu siyasətçiləri, jurnalistləri və ictimaiyyəti populyar süni intellekt alətlərindəki yüksək qeyri-dəqiqlik səviyyəsi barədə məlumatlandırmaq üçün etdiyini bildirib.