ChatGPT dən ŞOK AÇIQLAMA 100 minlərlə istifadəçi psixoloji böhran vəziyyətindədir

OpenAI ilk dəfə olaraq ChatGPT istifadəçiləri arasında maniadan və psixozdan tutmuş intihar düşüncələrinə qədər müxtəlif psixoloji böhran əlamətləri göstərən hallarla bağlı daxili qiymətləndirmə nəticələrini açıqlayıb.
Şirkət bildirir ki, belə hallar son dərəcə nadirdir, lakin psixi sağlamlıq üzrə mütəxəssislər problemin miqyasından narahatdırlar.
Bizim.Media xəbər verir ki, bu barədə informasiya OpenAI-nin hesabatında yer alıb.
ChatGPT-nin həftəlik aktiv istifadəçilərinin təxminən 0,07%-i psixi sağlamlıqla bağlı fövqəladə vəziyyət əlamətləri göstərir. Şirkətin rəhbəri Sem Altmanın sözlərinə görə, ChatGPT-ni həftəlik təxminən 800 milyon insan istifadə edir və bu, yüz minlərlə istifadəçinin risk altında ola biləcəyi anlamına gəlir.
OpenAI bildirir ki, sistem narahatedici siqnalları tanımaq və onlara “təhlükəsiz və anlayışlı şəkildə” cavab vermək qabiliyyətinə malikdir. Belə hallarda çat-bot istifadəçiyə peşəkar yardım üçün müraciət etməyi tövsiyə edir və böhran xidmətlərinin, psixoloji yardım xətlərinin əlaqə məlumatlarını təqdim edir.
 

Dəqiqliyi və etik yanaşmanı artırmaq üçün şirkət 60 ölkədən 170-dən çox psixiatr, psixoloq və həkimdən ibarət beynəlxalq məsləhətçi şəbəkə yaradıb. Onlar proqramçılara böhran vəziyyətində olan istifadəçilərlə düzgün ünsiyyət ssenariləri hazırlamaqda kömək edirlər.

Bununla belə, bir sıra ekspertlər OpenAI-nin təqdim etdiyi məlumatların şərhinə şübhə ilə yanaşırlar. Şirkətin öz qiymətləndirməsinə görə, ümumi dialoqların 0,15%-i açıq şəkildə intihar planlaşdırılmasının və ya niyyətinin əlamətlərini daşıyır.
Psixi sağlamlıq mütəxəssisləri bildirirlər:
“Bu faiz kiçik görünsə də, potensial olaraq həssas insanların mütləq sayı çox təsirlidir.”
Tənqidlərə cavab olaraq OpenAI vurğulayıb ki, sistemin son yenilənmələri riskin dolayı əlamətlərini də tanımağa yönəlib. Məsələn, mani, uydurma fikirlər və ya özünə zərər vermə davranışları kimi. Belə hallarda ChatGPT “söhbətləri yönləndirir”, yəni yeni, daha təhlükəsiz rejim açır və istifadəçinin vəziyyətini pisləşdirə biləcək funksiyalara girişi məhdudlaşdırır.
Bizim.Media