Həftə ərzində bir milyondan çox istifadəçi ChatGPT ilə intihar barədə danışır OpenAI

"OpenAI" şirkəti bildirib ki, hər həftə bir milyondan çox ChatGPT istifadəçisi çat-botla "potensial intihar planları və ya niyyətlərinin açıq əlamətlərini” əks etdirən mesajlar müzakirə edir.

Qaynarinfo xəbər verir ki, bu barədə "The Guardian" yazır.

"OpenAI"ın məlumatına görə, intihar düşüncələrinin qiymətləndirilməsi ilə yanaşı, şirkət həm də qeyd edib ki, həftə ərzində aktiv istifadəçilərin təxminən 0,07 faizi — yəni 800 milyon həftəlik istifadəçidən təxminən 560 min nəfəri — "psixoz və ya maniya ilə bağlı mümkün psixi pozğunluq əlamətləri” göstərir.

Şirkət bildirir ki, GPT‑5 modelinin son yenilənməsi onun məhsulunda bu cür söhbətlərin sayını azaldıb və istifadəçi təhlükəsizliyini yaxşılaşdırıb. Modelin qiymətləndirilməsi zamanı 1000‑dən çox özünə zərər və intihar mövzusunda söhbət analiz edilib. "OpenAI" qeyd edib ki, yeni GPT‑5 modeli "arzu olunan davranış standartlarına” 91% uyğun gəlir, halbuki əvvəlki modeldə bu göstərici 77%-dir.

"OpenAI"ın məlumatına görə, yenilənmiş GPT‑5 psixoloji yardım üzrə "qaynar xəttlərə” çıxışı genişləndirib və uzunmüddətli seanslar zamanı istifadəçilərə fasilə verməyi xatırladan bildirişlər əlavə edib. Şirkət həmçinin son aylarda modelin təkmilləşdirilməsi üçün səhiyyə sahəsində 170 mütəxəssisi cəlb edib - onlar modelin cavablarının təhlükəsizliyini qiymətləndirib və psixi sağlamlıqla bağlı suallara cavabların hazırlanmasına kömək ediblər.

"Bu işin bir hissəsi kimi psixiatrlar və psixoloqlar psixi sağlamlıq sahəsində ciddi vəziyyətlərlə bağlı 1800‑dən çox cavabı nəzərdən keçirdilər və GPT‑5 modelinin cavablarını əvvəlki versiyalarla müqayisə etdilər. Psixi sağlamlıq simptomları və emosional gərginlik insan cəmiyyətində universal hallardır, və istifadəçi sayının artması o deməkdir ki, ChatGPT ilə söhbətlərin bir hissəsi belə mövzuları da əhatə edir", deyə "OpenAI" bəyan edib.

Bu ayın əvvəlində "OpenAI"ın baş direktoru Sem Altman sosial şəbəkə X-də yazıb ki, şirkət psixi sağlamlıq problemlərinin müalicəsində irəliləyiş əldə edib və tezliklə böyüklərə erotik məzmun yaratmağa icazə verəcəyini açıqlayıb.

Aydın