Süni intellekt həkimləri də çaşdırır

Həkim qəbulu zamanı tibbi qeydləri avtomatik hazırlayan süni intellekt (AI) alətləri səhiyyə sistemində sürətlə yayılır. Lakin mütəxəssislər xəbərdarlıq edirlər ki, bu texnologiyalar həkimlərin işini asanlaşdırmaqla yanaşı, tibbi sənədlərdə ciddi səhvlərə və şəxsi məlumatların təhlükəsizliyi ilə bağlı risklərə səbəb ola bilər.

Digital Rights Watch təşkilatının hazırladığı “Off the Record” adlı hesabatda bildirilir ki, Avstraliyada həkimlərin 40 faizdən çoxu artıq tibbi qeydlərin hazırlanması üçün süni intellekt sistemlərindən istifadə edir.

Bu proqramlar qəbul zamanı həkimlə xəstə arasında aparılan söhbəti dinləyir və ChatGPT və ya Claude kimi böyük dil modellərinin köməyi ilə avtomatik klinik qeydlər hazırlayır.

Mütəxəssislərin fikrincə, bu texnologiya həkimlərin sənədləşmə yükünü azaldır, xəstələrə daha çox vaxt ayırmağa imkan verir və peşəkar tükənmişlik riskini aşağı salır. Bundan əlavə, Avstraliyada Medicare sistemi qəbul üçün ödəniş etdiyi, sənədləşməyə görə ayrıca ödəniş nəzərdə tutmadığı üçün AI alətlərindən istifadə iqtisadi baxımdan da sərfəli hesab olunur.

Bununla belə, ekspertlər bildirirlər ki, bu sistemlər sadəcə danışığı mətnə çevirmir, həm də onu şərh edib ümumiləşdirir. Nəticədə süni intellektin “hallüsinasiya” adlandırılan səhvləri yarana bilər. Belə hallarda tibbi kartda əslində heç vaxt müzakirə olunmayan məlumatlar yer ala bilər. Məsələn, siqareti tərgitməklə bağlı tövsiyə səhvən “məişət yanğınlarından uzaq durmaq” məsləhəti kimi qeydə alına bilər.

Araşdırmada qeyd olunur ki, AI sistemləri irqi mənsubiyyət, etnik mənşə, sosial status və ya dil kimi amillərlə bağlı qərəzləri də təkrarlaya bilər. Bu isə müxtəlif mədəni və dil qruplarından olan, eləcə də ana dili ingilis dili olmayan xəstələrin tibbi qeydlərində yanlışlıqların yaranması riskini artırır.

İlkin tədqiqatlar göstərirdi ki, süni intellekt tərəfindən hazırlanan tibbi qeydlərin 90 faizə qədəri sonradan düzəliş tələb edib. Daha yeni araşdırmalara görə isə belə qeydlərin təxminən 20 faizində diaqnozun qoyulmasına təsir göstərə biləcək səhvlər mövcuddur.

Hesabat müəllifləri bildirirlər ki, həkimlər yüksək iş yükü və kompüter sistemlərinin hazırladığı məlumatlara həddindən artıq etibar etməyə meyillilik səbəbindən bu cür səhvləri hər zaman vaxtında aşkar edə bilmirlər.

Ekspertləri narahat edən digər məsələ isə şəxsi məlumatların məxfiliyidir. Bir çox süni intellekt sisteminin istehsalçıları xəstələrin tibbi məlumatlarının necə emal edildiyini, bu məlumatlara kimin çıxış əldə etdiyini və hansı AI modellərindən istifadə olunduğunu açıqlamırlar. Bu səbəbdən hətta həkimlərin özləri də xəstələrə şəxsi məlumatlarının necə qorunduğu barədə tam və dəqiq izahat verə bilmirlər.

N.Talıblı

AzPost.az