Icma.az
close
up
RU
ChatGPT niyə hərdən yalan uydurur? Alimlər səbəbi izah edir

ChatGPT niyə hərdən yalan uydurur? Alimlər səbəbi izah edir

Lent az saytından verilən məlumata əsasən, Icma.az məlumatı açıqlayır.

Yeni OpenAI araşdırması ChatGPT və digər süni intellekt dil modellərinin bəzən faktları “uydurmasının” səbəblərini izah edir. Məqalə göstərir ki, bu, sadəcə təlim səhvləri deyil, mətn generasiyasının riyazi cəhətdən qaçılmaz nəticəsidir. Hətta ideal təlim məlumatları olduqda belə, modellər söz proqnozlaşdırma üsulu və səhvlərin yığılması səbəbilə səhv edə bilər.

Lent.az bu barədə ətraflı xarici mediaya istinadla xəbər verir.

Süni intellekt niyə səhv cavablar verir?

Araşdırma göstərir ki, hallüsinasiyalar problemi müasir təlim alqoritmlərinin yan təsiri deyil, riyazi cəhətdən qaçılmaz bir haldır. İdeal təlim məlumatları belə bu problemi tamamilə aradan qaldırmır.

Əsas səbəb dil modellərinin mətni necə yaratmasındadır. Onlar hər sözü bir-bir proqnozlaşdırır və bunu ehtimallara əsasən edirlər. Bu isə o deməkdir ki, səhvlər cümlə ərzində yığılır və uzun cavablar yaradarkən səhv ehtimalı sadə “bəli/xeyr” tipli suallardan ən azı iki dəfə çox ola bilər.

Təlim məlumatlarının keyfiyyəti niyə həlledicidir?

Model təlim zamanı nə qədər az məlumat görürsə, səhv ehtimalı bir o qədər artır.
Məsələn, əgər məşhur şəxslərin doğum günləri yalnız 20% hallarda təlim məlumatlarında varsa, model sorğuların ən azı 20%-də səhv edəcək.

Qiymətləndirmə tələsi

Tədqiqatçılar göstərirlər ki, Google və OpenAI də daxil olmaqla, mövcud süni intellekt meyarları modelləri qeyri-müəyyənlik əvəzinə təxmin etməyə təşviq edir.
Model “bilmirəm” deyəndə səhv cavabla eyni bal alır. Buna görə də optimal strategiya həmişə təxmin etməkdir ki, bu da hallüsinasiyaların artmasına səbəb olur.

OpenAI-nin təklif etdiyi həll yolları

OpenAI təklif edir ki, modellər cavab verməzdən əvvəl öz inam səviyyəsini nəzərə alsınlar. Məsələn, yalnız 75%-dən yüksək əminlik olduqda cavab versinlər, çünki səhvlər doğru cavablardan daha çox cəzalandırılır.

Riyazi analiz göstərir ki, bu yanaşma modellərə təxmin etmək əvəzinə qeyri-müəyyənliyi göstərməyə imkan verəcək və hallüsinasiyaları azaldacaq. Lakin istifadəçilər buna alışmamış ola bilərlər: əgər ChatGPT halların 30%-də “bilmirəm” deməyə başlasa, bu auditoriyanı məyus edə bilər.

Süni intellektdə qaçılmaz reallıq

OpenAI məqaləsi əsas ziddiyyəti vurğulayır. Biznes motivləri sürətli və inamlı cavabları təşviq edir, dəqiqliyi yox.
Bu stimullar dəyişmədikcə, dil modellərində hallüsinasiyalar qaçılmaz olaraq qalacaq.

Ən son xəbərləri və yenilikləri almaq üçün Icma.az saytını izləyin.
seeBaxış sayı:236
embedMənbə:https://lent.az
archiveBu xəbər 21 Oktyabr 2025 14:21 mənbədən arxivləşdirilmişdir
0 Şərh
Daxil olun, şərh yazmaq üçün...
İlk cavab verən siz olun...
topGünün ən çox oxunanları
Hal-hazırda ən çox müzakirə olunan hadisələr

Xəzər dənizinin Azərbaycan sahillərinin dövlət idarəçiliyi

17 Noyabr 2026 23:52see375

® Vüqar Eyvazov “AmCham Azərbaycan”ın yeni yaradılmış Səhiyyə Komitəsinin sədri təyin edilib

18 Noyabr 2026 01:28see349

2027 ci ildən Bakıya köç daha da artacaq?

17 Noyabr 2026 23:20see337

Dünya onların görüşünə köklənib: Müharibələrə son qoyulacaq?

18 Noyabr 2026 13:51see295

Diş əti qanaması hansı daxili xəstəliklərin əlamətidir?

17 Noyabr 2026 23:18see281

İki zəhərli ilanı təyyarəyə keçirmək istədi

17 Noyabr 2026 23:17see263

Bu hərəkətlər davam edərsə.. SEPAH generalı Bəhreyn hökümətini HƏDƏLƏDİ

18 Noyabr 2026 02:03see250

Səhiyyədə gizli qalan vergi problemi gündəmə gəldi

18 Noyabr 2026 12:19see248

Braziliya millisindən darmadağın: Vinisius het trik etdi

18 Noyabr 2026 00:46see246

Söküntü başlamazdan əvvəl vətəndaşlar əmlaklarını qiymətləndirməlidir? Açıqlama

18 Noyabr 2026 14:55see243

Bossların bossu” vəfat etdi Pablo Eskobarla əməkdaşlıq edib

18 Noyabr 2026 01:52see232

Polad Həşimovun anası xəstəxanadan evə buraxılıb TƏBİB

18 Noyabr 2026 01:24see231

Nənə tarladan 20 min qiyməti olan qızıl tapıb

18 Noyabr 2026 02:56see228

MRT, KT, PET CT: Xərçəngi dəqiq hansı müayinə aşkarlayır?

18 Noyabr 2026 18:31see221

“Səhiyyə sahəsində vergi və sosial ödənişlərə yenidən baxılmalıdır”

18 Noyabr 2026 12:29see217

Xankəndidə Zəfər Gününə həsr olunmuş mini futbol turnirinə yekun vurulub

19 Noyabr 2026 01:55see216

SOCAR: İşçilərin səriştəliliklərinin qiymətləndirilməsi istehsal prosesinin tərkib hissəsidir

19 Noyabr 2026 02:14see198

Kosmosdakı musiqimiz: Çahargah Ahəngi “Voyager”ə necə yazılıb? │ VİDEO

19 Noyabr 2026 00:18see197

Məşq zamanı huşunu itirən “Bavariya”nın baş məşqçisi geri qayıdır

19 Noyabr 2026 02:01see196

Vətən müharibəsinin xronikası: 16 oktyabrda Xocavəndin bir sıra kəndləri işğaldan azad edilib

18 Noyabr 2026 04:19see191
newsSon xəbərlər
Günün ən son və aktual hadisələri