Icma.az
close
up
RU
ChatGPT niyə hərdən yalan uydurur? Alimlər səbəbi izah edir

ChatGPT niyə hərdən yalan uydurur? Alimlər səbəbi izah edir

Lent az saytından verilən məlumata əsasən, Icma.az məlumatı açıqlayır.

Yeni OpenAI araşdırması ChatGPT və digər süni intellekt dil modellərinin bəzən faktları “uydurmasının” səbəblərini izah edir. Məqalə göstərir ki, bu, sadəcə təlim səhvləri deyil, mətn generasiyasının riyazi cəhətdən qaçılmaz nəticəsidir. Hətta ideal təlim məlumatları olduqda belə, modellər söz proqnozlaşdırma üsulu və səhvlərin yığılması səbəbilə səhv edə bilər.

Lent.az bu barədə ətraflı xarici mediaya istinadla xəbər verir.

Süni intellekt niyə səhv cavablar verir?

Araşdırma göstərir ki, hallüsinasiyalar problemi müasir təlim alqoritmlərinin yan təsiri deyil, riyazi cəhətdən qaçılmaz bir haldır. İdeal təlim məlumatları belə bu problemi tamamilə aradan qaldırmır.

Əsas səbəb dil modellərinin mətni necə yaratmasındadır. Onlar hər sözü bir-bir proqnozlaşdırır və bunu ehtimallara əsasən edirlər. Bu isə o deməkdir ki, səhvlər cümlə ərzində yığılır və uzun cavablar yaradarkən səhv ehtimalı sadə “bəli/xeyr” tipli suallardan ən azı iki dəfə çox ola bilər.

Təlim məlumatlarının keyfiyyəti niyə həlledicidir?

Model təlim zamanı nə qədər az məlumat görürsə, səhv ehtimalı bir o qədər artır.
Məsələn, əgər məşhur şəxslərin doğum günləri yalnız 20% hallarda təlim məlumatlarında varsa, model sorğuların ən azı 20%-də səhv edəcək.

Qiymətləndirmə tələsi

Tədqiqatçılar göstərirlər ki, Google və OpenAI də daxil olmaqla, mövcud süni intellekt meyarları modelləri qeyri-müəyyənlik əvəzinə təxmin etməyə təşviq edir.
Model “bilmirəm” deyəndə səhv cavabla eyni bal alır. Buna görə də optimal strategiya həmişə təxmin etməkdir ki, bu da hallüsinasiyaların artmasına səbəb olur.

OpenAI-nin təklif etdiyi həll yolları

OpenAI təklif edir ki, modellər cavab verməzdən əvvəl öz inam səviyyəsini nəzərə alsınlar. Məsələn, yalnız 75%-dən yüksək əminlik olduqda cavab versinlər, çünki səhvlər doğru cavablardan daha çox cəzalandırılır.

Riyazi analiz göstərir ki, bu yanaşma modellərə təxmin etmək əvəzinə qeyri-müəyyənliyi göstərməyə imkan verəcək və hallüsinasiyaları azaldacaq. Lakin istifadəçilər buna alışmamış ola bilərlər: əgər ChatGPT halların 30%-də “bilmirəm” deməyə başlasa, bu auditoriyanı məyus edə bilər.

Süni intellektdə qaçılmaz reallıq

OpenAI məqaləsi əsas ziddiyyəti vurğulayır. Biznes motivləri sürətli və inamlı cavabları təşviq edir, dəqiqliyi yox.
Bu stimullar dəyişmədikcə, dil modellərində hallüsinasiyalar qaçılmaz olaraq qalacaq.

Ən son xəbərləri və yenilikləri almaq üçün Icma.az saytını izləyin.
seeBaxış sayı:227
embedMənbə:https://lent.az
archiveBu xəbər 21 Oktyabr 2025 14:21 mənbədən arxivləşdirilmişdir
0 Şərh
Daxil olun, şərh yazmaq üçün...
İlk cavab verən siz olun...
topGünün ən çox oxunanları
Hal-hazırda ən çox müzakirə olunan hadisələr

“Ağzımızdakı dişlərin sayını da uçota alsalar yaxşı olar...” TƏKLİF

14 Noyabr 2026 12:26see316

Balıq bazarında bahalaşma var (Video)

14 Noyabr 2026 21:02see307

Bakı avtobuslarında sərnişin bumu

14 Noyabr 2026 17:02see302

Gələn il qeyri dövlət müəssisələri büdcədən 130 mln. manata yaxın subsidiya alacaq

14 Noyabr 2026 18:04see302

Azərbaycandan Suriyaya nəql edilən qazın həcmi 56% artdı

14 Noyabr 2026 14:44see299

Ədalət Partiyasında şairlə səmimi görüş

14 Noyabr 2026 17:43see290

STAR neft emalı zavodu dizel yanacağı istehsalını 4 % ə yaxın artırıb

14 Noyabr 2026 17:02see287

Avropa siyasi məkanında aparılan müzakirələrdə Azərbaycan fəal iştirak edir

14 Noyabr 2026 19:16see281

Yuğ Teatrında Ana tamaşasının premyerası keçirilib FOTOLAR

14 Noyabr 2026 20:23see281

Kanadada minlərlə tələbə etiraz aksiyası keçirdi

15 Noyabr 2026 00:51see255

Musiqi dünyasında tarixi ilk: İnsan deyil, amma ilin ən yaxşı ifaçısı seçildi

15 Noyabr 2026 00:00see254

Rusların təxminən 90 faizi son üç ildə kredit götürdüyünü etiraf edib

14 Noyabr 2026 19:30see249

Ermənistanı Avropa İttifaqının tərkibində görürəm Paşinyan

14 Noyabr 2026 19:50see247

İrina Şeykin məşhur sevgililəri: Ronaldodan Bredli Kuperə, Kanye Uestdən...

15 Noyabr 2026 04:05see246

Azərbaycanda bəzi dövlət müəssisələri ləğv oluna bilər

14 Noyabr 2026 17:10see241

Zülalla ən zəngin çərəz

15 Noyabr 2026 03:04see236

Britaniya Rusiya hərbi bazalarını vurmalıdır

15 Noyabr 2026 01:26see234

Türkiyə gözəli beynəlxalq yarışmadan son anda kənarlaşdırıldı

15 Noyabr 2026 04:36see234

Toyuq ətini əvəz edir Tərkibində 25 % zülal var

15 Noyabr 2026 05:06see230

Hesablama Palatasından inflyasiya ilə bağlı proqnoz: Bahalaşma davam edəcək

14 Noyabr 2026 13:59see200
newsSon xəbərlər
Günün ən son və aktual hadisələri