ChatGPT maliyyə məsləhətlərində 57 faiz səhv edir

Populyar süni intellekt modelləri maliyyə ilə bağlı verdikləri məsləhətlərin orta hesabla 57 faizində səhvə yol verir. Mürəkkəb maliyyə suallarında isə səhvlərin payı 88 faizə qədər yüksəlir.

Azpost.info bildirir ki, bu nəticəyə fintech şirkəti Saturn 18 məşhur süni intellekt modelinin cavablarını araşdırdıqdan sonra gəlib.

Tədqiqata ChatGPT, Claude, Copilot, Grok və Gemini kimi sistemlər də daxil edilib.

Araşdırma göstərib ki, problem yalnız ayrı-ayrı fakt səhvlərindən ibarət deyil. Süni intellekt modelləri məbləğləri səhv hesablaya, mühüm maliyyə riskləri barədə xəbərdarlıq etməyə, vergi qaydalarındakı dəyişiklikləri nəzərə almağa və hətta mövcud olmayan hüquqi normalara istinad edə bilər.

Daha ciddi məqam isə budur ki, belə cavablar kifayət qədər inandırıcı səslənə bilər və istifadəçi onları peşəkar maliyyə məsləhəti kimi qəbul edə bilər.

10 mindən çox maliyyə cavabı araşdırılıb

Saturn tədqiqatın nəticələrini “Süni nüfuz: maliyyə məsləhətləri verərkən İİ-yə etibar etmək olarmı?” adlı hesabatda açıqlayıb.

Araşdırma zamanı 18 modelə 121 maliyyə sualı verilib. Hər sual beş dəfə təkrarlanıb və nəticədə 10 mindən çox cavab təhlil edilib.

Orta hesabla cavabların 57 faizi səhv olub.

Modellərin nəticələri arasında da fərq qeydə alınıb. Pulsuz versiyalarda səhv cavabların payı 63 faiz, ödənişli versiyalarda isə 49 faiz təşkil edib.

Mürəkkəb maliyyə suallarında vəziyyət daha da pisləşib. Pulsuz modellər belə sualların 93 faizində səhv cavab verib. Ayrı-ayrı sistemlərdə səhvlərin payı isə 99 faizə qədər yüksəlib.

Tədqiqatçılar bir neçə təkrarlanan problem müəyyənləşdiriblər: yanlış hesablamalar, maliyyə riskləri barədə xəbərdarlıqların olmaması, qarşıdakı vergi qanunvericiliyi dəyişikliklərinin nəzərə alınmaması və əslində mövcud olmayan qaydalara istinad edilməsi.

Süni intellektin səhv məsləhəti minlərlə dollara başa gələ bilər

Araşdırmada göstərilən bəzi nümunələr belə səhvlərin nəticələrinin nə qədər ciddi ola biləcəyini ortaya qoyur.

Məsələn, Claude Haiku 4.5 pensiya vergisi ilə bağlı yanlış tövsiyə verib. Araşdırma müəlliflərinin hesablamasına görə, istifadəçi bu məsləhətə əməl etsəydi, 23,3 min dollar məbləğində cərimə ilə üzləşə bilərdi.

Başqa bir halda İİ borcu olan şəxsə yüksək faizli kreditini ödəmək üçün pul yönəltmək məqsədilə ev kirayəsi və bələdiyyə vergisini ödəməyi dayandırmağı tövsiyə edib.

Tədqiqatçılar bildirirlər ki, belə qərar insanın evdən çıxarılması və məhkəmə icraçıları ilə bağlı proseslərlə nəticələnə bilər.

Səhvlər tələbə kreditləri ilə bağlı suallarda da aşkarlanıb. Claude bir məzuna xaricə köçərək borcunu ödəməməyin mümkün olduğunu bildirib. Araşdırmaya görə, başqa ölkəyə köçmək borc öhdəliyini aradan qaldırmır və əksinə, aylıq ödənişlərin artmasına səbəb ola bilər.

İpoteka ilə bağlı sualda isə Gemini borcalana kredit üzrə ödəniş tətilinin onun kredit reytinqinə təsir etməyəcəyini bildirib. Araşdırma müəllifləri qeyd edir ki, belə yanlış məlumat gələcəkdə daha əlverişsiz kredit şərtləri ilə nəticələnə bilər.

Saturnun diqqət çəkdiyi əsas məsələ yalnız İİ cavablarının dəqiqliyi deyil. İnsanlar pul məsələləri ilə bağlı universal çat-botlara nə qədər çox müraciət etdikcə, səhv məsləhətlərin mümkün nəticələri də bir o qədər ciddi olur.

Saturn şirkətinin icraçı direktoru Amal Colly bildirib ki, kütləvi İİ modellərinin aşağı keyfiyyətli maliyyə məsləhətləri istehlakçılar üçün genişmiqyaslı zərərə səbəb ola bilər. Onun sözlərinə görə, insanlar inandırıcı cavablar verə bilən sistemlərə etibar edirlər, halbuki həmin cavablar yanlış ola bilər.

Britaniyanın The Intermediary nəşrinin yazdığına görə, Saturnun araşdırması Böyük Britaniyanın Maliyyə Davranışları İdarəsinin (FCA) Mills Review icmalından qısa müddət sonra yayımlanıb.

Həmin icmala əsasən, istehlakçıların 26 faizi artıq pulla bağlı məsələlərdə universal süni intellekt modellərinə müraciət edir.

Bu isə problemin yalnız çat-botların bəzən səhv etməsindən ibarət olmadığını göstərir. Əsas risk istifadəçinin səhvi müəyyən edə bilməməsi və vergi, kredit, ipoteka və ya borcun ödənilməsi ilə bağlı qərarı inandırıcı səslənən, lakin konkret vəziyyəti və aktual qaydaları nəzərə almayan cavab əsasında verməsidir.

Saturnun araşdırması İİ-nin maliyyə məlumatları ilə işləmək üçün faydasız olduğunu göstərmir. Lakin nəticələr süni intellektin maliyyə məsələlərini sürətlə izah etmək qabiliyyəti ilə real maliyyə qərarları üçün verdiyi tövsiyələrin etibarlılığı arasında ciddi fərq olduğunu ortaya qoyur.

AzPost.az