Icma.az
close
up
RU
Süni intellekt modellərinin təhlükələri çox şişirdilir...

Süni intellekt modellərinin təhlükələri çox şişirdilir...

Icma.az bildirir, Sia Az portalına istinadən.

Aparıcı süni intellekt modelləri şəbəkədən qopmamaq üçün şantaj edilə və hətta öldürülə də bilər. Bu qənaətləri digər məsələlərlə yanaşı, dil modellərinin təhlükəsizliyi məsələləri ilə də məşğul olan Anthropic şirkəti verib.

SİA-nın məlumatına görə, Skolkovo Elm və Texnologiya İnstitutunun Tətbiqi Süni İntellekt Mərkəzinin direktoru Yevgeni Burnayev eksperimentlə bağlı fikirlərini bölüşüb.

O hesab edir ki, nəticə çıxarmağa tələsmək lazım deyil, çünki modellərin təhlükələri və imkanları şişirdilmişdir.

...Süni intellektin şantaj və qətlə hazır və ya meylli olduğunu söylədikdə, bu, qərarın özünün verdiyini göstərir. Bu yanlışdır. Dil modeli fərqli şəkildə qurulmuşdur: ona terabaytlarla mətn yüklənmişdir - romanlar, reklamlar, qəzet və jurnallardan məqalələr, sosial şəbəkələrdəki yazılar - hansını həzm edərək, mətndə hansı sözün kontekstdən irəli getməli olduğunu yaxşı proqnozlaşdırmağı öyrəndi. Model ədəbiyyatda eksperimentdə olduğu kimi oxşar şəraitdə qəhrəmanların şantaj və qətlə əl atdıqları, fikir zəncirini təkrarladığı nümunələr tapdı.

Mütəxəssis onu da qeyd edib ki, modeldə “yaxşı” və “pis” anlayışları da yoxdur.

Mürəkkəb bir alqoritmdən istifadə edərək, o, belə xüsusiyyətlərə malik davranışlara rast gəlinən mətnlərdən bəzi təriflər alır.

Ekspert onu da bildirib ki, insanlar artıq belə şeylərə nəzarət etməyi yaxşı öyrəniblər.

...Ancaq modellər çox mürəkkəb və qeyri-xəttidir, onların daxili işləri hələ riyazi olaraq tam izah edilmir və bəzən onlardan bəzi anlaşılmaz hekayələr çıxır. Təbii ki, onlar hələ mürəkkəb İT sistemlərinin idarə olunmasını həvalə etməyə hazır deyillər, lakin onlar daha az iddialı vəzifələrin öhdəsindən kifayət qədər uğurla gəlirlər.

Bunu da mütəxəssis izah edir.

Nazlı Almuradova

Hadisənin gedişatını izləmək üçün Icma.az saytında ən son yeniliklərə baxın.
seeBaxış sayı:201
embedMənbə:https://sia.az
archiveBu xəbər 28 İyun 2025 23:54 mənbədən arxivləşdirilmişdir
0 Şərh
Daxil olun, şərh yazmaq üçün...
İlk cavab verən siz olun...
topGünün ən çox oxunanları
Hal-hazırda ən çox müzakirə olunan hadisələr

Balıq bazarında bahalaşma var (Video)

14 Noyabr 2026 21:02see327

Bakı avtobuslarında sərnişin bumu

14 Noyabr 2026 17:02see325

Gələn il qeyri dövlət müəssisələri büdcədən 130 mln. manata yaxın subsidiya alacaq

14 Noyabr 2026 18:04see318

Ədalət Partiyasında şairlə səmimi görüş

14 Noyabr 2026 17:43see308

STAR neft emalı zavodu dizel yanacağı istehsalını 4 % ə yaxın artırıb

14 Noyabr 2026 17:02see304

Yuğ Teatrında Ana tamaşasının premyerası keçirilib FOTOLAR

14 Noyabr 2026 20:23see300

Avropa siyasi məkanında aparılan müzakirələrdə Azərbaycan fəal iştirak edir

14 Noyabr 2026 19:16see299

Musiqi dünyasında tarixi ilk: İnsan deyil, amma ilin ən yaxşı ifaçısı seçildi

15 Noyabr 2026 00:00see271

Kanadada minlərlə tələbə etiraz aksiyası keçirdi

15 Noyabr 2026 00:51see270

Rusların təxminən 90 faizi son üç ildə kredit götürdüyünü etiraf edib

14 Noyabr 2026 19:30see264

İrina Şeykin məşhur sevgililəri: Ronaldodan Bredli Kuperə, Kanye Uestdən...

15 Noyabr 2026 04:05see260

Ermənistanı Avropa İttifaqının tərkibində görürəm Paşinyan

14 Noyabr 2026 19:50see258

Azərbaycanda bəzi dövlət müəssisələri ləğv oluna bilər

14 Noyabr 2026 17:10see256

Zülalla ən zəngin çərəz

15 Noyabr 2026 03:04see250

Türkiyə gözəli beynəlxalq yarışmadan son anda kənarlaşdırıldı

15 Noyabr 2026 04:36see247

Britaniya Rusiya hərbi bazalarını vurmalıdır

15 Noyabr 2026 01:26see245

Toyuq ətini əvəz edir Tərkibində 25 % zülal var

15 Noyabr 2026 05:06see244

Bitkoinin qiyməti 66 min dollardan aşağı düşdü

15 Noyabr 2026 01:34see208

Həftədə bir məşq fiziki formanı və sağlamlığı yaxşılaşdıra bilərmi?

14 Noyabr 2026 21:54see207

Məşhur model milyarderə ərə getdi

15 Noyabr 2026 00:26see199
newsSon xəbərlər
Günün ən son və aktual hadisələri