Icma.az
close
up
RU
Süni intellekt modellərinin təhlükələri çox şişirdilir...

Süni intellekt modellərinin təhlükələri çox şişirdilir...

Icma.az bildirir, Sia Az portalına istinadən.

Aparıcı süni intellekt modelləri şəbəkədən qopmamaq üçün şantaj edilə və hətta öldürülə də bilər. Bu qənaətləri digər məsələlərlə yanaşı, dil modellərinin təhlükəsizliyi məsələləri ilə də məşğul olan Anthropic şirkəti verib.

SİA-nın məlumatına görə, Skolkovo Elm və Texnologiya İnstitutunun Tətbiqi Süni İntellekt Mərkəzinin direktoru Yevgeni Burnayev eksperimentlə bağlı fikirlərini bölüşüb.

O hesab edir ki, nəticə çıxarmağa tələsmək lazım deyil, çünki modellərin təhlükələri və imkanları şişirdilmişdir.

...Süni intellektin şantaj və qətlə hazır və ya meylli olduğunu söylədikdə, bu, qərarın özünün verdiyini göstərir. Bu yanlışdır. Dil modeli fərqli şəkildə qurulmuşdur: ona terabaytlarla mətn yüklənmişdir - romanlar, reklamlar, qəzet və jurnallardan məqalələr, sosial şəbəkələrdəki yazılar - hansını həzm edərək, mətndə hansı sözün kontekstdən irəli getməli olduğunu yaxşı proqnozlaşdırmağı öyrəndi. Model ədəbiyyatda eksperimentdə olduğu kimi oxşar şəraitdə qəhrəmanların şantaj və qətlə əl atdıqları, fikir zəncirini təkrarladığı nümunələr tapdı.

Mütəxəssis onu da qeyd edib ki, modeldə “yaxşı” və “pis” anlayışları da yoxdur.

Mürəkkəb bir alqoritmdən istifadə edərək, o, belə xüsusiyyətlərə malik davranışlara rast gəlinən mətnlərdən bəzi təriflər alır.

Ekspert onu da bildirib ki, insanlar artıq belə şeylərə nəzarət etməyi yaxşı öyrəniblər.

...Ancaq modellər çox mürəkkəb və qeyri-xəttidir, onların daxili işləri hələ riyazi olaraq tam izah edilmir və bəzən onlardan bəzi anlaşılmaz hekayələr çıxır. Təbii ki, onlar hələ mürəkkəb İT sistemlərinin idarə olunmasını həvalə etməyə hazır deyillər, lakin onlar daha az iddialı vəzifələrin öhdəsindən kifayət qədər uğurla gəlirlər.

Bunu da mütəxəssis izah edir.

Nazlı Almuradova

Hadisənin gedişatını izləmək üçün Icma.az saytında ən son yeniliklərə baxın.
seeBaxış sayı:214
embedMənbə:https://sia.az
archiveBu xəbər 28 İyun 2025 23:54 mənbədən arxivləşdirilmişdir
0 Şərh
Daxil olun, şərh yazmaq üçün...
İlk cavab verən siz olun...
topGünün ən çox oxunanları
Hal-hazırda ən çox müzakirə olunan hadisələr

Azərbaycanla tərəfdaşlıq yeni inkişaf perspektivləri açır

21 Noyabr 2026 20:18see383

Parisdə bugünkü etirazlara 21 mindən çox şəxs qatılıb

21 Noyabr 2026 21:24see255

Dünya iqtisadiyyatı təhlükə qarşısındadır KİV

22 Noyabr 2026 07:02see249

Azərbaycanda regional tədris mərkəzinin yaradılması Dünya Bankı ilə müzakirə edilib

21 Noyabr 2026 15:42see246

BOKT nin rəhbərliyinə təyinat olub

21 Noyabr 2026 14:31see245

Ekspert: Dövlət idarəçiliyinin rəqəmsallaşdırılması Azərbaycan iqtisadiyyatının rəqabət qabiliyyətini artırır

21 Noyabr 2026 17:24see245

Fermer ucuz satır, alıcı baha alır: Qiymət fərqi harada yaranır?

21 Noyabr 2026 14:38see242

Qızıl gələn il ucuzlaşacaq

21 Noyabr 2026 16:40see239

La Liqa: Derbidə “sülh”

22 Noyabr 2026 00:06see238

Mehriban Əliyeva və qızlarından Vyetnam mədəniyyətinə zərif ehtiram Foto

21 Noyabr 2026 15:21see238

Samvel Karapetyan: “Paşinyan müalicə olunmalıdır”

21 Noyabr 2026 17:14see230

Sumqayıtda gənc oğlan qətlə yetirilib

22 Noyabr 2026 04:55see223

SEPAH ABŞ nin hərbi bazalarını hədəf aldı

22 Noyabr 2026 00:43see220

Allah uzaq tutsun, amma müharibə bizim işimizdir Hakan Fidan

22 Noyabr 2026 02:18see220

Türkiyə Super Liqası: “Qalatasaray” evdə sevindi

22 Noyabr 2026 00:13see219

2026 cı ilin sonunda almaq üçün ən sərfəli iPhone modelləri

21 Noyabr 2026 21:07see219

İbrahim Kalın HƏMAS nümayəndə heyəti ilə Qəzzada atəşkəsi müzakirə etdi

22 Noyabr 2026 00:03see218

İran Bəhreyndə sənaye müəssisəsinə zərbə endirdi

22 Noyabr 2026 00:23see218

Ötən gün götürülən narkotik vasitələrin həcmi açıqlandı

21 Noyabr 2026 16:00see217

Milton qasırğası ABŞ də yaşayan azərbaycanlıların evlərini də vurdu

22 Noyabr 2026 07:05see213
newsSon xəbərlər
Günün ən son və aktual hadisələri