Icma.az
close
up
RU
Süni intellekt modellərinin təhlükələri çox şişirdilir...

Süni intellekt modellərinin təhlükələri çox şişirdilir...

Icma.az bildirir, Sia Az portalına istinadən.

Aparıcı süni intellekt modelləri şəbəkədən qopmamaq üçün şantaj edilə və hətta öldürülə də bilər. Bu qənaətləri digər məsələlərlə yanaşı, dil modellərinin təhlükəsizliyi məsələləri ilə də məşğul olan Anthropic şirkəti verib.

SİA-nın məlumatına görə, Skolkovo Elm və Texnologiya İnstitutunun Tətbiqi Süni İntellekt Mərkəzinin direktoru Yevgeni Burnayev eksperimentlə bağlı fikirlərini bölüşüb.

O hesab edir ki, nəticə çıxarmağa tələsmək lazım deyil, çünki modellərin təhlükələri və imkanları şişirdilmişdir.

...Süni intellektin şantaj və qətlə hazır və ya meylli olduğunu söylədikdə, bu, qərarın özünün verdiyini göstərir. Bu yanlışdır. Dil modeli fərqli şəkildə qurulmuşdur: ona terabaytlarla mətn yüklənmişdir - romanlar, reklamlar, qəzet və jurnallardan məqalələr, sosial şəbəkələrdəki yazılar - hansını həzm edərək, mətndə hansı sözün kontekstdən irəli getməli olduğunu yaxşı proqnozlaşdırmağı öyrəndi. Model ədəbiyyatda eksperimentdə olduğu kimi oxşar şəraitdə qəhrəmanların şantaj və qətlə əl atdıqları, fikir zəncirini təkrarladığı nümunələr tapdı.

Mütəxəssis onu da qeyd edib ki, modeldə “yaxşı” və “pis” anlayışları da yoxdur.

Mürəkkəb bir alqoritmdən istifadə edərək, o, belə xüsusiyyətlərə malik davranışlara rast gəlinən mətnlərdən bəzi təriflər alır.

Ekspert onu da bildirib ki, insanlar artıq belə şeylərə nəzarət etməyi yaxşı öyrəniblər.

...Ancaq modellər çox mürəkkəb və qeyri-xəttidir, onların daxili işləri hələ riyazi olaraq tam izah edilmir və bəzən onlardan bəzi anlaşılmaz hekayələr çıxır. Təbii ki, onlar hələ mürəkkəb İT sistemlərinin idarə olunmasını həvalə etməyə hazır deyillər, lakin onlar daha az iddialı vəzifələrin öhdəsindən kifayət qədər uğurla gəlirlər.

Bunu da mütəxəssis izah edir.

Nazlı Almuradova

Hadisənin gedişatını izləmək üçün Icma.az saytında ən son yeniliklərə baxın.
seeBaxış sayı:213
embedMənbə:https://sia.az
archiveBu xəbər 28 İyun 2025 23:54 mənbədən arxivləşdirilmişdir
0 Şərh
Daxil olun, şərh yazmaq üçün...
İlk cavab verən siz olun...
topGünün ən çox oxunanları
Hal-hazırda ən çox müzakirə olunan hadisələr

Azərbaycanla tərəfdaşlıq yeni inkişaf perspektivləri açır

21 Noyabr 2026 20:18see380

Parisdə bugünkü etirazlara 21 mindən çox şəxs qatılıb

21 Noyabr 2026 21:24see251

Dünya iqtisadiyyatı təhlükə qarşısındadır KİV

22 Noyabr 2026 07:02see245

Azərbaycanda regional tədris mərkəzinin yaradılması Dünya Bankı ilə müzakirə edilib

21 Noyabr 2026 15:42see244

BOKT nin rəhbərliyinə təyinat olub

21 Noyabr 2026 14:31see242

Ekspert: Dövlət idarəçiliyinin rəqəmsallaşdırılması Azərbaycan iqtisadiyyatının rəqabət qabiliyyətini artırır

21 Noyabr 2026 17:24see241

Fermer ucuz satır, alıcı baha alır: Qiymət fərqi harada yaranır?

21 Noyabr 2026 14:38see239

Qızıl gələn il ucuzlaşacaq

21 Noyabr 2026 16:40see236

Mehriban Əliyeva və qızlarından Vyetnam mədəniyyətinə zərif ehtiram Foto

21 Noyabr 2026 15:21see235

La Liqa: Derbidə “sülh”

22 Noyabr 2026 00:06see234

Samvel Karapetyan: “Paşinyan müalicə olunmalıdır”

21 Noyabr 2026 17:14see228

Sumqayıtda gənc oğlan qətlə yetirilib

22 Noyabr 2026 04:55see220

SEPAH ABŞ nin hərbi bazalarını hədəf aldı

22 Noyabr 2026 00:43see217

Allah uzaq tutsun, amma müharibə bizim işimizdir Hakan Fidan

22 Noyabr 2026 02:18see217

İbrahim Kalın HƏMAS nümayəndə heyəti ilə Qəzzada atəşkəsi müzakirə etdi

22 Noyabr 2026 00:03see216

Türkiyə Super Liqası: “Qalatasaray” evdə sevindi

22 Noyabr 2026 00:13see216

2026 cı ilin sonunda almaq üçün ən sərfəli iPhone modelləri

21 Noyabr 2026 21:07see215

İran Bəhreyndə sənaye müəssisəsinə zərbə endirdi

22 Noyabr 2026 00:23see215

Ötən gün götürülən narkotik vasitələrin həcmi açıqlandı

21 Noyabr 2026 16:00see215

Milton qasırğası ABŞ də yaşayan azərbaycanlıların evlərini də vurdu

22 Noyabr 2026 07:05see211
newsSon xəbərlər
Günün ən son və aktual hadisələri