Icma.az
close
up
RU
Süni intellekt modellərinin təhlükələri çox şişirdilir...

Süni intellekt modellərinin təhlükələri çox şişirdilir...

Icma.az bildirir, Sia Az portalına istinadən.

Aparıcı süni intellekt modelləri şəbəkədən qopmamaq üçün şantaj edilə və hətta öldürülə də bilər. Bu qənaətləri digər məsələlərlə yanaşı, dil modellərinin təhlükəsizliyi məsələləri ilə də məşğul olan Anthropic şirkəti verib.

SİA-nın məlumatına görə, Skolkovo Elm və Texnologiya İnstitutunun Tətbiqi Süni İntellekt Mərkəzinin direktoru Yevgeni Burnayev eksperimentlə bağlı fikirlərini bölüşüb.

O hesab edir ki, nəticə çıxarmağa tələsmək lazım deyil, çünki modellərin təhlükələri və imkanları şişirdilmişdir.

...Süni intellektin şantaj və qətlə hazır və ya meylli olduğunu söylədikdə, bu, qərarın özünün verdiyini göstərir. Bu yanlışdır. Dil modeli fərqli şəkildə qurulmuşdur: ona terabaytlarla mətn yüklənmişdir - romanlar, reklamlar, qəzet və jurnallardan məqalələr, sosial şəbəkələrdəki yazılar - hansını həzm edərək, mətndə hansı sözün kontekstdən irəli getməli olduğunu yaxşı proqnozlaşdırmağı öyrəndi. Model ədəbiyyatda eksperimentdə olduğu kimi oxşar şəraitdə qəhrəmanların şantaj və qətlə əl atdıqları, fikir zəncirini təkrarladığı nümunələr tapdı.

Mütəxəssis onu da qeyd edib ki, modeldə “yaxşı” və “pis” anlayışları da yoxdur.

Mürəkkəb bir alqoritmdən istifadə edərək, o, belə xüsusiyyətlərə malik davranışlara rast gəlinən mətnlərdən bəzi təriflər alır.

Ekspert onu da bildirib ki, insanlar artıq belə şeylərə nəzarət etməyi yaxşı öyrəniblər.

...Ancaq modellər çox mürəkkəb və qeyri-xəttidir, onların daxili işləri hələ riyazi olaraq tam izah edilmir və bəzən onlardan bəzi anlaşılmaz hekayələr çıxır. Təbii ki, onlar hələ mürəkkəb İT sistemlərinin idarə olunmasını həvalə etməyə hazır deyillər, lakin onlar daha az iddialı vəzifələrin öhdəsindən kifayət qədər uğurla gəlirlər.

Bunu da mütəxəssis izah edir.

Nazlı Almuradova

Hadisənin gedişatını izləmək üçün Icma.az saytında ən son yeniliklərə baxın.
seeBaxış sayı:205
embedMənbə:https://sia.az
archiveBu xəbər 28 İyun 2025 23:54 mənbədən arxivləşdirilmişdir
0 Şərh
Daxil olun, şərh yazmaq üçün...
İlk cavab verən siz olun...
topGünün ən çox oxunanları
Hal-hazırda ən çox müzakirə olunan hadisələr

Ozan Güven “Aşk ı Memnu”nun “Behlül”ü ola bilərmiş

16 Noyabr 2026 02:02see300

İngiltərə İspaniyanı məğlub edərək qrup lideri OLDU

16 Noyabr 2026 01:51see292

Futbol turniri valideynlərin davranışına görə dayandırıldı

16 Noyabr 2026 01:15see256

Dislipidemiyanın aktual məsələləri: Qərar qəbuletmə vaxtı mövzusunda Elmi praktiki simpozium həyata keçiriləcək

16 Noyabr 2026 12:04see244

İtaliyadan Ukraynaya yeni hərbi dəstək: İki peykin radar məlumatları veriləcək

15 Noyabr 2026 22:01see242

Onkoloji xəstəliklərin müalicəsi sığorta ilə ödənilməlidir Deputatdan TƏKLİF

16 Noyabr 2026 16:37see241

Belçikadan möhtəşəm geridönüş: İtaliya darmadağın edildi

16 Noyabr 2026 01:56see238

Braziliya futbolunun əfsanəsi 11 il sonra futbola qayıtdı...

16 Noyabr 2026 00:05see229

Musiqi alətində ifa edən uşaqlar daha yaddaşlı OLUR

16 Noyabr 2026 23:43see225

Deklan Rays “Arsenal”la beşillik müqavilə barədə razılığa gəldi

17 Noyabr 2026 01:11see223

Uşaqlarınızı bu əşyadan qoruyun Azərbaycanlı həkim (VİDEO

16 Noyabr 2026 12:36see219

Küləkli hava şəraiti ilə bağlı sarı xəbərdarlıq verilib

17 Noyabr 2026 05:32see201

Ən çox qazanan televiziya aktyorları...

16 Noyabr 2026 20:52see201

Dövlət bu xəstələrin də müalicə pulunu ödəyəcək?

16 Noyabr 2026 15:49see199

Küləkli havada uşaqlarda qulaq ağrısı və qulaq iltihabı riski artırmı?

16 Noyabr 2026 14:44see198

Ayxan Abbasov: “Ən aşağı pilləyə düşmüşdük, indi yavaş yavaş yüksəlməliyik”

17 Noyabr 2026 01:42see194

Uorren Baffet 5,5 milyard dollarlıq səhmlərini xeyriyyə fondlarına bağışlayıb

17 Noyabr 2026 04:19see192

Bu ilin büdcəsində niyə profisit yaranıb?

16 Noyabr 2026 17:35see190

Xərçəngdən sonra ən böyük qorxu: Xəstəlik təkrarlanmasın deyə nə etməli?

16 Noyabr 2026 22:45see182

Xaçmazda ev yandı, 90 yaşlı sahibəsi həlak oldu

16 Noyabr 2026 20:15see178
newsSon xəbərlər
Günün ən son və aktual hadisələri