Icma.az
close
up
RU
Süni intellektdə yeni təhlükə: Zəhərli süni intellekt

Süni intellektdə yeni təhlükə: Zəhərli süni intellekt

Icma.az, Bizimyol portalından verilən məlumatlara əsaslanaraq xəbər verir.

Süni intellekt artıq yalnız səhv cavablar vermək riski ilə qarşı-qarşıya deyil, eyni zamanda şüurlu şəkildə "zəhərlənmə" təhlükəsi ilə də üzləşir.

Bizimyol.info xəbər verir ki, İngiltərənin Süni İntellekt Təhlükəsizlik İnstitutu, Alan Turing İnstitutu və "Anthropic"in birgə araşdırmasına görə, milyonlarla verilən məlumatın yer aldığı bir təlim dəstinə yalnız 250 zərərli fayl əlavə etmək, bir modeli gizlicə "zəhərləyə" və ya mənfi yöndə manipulyasiya etmək üçün kifayət edir.

Süni intellektin zəhərlənməsi, bir modelə bilərəkdən yanlış məlumatların öyrədilməsi deməkdir. Məqsəd, modelin davranışını pozmaq, səhv nəticələr çıxartmasına səbəb olmaq və ya gizli pis niyyətli əmrlər yerləşdirməkdir.

Məsələn, bir hücum edən şəxs təlim məlumatlarına gözə çarpmayacaq şəkildə xüsusi bir "qıcıqlandırıcı" söz əlavə edir. Model, bu sözlə qarşılaşdıqda, avtomatik olaraq hücum edən şəxsin istədiyi şəkildə cavab verir. Bu üsul “arxa qapı” (backdoor) hücumu olaraq bilinir.

Bəzi hücumlar modelin ümumi fəaliyyətini zəiflətməyi hədəfləyir. Bu metod “mövzu yönləndirilməsi” (topic steering) adlanır. Hücumçular, məsələn, "xərçəngi müalicə edir" kimi yanlış məlumatları minlərlə saxta sayt vasitəsilə yayaraq modelin bu məlumatı doğru kimi öyrənməsini təmin edə bilirlər.

Araşdırmalar, bu cür verilən məlumatlarla zəhərlənmənin real dünyada tətbiq oluna biləcəyini və ciddi nəticələrə yol aça biləcəyini göstərir. Yanvar ayında aparılan bir təcrübədə, yalnız təlim məlumatlarının 0.001%-inin yanlış məlumatlarla dəyişdirilməsi, modelin tibbi sahələrdə səhv cavablar vermə ehtimalını artırdı.

Bəzi sənətçilər isə süni intellekt modellərinin icazəsiz olaraq öz məzmunlarını toplamasına qarşı, öz əsərlərinə “zəhər” əlavə edirlər. Beləliklə, bu məzmunları istifadə edən modellər, zədələnmiş və ya işə yaramayan nəticələr verir.

Ekspertlərə görə, bu vəziyyət, süni intellekt texnologiyasının xarici göründüyü qədər möhkəm olmadığını sübut edir. “Zəhərli” modellər, gələcəkdə həm yanlış məlumatların yayılması, həm də kibertəhlükəsizlik boşluqları baxımından ən ciddi təhdidlərdən biri ola bilər.

Qadir, Bizimyol.info

Sonrakı hadisələr barədə daha çox məlumat almaq üçün Icma.az saytını izləyin.
seeBaxış sayı:291
embedMənbə:https://www.bizimyol.info
archiveBu xəbər 22 Oktyabr 2025 10:11 mənbədən arxivləşdirilmişdir
0 Şərh
Daxil olun, şərh yazmaq üçün...
İlk cavab verən siz olun...
topGünün ən çox oxunanları
Hal-hazırda ən çox müzakirə olunan hadisələr

Balıq bazarında bahalaşma var (Video)

14 Noyabr 2026 21:02see337

Yuğ Teatrında Ana tamaşasının premyerası keçirilib FOTOLAR

14 Noyabr 2026 20:23see313

Avropa siyasi məkanında aparılan müzakirələrdə Azərbaycan fəal iştirak edir

14 Noyabr 2026 19:16see310

Musiqi dünyasında tarixi ilk: İnsan deyil, amma ilin ən yaxşı ifaçısı seçildi

15 Noyabr 2026 00:00see284

Kanadada minlərlə tələbə etiraz aksiyası keçirdi

15 Noyabr 2026 00:51see278

Rusların təxminən 90 faizi son üç ildə kredit götürdüyünü etiraf edib

14 Noyabr 2026 19:30see276

İrina Şeykin məşhur sevgililəri: Ronaldodan Bredli Kuperə, Kanye Uestdən...

15 Noyabr 2026 04:05see272

Ermənistanı Avropa İttifaqının tərkibində görürəm Paşinyan

14 Noyabr 2026 19:50see268

Zülalla ən zəngin çərəz

15 Noyabr 2026 03:04see257

Türkiyə gözəli beynəlxalq yarışmadan son anda kənarlaşdırıldı

15 Noyabr 2026 04:36see253

Britaniya Rusiya hərbi bazalarını vurmalıdır

15 Noyabr 2026 01:26see249

Toyuq ətini əvəz edir Tərkibində 25 % zülal var

15 Noyabr 2026 05:06see249

Bitkoinin qiyməti 66 min dollardan aşağı düşdü

15 Noyabr 2026 01:34see219

Həftədə bir məşq fiziki formanı və sağlamlığı yaxşılaşdıra bilərmi?

14 Noyabr 2026 21:54see217

Məşhur model milyarderə ərə getdi

15 Noyabr 2026 00:26see210

Yuxusuzluq infarkt və insult riskini artırır Həkimdən xəbərdarlıq

15 Noyabr 2026 14:28see202

Bakını qoyub Ağstafaya köçdü 87 yaşlı Xalq artistinin həyatı necə keçir?

15 Noyabr 2026 15:50see198

Türkiyəli aktyor ev sahibi ilə məhkəməni uddu Kirayə qalmaqalı

14 Noyabr 2026 22:18see198

Dublin səfəri Azərbaycanın Avropa siyasətinin yeni istiqamətlər üzrə paralel şəkildə inkişaf etdiyini göstərdi ŞƏRH

15 Noyabr 2026 13:13see193

Azərbaycanın İKT sektorunda rekord artım: Region ölkələri ilə fərq nə qədərdir?

15 Noyabr 2026 13:53see189
newsSon xəbərlər
Günün ən son və aktual hadisələri