Icma.az
close
up
RU
Süni intellektdə yeni təhlükə: Zəhərli süni intellekt

Süni intellektdə yeni təhlükə: Zəhərli süni intellekt

Icma.az, Bizimyol portalından verilən məlumatlara əsaslanaraq xəbər verir.

Süni intellekt artıq yalnız səhv cavablar vermək riski ilə qarşı-qarşıya deyil, eyni zamanda şüurlu şəkildə "zəhərlənmə" təhlükəsi ilə də üzləşir.

Bizimyol.info xəbər verir ki, İngiltərənin Süni İntellekt Təhlükəsizlik İnstitutu, Alan Turing İnstitutu və "Anthropic"in birgə araşdırmasına görə, milyonlarla verilən məlumatın yer aldığı bir təlim dəstinə yalnız 250 zərərli fayl əlavə etmək, bir modeli gizlicə "zəhərləyə" və ya mənfi yöndə manipulyasiya etmək üçün kifayət edir.

Süni intellektin zəhərlənməsi, bir modelə bilərəkdən yanlış məlumatların öyrədilməsi deməkdir. Məqsəd, modelin davranışını pozmaq, səhv nəticələr çıxartmasına səbəb olmaq və ya gizli pis niyyətli əmrlər yerləşdirməkdir.

Məsələn, bir hücum edən şəxs təlim məlumatlarına gözə çarpmayacaq şəkildə xüsusi bir "qıcıqlandırıcı" söz əlavə edir. Model, bu sözlə qarşılaşdıqda, avtomatik olaraq hücum edən şəxsin istədiyi şəkildə cavab verir. Bu üsul “arxa qapı” (backdoor) hücumu olaraq bilinir.

Bəzi hücumlar modelin ümumi fəaliyyətini zəiflətməyi hədəfləyir. Bu metod “mövzu yönləndirilməsi” (topic steering) adlanır. Hücumçular, məsələn, "xərçəngi müalicə edir" kimi yanlış məlumatları minlərlə saxta sayt vasitəsilə yayaraq modelin bu məlumatı doğru kimi öyrənməsini təmin edə bilirlər.

Araşdırmalar, bu cür verilən məlumatlarla zəhərlənmənin real dünyada tətbiq oluna biləcəyini və ciddi nəticələrə yol aça biləcəyini göstərir. Yanvar ayında aparılan bir təcrübədə, yalnız təlim məlumatlarının 0.001%-inin yanlış məlumatlarla dəyişdirilməsi, modelin tibbi sahələrdə səhv cavablar vermə ehtimalını artırdı.

Bəzi sənətçilər isə süni intellekt modellərinin icazəsiz olaraq öz məzmunlarını toplamasına qarşı, öz əsərlərinə “zəhər” əlavə edirlər. Beləliklə, bu məzmunları istifadə edən modellər, zədələnmiş və ya işə yaramayan nəticələr verir.

Ekspertlərə görə, bu vəziyyət, süni intellekt texnologiyasının xarici göründüyü qədər möhkəm olmadığını sübut edir. “Zəhərli” modellər, gələcəkdə həm yanlış məlumatların yayılması, həm də kibertəhlükəsizlik boşluqları baxımından ən ciddi təhdidlərdən biri ola bilər.

Qadir, Bizimyol.info

Sonrakı hadisələr barədə daha çox məlumat almaq üçün Icma.az saytını izləyin.
seeBaxış sayı:308
embedMənbə:https://www.bizimyol.info
archiveBu xəbər 22 Oktyabr 2025 10:11 mənbədən arxivləşdirilmişdir
0 Şərh
Daxil olun, şərh yazmaq üçün...
İlk cavab verən siz olun...
topGünün ən çox oxunanları
Hal-hazırda ən çox müzakirə olunan hadisələr

Xəzər dənizinin Azərbaycan sahillərinin dövlət idarəçiliyi

17 Noyabr 2026 23:52see383

® Vüqar Eyvazov “AmCham Azərbaycan”ın yeni yaradılmış Səhiyyə Komitəsinin sədri təyin edilib

18 Noyabr 2026 01:28see360

2027 ci ildən Bakıya köç daha da artacaq?

17 Noyabr 2026 23:20see348

Dünya onların görüşünə köklənib: Müharibələrə son qoyulacaq?

18 Noyabr 2026 13:51see304

Diş əti qanaması hansı daxili xəstəliklərin əlamətidir?

17 Noyabr 2026 23:18see288

İki zəhərli ilanı təyyarəyə keçirmək istədi

17 Noyabr 2026 23:17see270

Səhiyyədə gizli qalan vergi problemi gündəmə gəldi

18 Noyabr 2026 12:19see259

Bu hərəkətlər davam edərsə.. SEPAH generalı Bəhreyn hökümətini HƏDƏLƏDİ

18 Noyabr 2026 02:03see258

Braziliya millisindən darmadağın: Vinisius het trik etdi

18 Noyabr 2026 00:46see255

Söküntü başlamazdan əvvəl vətəndaşlar əmlaklarını qiymətləndirməlidir? Açıqlama

18 Noyabr 2026 14:55see250

Bossların bossu” vəfat etdi Pablo Eskobarla əməkdaşlıq edib

18 Noyabr 2026 01:52see236

Nənə tarladan 20 min qiyməti olan qızıl tapıb

18 Noyabr 2026 02:56see235

Polad Həşimovun anası xəstəxanadan evə buraxılıb TƏBİB

18 Noyabr 2026 01:24see235

MRT, KT, PET CT: Xərçəngi dəqiq hansı müayinə aşkarlayır?

18 Noyabr 2026 18:31see228

“Səhiyyə sahəsində vergi və sosial ödənişlərə yenidən baxılmalıdır”

18 Noyabr 2026 12:29see223

Xankəndidə Zəfər Gününə həsr olunmuş mini futbol turnirinə yekun vurulub

19 Noyabr 2026 01:55see221

SOCAR: İşçilərin səriştəliliklərinin qiymətləndirilməsi istehsal prosesinin tərkib hissəsidir

19 Noyabr 2026 02:14see203

Kosmosdakı musiqimiz: Çahargah Ahəngi “Voyager”ə necə yazılıb? │ VİDEO

19 Noyabr 2026 00:18see203

Məşq zamanı huşunu itirən “Bavariya”nın baş məşqçisi geri qayıdır

19 Noyabr 2026 02:01see200

Vətən müharibəsinin xronikası: 16 oktyabrda Xocavəndin bir sıra kəndləri işğaldan azad edilib

18 Noyabr 2026 04:19see197
newsSon xəbərlər
Günün ən son və aktual hadisələri