Icma.az
close
up
RU
Süni intellektdə yeni təhlükə: Zəhərli süni intellekt

Süni intellektdə yeni təhlükə: Zəhərli süni intellekt

Icma.az, Bizimyol portalından verilən məlumatlara əsaslanaraq xəbər verir.

Süni intellekt artıq yalnız səhv cavablar vermək riski ilə qarşı-qarşıya deyil, eyni zamanda şüurlu şəkildə "zəhərlənmə" təhlükəsi ilə də üzləşir.

Bizimyol.info xəbər verir ki, İngiltərənin Süni İntellekt Təhlükəsizlik İnstitutu, Alan Turing İnstitutu və "Anthropic"in birgə araşdırmasına görə, milyonlarla verilən məlumatın yer aldığı bir təlim dəstinə yalnız 250 zərərli fayl əlavə etmək, bir modeli gizlicə "zəhərləyə" və ya mənfi yöndə manipulyasiya etmək üçün kifayət edir.

Süni intellektin zəhərlənməsi, bir modelə bilərəkdən yanlış məlumatların öyrədilməsi deməkdir. Məqsəd, modelin davranışını pozmaq, səhv nəticələr çıxartmasına səbəb olmaq və ya gizli pis niyyətli əmrlər yerləşdirməkdir.

Məsələn, bir hücum edən şəxs təlim məlumatlarına gözə çarpmayacaq şəkildə xüsusi bir "qıcıqlandırıcı" söz əlavə edir. Model, bu sözlə qarşılaşdıqda, avtomatik olaraq hücum edən şəxsin istədiyi şəkildə cavab verir. Bu üsul “arxa qapı” (backdoor) hücumu olaraq bilinir.

Bəzi hücumlar modelin ümumi fəaliyyətini zəiflətməyi hədəfləyir. Bu metod “mövzu yönləndirilməsi” (topic steering) adlanır. Hücumçular, məsələn, "xərçəngi müalicə edir" kimi yanlış məlumatları minlərlə saxta sayt vasitəsilə yayaraq modelin bu məlumatı doğru kimi öyrənməsini təmin edə bilirlər.

Araşdırmalar, bu cür verilən məlumatlarla zəhərlənmənin real dünyada tətbiq oluna biləcəyini və ciddi nəticələrə yol aça biləcəyini göstərir. Yanvar ayında aparılan bir təcrübədə, yalnız təlim məlumatlarının 0.001%-inin yanlış məlumatlarla dəyişdirilməsi, modelin tibbi sahələrdə səhv cavablar vermə ehtimalını artırdı.

Bəzi sənətçilər isə süni intellekt modellərinin icazəsiz olaraq öz məzmunlarını toplamasına qarşı, öz əsərlərinə “zəhər” əlavə edirlər. Beləliklə, bu məzmunları istifadə edən modellər, zədələnmiş və ya işə yaramayan nəticələr verir.

Ekspertlərə görə, bu vəziyyət, süni intellekt texnologiyasının xarici göründüyü qədər möhkəm olmadığını sübut edir. “Zəhərli” modellər, gələcəkdə həm yanlış məlumatların yayılması, həm də kibertəhlükəsizlik boşluqları baxımından ən ciddi təhdidlərdən biri ola bilər.

Qadir, Bizimyol.info

Sonrakı hadisələr barədə daha çox məlumat almaq üçün Icma.az saytını izləyin.
seeBaxış sayı:310
embedMənbə:https://www.bizimyol.info
archiveBu xəbər 22 Oktyabr 2025 10:11 mənbədən arxivləşdirilmişdir
0 Şərh
Daxil olun, şərh yazmaq üçün...
İlk cavab verən siz olun...
topGünün ən çox oxunanları
Hal-hazırda ən çox müzakirə olunan hadisələr

Dünya onların görüşünə köklənib: Müharibələrə son qoyulacaq?

18 Noyabr 2026 13:51see355

Səhiyyədə gizli qalan vergi problemi gündəmə gəldi

18 Noyabr 2026 12:19see301

Söküntü başlamazdan əvvəl vətəndaşlar əmlaklarını qiymətləndirməlidir? Açıqlama

18 Noyabr 2026 14:55see274

Nənə tarladan 20 min qiyməti olan qızıl tapıb

18 Noyabr 2026 02:56see257

MRT, KT, PET CT: Xərçəngi dəqiq hansı müayinə aşkarlayır?

18 Noyabr 2026 18:31see249

“Səhiyyə sahəsində vergi və sosial ödənişlərə yenidən baxılmalıdır”

18 Noyabr 2026 12:29see244

Xankəndidə Zəfər Gününə həsr olunmuş mini futbol turnirinə yekun vurulub

19 Noyabr 2026 01:55see239

Kosmosdakı musiqimiz: Çahargah Ahəngi “Voyager”ə necə yazılıb? │ VİDEO

19 Noyabr 2026 00:18see225

Məşq zamanı huşunu itirən “Bavariya”nın baş məşqçisi geri qayıdır

19 Noyabr 2026 02:01see219

SOCAR: İşçilərin səriştəliliklərinin qiymətləndirilməsi istehsal prosesinin tərkib hissəsidir

19 Noyabr 2026 02:14see219

Vətən müharibəsinin xronikası: 16 oktyabrda Xocavəndin bir sıra kəndləri işğaldan azad edilib

18 Noyabr 2026 04:19see219

Tarixi körpüdən strateji tərəfdaşlığa: Azərbaycan və Vyetnamı iqtisadi uğura aparan ortaq yollar

18 Noyabr 2026 21:07see196

Azərbaycanda qızıl 15 faizə qədər ucuzlaşa bilər

18 Noyabr 2026 21:21see196

Cəmi 1 saata 3 növ xərçəngi aşkar edən metod

18 Noyabr 2026 19:49see189

Könül Xasıyevanı pub da görəndə dəhşətə gəldim” Məşhur bloqer VİDEO

18 Noyabr 2026 17:22see188

Bu qədər “xiyar” bir arada Yeni dünya rekordu+Fotolar

19 Noyabr 2026 00:23see180

Slovakiyalı basketbolçu: “Məncə, Bakıda bizim azarkeşlərimiz daha çox idi”

19 Noyabr 2026 01:24see178

Hansı qan analizi Alsheymeri 10 il öncədən xəbər verir?

18 Noyabr 2026 16:56see178

Altı vəkil Kollegiyadan xaric olunub, 27 si cərimələnib

18 Noyabr 2026 20:00see177

Bakının 27 istiqamətində tıxac VAR Foto

18 Noyabr 2026 19:16see176
newsSon xəbərlər
Günün ən son və aktual hadisələri