Icma.az
close
up
RU
Süni intellektdə yeni təhlükə: Zəhərli süni intellekt

Süni intellektdə yeni təhlükə: Zəhərli süni intellekt

Icma.az, Bizimyol portalından verilən məlumatlara əsaslanaraq xəbər verir.

Süni intellekt artıq yalnız səhv cavablar vermək riski ilə qarşı-qarşıya deyil, eyni zamanda şüurlu şəkildə "zəhərlənmə" təhlükəsi ilə də üzləşir.

Bizimyol.info xəbər verir ki, İngiltərənin Süni İntellekt Təhlükəsizlik İnstitutu, Alan Turing İnstitutu və "Anthropic"in birgə araşdırmasına görə, milyonlarla verilən məlumatın yer aldığı bir təlim dəstinə yalnız 250 zərərli fayl əlavə etmək, bir modeli gizlicə "zəhərləyə" və ya mənfi yöndə manipulyasiya etmək üçün kifayət edir.

Süni intellektin zəhərlənməsi, bir modelə bilərəkdən yanlış məlumatların öyrədilməsi deməkdir. Məqsəd, modelin davranışını pozmaq, səhv nəticələr çıxartmasına səbəb olmaq və ya gizli pis niyyətli əmrlər yerləşdirməkdir.

Məsələn, bir hücum edən şəxs təlim məlumatlarına gözə çarpmayacaq şəkildə xüsusi bir "qıcıqlandırıcı" söz əlavə edir. Model, bu sözlə qarşılaşdıqda, avtomatik olaraq hücum edən şəxsin istədiyi şəkildə cavab verir. Bu üsul “arxa qapı” (backdoor) hücumu olaraq bilinir.

Bəzi hücumlar modelin ümumi fəaliyyətini zəiflətməyi hədəfləyir. Bu metod “mövzu yönləndirilməsi” (topic steering) adlanır. Hücumçular, məsələn, "xərçəngi müalicə edir" kimi yanlış məlumatları minlərlə saxta sayt vasitəsilə yayaraq modelin bu məlumatı doğru kimi öyrənməsini təmin edə bilirlər.

Araşdırmalar, bu cür verilən məlumatlarla zəhərlənmənin real dünyada tətbiq oluna biləcəyini və ciddi nəticələrə yol aça biləcəyini göstərir. Yanvar ayında aparılan bir təcrübədə, yalnız təlim məlumatlarının 0.001%-inin yanlış məlumatlarla dəyişdirilməsi, modelin tibbi sahələrdə səhv cavablar vermə ehtimalını artırdı.

Bəzi sənətçilər isə süni intellekt modellərinin icazəsiz olaraq öz məzmunlarını toplamasına qarşı, öz əsərlərinə “zəhər” əlavə edirlər. Beləliklə, bu məzmunları istifadə edən modellər, zədələnmiş və ya işə yaramayan nəticələr verir.

Ekspertlərə görə, bu vəziyyət, süni intellekt texnologiyasının xarici göründüyü qədər möhkəm olmadığını sübut edir. “Zəhərli” modellər, gələcəkdə həm yanlış məlumatların yayılması, həm də kibertəhlükəsizlik boşluqları baxımından ən ciddi təhdidlərdən biri ola bilər.

Qadir, Bizimyol.info

Sonrakı hadisələr barədə daha çox məlumat almaq üçün Icma.az saytını izləyin.
seeBaxış sayı:293
embedMənbə:https://www.bizimyol.info
archiveBu xəbər 22 Oktyabr 2025 10:11 mənbədən arxivləşdirilmişdir
0 Şərh
Daxil olun, şərh yazmaq üçün...
İlk cavab verən siz olun...
topGünün ən çox oxunanları
Hal-hazırda ən çox müzakirə olunan hadisələr

İrina Şeykin məşhur sevgililəri: Ronaldodan Bredli Kuperə, Kanye Uestdən...

15 Noyabr 2026 04:05see307

Kanadada minlərlə tələbə etiraz aksiyası keçirdi

15 Noyabr 2026 00:51see297

Zülalla ən zəngin çərəz

15 Noyabr 2026 03:04see281

Türkiyə gözəli beynəlxalq yarışmadan son anda kənarlaşdırıldı

15 Noyabr 2026 04:36see279

Toyuq ətini əvəz edir Tərkibində 25 % zülal var

15 Noyabr 2026 05:06see273

Britaniya Rusiya hərbi bazalarını vurmalıdır

15 Noyabr 2026 01:26see271

Bitkoinin qiyməti 66 min dollardan aşağı düşdü

15 Noyabr 2026 01:34see253

Yuxusuzluq infarkt və insult riskini artırır Həkimdən xəbərdarlıq

15 Noyabr 2026 14:28see224

Dublin səfəri Azərbaycanın Avropa siyasətinin yeni istiqamətlər üzrə paralel şəkildə inkişaf etdiyini göstərdi ŞƏRH

15 Noyabr 2026 13:13see219

Bakını qoyub Ağstafaya köçdü 87 yaşlı Xalq artistinin həyatı necə keçir?

15 Noyabr 2026 15:50see219

Azərbaycanın İKT sektorunda rekord artım: Region ölkələri ilə fərq nə qədərdir?

15 Noyabr 2026 13:53see216

TÜRK MÜDAFİƏ SƏNAYESİNİN YENİ UĞURU... 51 dronu bir neçə saniyədə məhv edir + VİDEO

15 Noyabr 2026 19:14see213

SÖZÜN İŞIĞINDA KEÇƏN ÖMÜR Qazi şair Ədalət Nicatın 60 illiyi qeyd olunub

15 Noyabr 2026 13:40see207

Ozan Güven “Aşk ı Memnu”nun “Behlül”ü ola bilərmiş

16 Noyabr 2026 02:02see203

İngiltərə İspaniyanı məğlub edərək qrup lideri OLDU

16 Noyabr 2026 01:51see197

Azərbaycanda sərnişin mikroavtobusu qəzaya uğradı: Çox sayda yaralı var Video

15 Noyabr 2026 16:38see194

Tuxel İspaniya mediasına sərt reaksiya verdi: “Siz özünüz qalmaqal yaradırsınız”

15 Noyabr 2026 02:17see191

Yuxusuz gecədən sonra bunu edin

15 Noyabr 2026 02:02see188

2040 cı ilə qədər qlobal iqtisadiyyatda nə baş verəcək: Azərbaycan hansı mövqedə olacaq?

15 Noyabr 2026 14:02see180

91 yaşlı əfsanəvi aktrisa uzun fasilədən sonra ictimaiyyət qarşısına çıxdı

15 Noyabr 2026 02:58see179
newsSon xəbərlər
Günün ən son və aktual hadisələri