Icma.az
close
up
RU
Menu

İrina Şeykin məşhur sevgililəri: Ronaldodan Bredli Kuperə, Kanye Uestdən...

Zülalla ən zəngin çərəz

Türkiyə gözəli beynəlxalq yarışmadan son anda kənarlaşdırıldı

Toyuq ətini əvəz edir Tərkibində 25 % zülal var

Yuxusuzluq infarkt və insult riskini artırır Həkimdən xəbərdarlıq

Bakını qoyub Ağstafaya köçdü 87 yaşlı Xalq artistinin həyatı necə keçir?

Dublin səfəri Azərbaycanın Avropa siyasətinin yeni istiqamətlər üzrə paralel şəkildə inkişaf etdiyini göstərdi ŞƏRH

Azərbaycanın İKT sektorunda rekord artım: Region ölkələri ilə fərq nə qədərdir?

TÜRK MÜDAFİƏ SƏNAYESİNİN YENİ UĞURU... 51 dronu bir neçə saniyədə məhv edir + VİDEO

SÖZÜN İŞIĞINDA KEÇƏN ÖMÜR Qazi şair Ədalət Nicatın 60 illiyi qeyd olunub

Ozan Güven “Aşk ı Memnu”nun “Behlül”ü ola bilərmiş

İngiltərə İspaniyanı məğlub edərək qrup lideri OLDU

Azərbaycanda sərnişin mikroavtobusu qəzaya uğradı: Çox sayda yaralı var Video

Tuxel İspaniya mediasına sərt reaksiya verdi: “Siz özünüz qalmaqal yaradırsınız”

Yuxusuz gecədən sonra bunu edin

2040 cı ilə qədər qlobal iqtisadiyyatda nə baş verəcək: Azərbaycan hansı mövqedə olacaq?

91 yaşlı əfsanəvi aktrisa uzun fasilədən sonra ictimaiyyət qarşısına çıxdı

Bakıda temperatur 7 8 dərəcə enəcək Növbəti 3 günün hava proqnozu

“Boranı” restoranı ilə bağlı iddia: Tək gəldiyi üçün müştəriyə girişə icazə verilmədi

Leyla Əliyeva İSESKO nun Baş direktoru ilə görüşüb

Süni intellektdə yeni təhlükə: Zəhərli süni intellekt

Süni intellektdə yeni təhlükə: Zəhərli süni intellekt

Icma.az, Bizimyol portalından verilən məlumatlara əsaslanaraq xəbər verir.

Süni intellekt artıq yalnız səhv cavablar vermək riski ilə qarşı-qarşıya deyil, eyni zamanda şüurlu şəkildə "zəhərlənmə" təhlükəsi ilə də üzləşir.

Bizimyol.info xəbər verir ki, İngiltərənin Süni İntellekt Təhlükəsizlik İnstitutu, Alan Turing İnstitutu və "Anthropic"in birgə araşdırmasına görə, milyonlarla verilən məlumatın yer aldığı bir təlim dəstinə yalnız 250 zərərli fayl əlavə etmək, bir modeli gizlicə "zəhərləyə" və ya mənfi yöndə manipulyasiya etmək üçün kifayət edir.

Süni intellektin zəhərlənməsi, bir modelə bilərəkdən yanlış məlumatların öyrədilməsi deməkdir. Məqsəd, modelin davranışını pozmaq, səhv nəticələr çıxartmasına səbəb olmaq və ya gizli pis niyyətli əmrlər yerləşdirməkdir.

Məsələn, bir hücum edən şəxs təlim məlumatlarına gözə çarpmayacaq şəkildə xüsusi bir "qıcıqlandırıcı" söz əlavə edir. Model, bu sözlə qarşılaşdıqda, avtomatik olaraq hücum edən şəxsin istədiyi şəkildə cavab verir. Bu üsul “arxa qapı” (backdoor) hücumu olaraq bilinir.

Bəzi hücumlar modelin ümumi fəaliyyətini zəiflətməyi hədəfləyir. Bu metod “mövzu yönləndirilməsi” (topic steering) adlanır. Hücumçular, məsələn, "xərçəngi müalicə edir" kimi yanlış məlumatları minlərlə saxta sayt vasitəsilə yayaraq modelin bu məlumatı doğru kimi öyrənməsini təmin edə bilirlər.

Araşdırmalar, bu cür verilən məlumatlarla zəhərlənmənin real dünyada tətbiq oluna biləcəyini və ciddi nəticələrə yol aça biləcəyini göstərir. Yanvar ayında aparılan bir təcrübədə, yalnız təlim məlumatlarının 0.001%-inin yanlış məlumatlarla dəyişdirilməsi, modelin tibbi sahələrdə səhv cavablar vermə ehtimalını artırdı.

Bəzi sənətçilər isə süni intellekt modellərinin icazəsiz olaraq öz məzmunlarını toplamasına qarşı, öz əsərlərinə “zəhər” əlavə edirlər. Beləliklə, bu məzmunları istifadə edən modellər, zədələnmiş və ya işə yaramayan nəticələr verir.

Ekspertlərə görə, bu vəziyyət, süni intellekt texnologiyasının xarici göründüyü qədər möhkəm olmadığını sübut edir. “Zəhərli” modellər, gələcəkdə həm yanlış məlumatların yayılması, həm də kibertəhlükəsizlik boşluqları baxımından ən ciddi təhdidlərdən biri ola bilər.

Qadir, Bizimyol.info

Sonrakı hadisələr barədə daha çox məlumat almaq üçün Icma.az saytını izləyin.
seeBaxış sayı:295
embedMənbə:https://www.bizimyol.info
archiveBu xəbər 22 Oktyabr 2025 10:11 mənbədən arxivləşdirilmişdir
0 Şərh
Daxil olun, şərh yazmaq üçün...
İlk cavab verən siz olun...
topGünün ən çox oxunanları
Hal-hazırda ən çox müzakirə olunan hadisələr

İrina Şeykin məşhur sevgililəri: Ronaldodan Bredli Kuperə, Kanye Uestdən...

15 Noyabr 2026 04:05see315

Zülalla ən zəngin çərəz

15 Noyabr 2026 03:04see286

Türkiyə gözəli beynəlxalq yarışmadan son anda kənarlaşdırıldı

15 Noyabr 2026 04:36see284

Toyuq ətini əvəz edir Tərkibində 25 % zülal var

15 Noyabr 2026 05:06see279

Yuxusuzluq infarkt və insult riskini artırır Həkimdən xəbərdarlıq

15 Noyabr 2026 14:28see231

Bakını qoyub Ağstafaya köçdü 87 yaşlı Xalq artistinin həyatı necə keçir?

15 Noyabr 2026 15:50see227

Dublin səfəri Azərbaycanın Avropa siyasətinin yeni istiqamətlər üzrə paralel şəkildə inkişaf etdiyini göstərdi ŞƏRH

15 Noyabr 2026 13:13see226

Azərbaycanın İKT sektorunda rekord artım: Region ölkələri ilə fərq nə qədərdir?

15 Noyabr 2026 13:53see221

TÜRK MÜDAFİƏ SƏNAYESİNİN YENİ UĞURU... 51 dronu bir neçə saniyədə məhv edir + VİDEO

15 Noyabr 2026 19:14see219

SÖZÜN İŞIĞINDA KEÇƏN ÖMÜR Qazi şair Ədalət Nicatın 60 illiyi qeyd olunub

15 Noyabr 2026 13:40see211

Ozan Güven “Aşk ı Memnu”nun “Behlül”ü ola bilərmiş

16 Noyabr 2026 02:02see209

İngiltərə İspaniyanı məğlub edərək qrup lideri OLDU

16 Noyabr 2026 01:51see202

Azərbaycanda sərnişin mikroavtobusu qəzaya uğradı: Çox sayda yaralı var Video

15 Noyabr 2026 16:38see199

Tuxel İspaniya mediasına sərt reaksiya verdi: “Siz özünüz qalmaqal yaradırsınız”

15 Noyabr 2026 02:17see195

Yuxusuz gecədən sonra bunu edin

15 Noyabr 2026 02:02see192

2040 cı ilə qədər qlobal iqtisadiyyatda nə baş verəcək: Azərbaycan hansı mövqedə olacaq?

15 Noyabr 2026 14:02see187

91 yaşlı əfsanəvi aktrisa uzun fasilədən sonra ictimaiyyət qarşısına çıxdı

15 Noyabr 2026 02:58see184

Bakıda temperatur 7 8 dərəcə enəcək Növbəti 3 günün hava proqnozu

15 Noyabr 2026 09:13see176

“Boranı” restoranı ilə bağlı iddia: Tək gəldiyi üçün müştəriyə girişə icazə verilmədi

15 Noyabr 2026 21:02see176

Leyla Əliyeva İSESKO nun Baş direktoru ilə görüşüb

15 Noyabr 2026 04:16see175
newsSon xəbərlər
Günün ən son və aktual hadisələri