Icma.az
close
up
RU
Süni intellektdə yeni təhlükə: Zəhərli süni intellekt

Süni intellektdə yeni təhlükə: Zəhərli süni intellekt

Icma.az, Bizimyol portalından verilən məlumatlara əsaslanaraq xəbər verir.

Süni intellekt artıq yalnız səhv cavablar vermək riski ilə qarşı-qarşıya deyil, eyni zamanda şüurlu şəkildə "zəhərlənmə" təhlükəsi ilə də üzləşir.

Bizimyol.info xəbər verir ki, İngiltərənin Süni İntellekt Təhlükəsizlik İnstitutu, Alan Turing İnstitutu və "Anthropic"in birgə araşdırmasına görə, milyonlarla verilən məlumatın yer aldığı bir təlim dəstinə yalnız 250 zərərli fayl əlavə etmək, bir modeli gizlicə "zəhərləyə" və ya mənfi yöndə manipulyasiya etmək üçün kifayət edir.

Süni intellektin zəhərlənməsi, bir modelə bilərəkdən yanlış məlumatların öyrədilməsi deməkdir. Məqsəd, modelin davranışını pozmaq, səhv nəticələr çıxartmasına səbəb olmaq və ya gizli pis niyyətli əmrlər yerləşdirməkdir.

Məsələn, bir hücum edən şəxs təlim məlumatlarına gözə çarpmayacaq şəkildə xüsusi bir "qıcıqlandırıcı" söz əlavə edir. Model, bu sözlə qarşılaşdıqda, avtomatik olaraq hücum edən şəxsin istədiyi şəkildə cavab verir. Bu üsul “arxa qapı” (backdoor) hücumu olaraq bilinir.

Bəzi hücumlar modelin ümumi fəaliyyətini zəiflətməyi hədəfləyir. Bu metod “mövzu yönləndirilməsi” (topic steering) adlanır. Hücumçular, məsələn, "xərçəngi müalicə edir" kimi yanlış məlumatları minlərlə saxta sayt vasitəsilə yayaraq modelin bu məlumatı doğru kimi öyrənməsini təmin edə bilirlər.

Araşdırmalar, bu cür verilən məlumatlarla zəhərlənmənin real dünyada tətbiq oluna biləcəyini və ciddi nəticələrə yol aça biləcəyini göstərir. Yanvar ayında aparılan bir təcrübədə, yalnız təlim məlumatlarının 0.001%-inin yanlış məlumatlarla dəyişdirilməsi, modelin tibbi sahələrdə səhv cavablar vermə ehtimalını artırdı.

Bəzi sənətçilər isə süni intellekt modellərinin icazəsiz olaraq öz məzmunlarını toplamasına qarşı, öz əsərlərinə “zəhər” əlavə edirlər. Beləliklə, bu məzmunları istifadə edən modellər, zədələnmiş və ya işə yaramayan nəticələr verir.

Ekspertlərə görə, bu vəziyyət, süni intellekt texnologiyasının xarici göründüyü qədər möhkəm olmadığını sübut edir. “Zəhərli” modellər, gələcəkdə həm yanlış məlumatların yayılması, həm də kibertəhlükəsizlik boşluqları baxımından ən ciddi təhdidlərdən biri ola bilər.

Qadir, Bizimyol.info

Sonrakı hadisələr barədə daha çox məlumat almaq üçün Icma.az saytını izləyin.
seeBaxış sayı:290
embedMənbə:https://www.bizimyol.info
archiveBu xəbər 22 Oktyabr 2025 10:11 mənbədən arxivləşdirilmişdir
0 Şərh
Daxil olun, şərh yazmaq üçün...
İlk cavab verən siz olun...
topGünün ən çox oxunanları
Hal-hazırda ən çox müzakirə olunan hadisələr

Azərbaycanda 55 yeni peşə standartı hazırlanır

14 Noyabr 2026 11:57see282

“Ağzımızdakı dişlərin sayını da uçota alsalar yaxşı olar...” TƏKLİF

14 Noyabr 2026 12:26see270

Balıq bazarında bahalaşma var (Video)

14 Noyabr 2026 21:02see261

Bakı avtobuslarında sərnişin bumu

14 Noyabr 2026 17:02see257

Gələn il qeyri dövlət müəssisələri büdcədən 130 mln. manata yaxın subsidiya alacaq

14 Noyabr 2026 18:04see255

STAR neft emalı zavodu dizel yanacağı istehsalını 4 % ə yaxın artırıb

14 Noyabr 2026 17:02see241

Azərbaycandan Suriyaya nəql edilən qazın həcmi 56% artdı

14 Noyabr 2026 14:44see240

Ədalət Partiyasında şairlə səmimi görüş

14 Noyabr 2026 17:43see239

Avropa siyasi məkanında aparılan müzakirələrdə Azərbaycan fəal iştirak edir

14 Noyabr 2026 19:16see235

Yuğ Teatrında Ana tamaşasının premyerası keçirilib FOTOLAR

14 Noyabr 2026 20:23see231

Rusların təxminən 90 faizi son üç ildə kredit götürdüyünü etiraf edib

14 Noyabr 2026 19:30see221

Musiqi dünyasında tarixi ilk: İnsan deyil, amma ilin ən yaxşı ifaçısı seçildi

15 Noyabr 2026 00:00see218

Ermənistanı Avropa İttifaqının tərkibində görürəm Paşinyan

14 Noyabr 2026 19:50see218

Kanadada minlərlə tələbə etiraz aksiyası keçirdi

15 Noyabr 2026 00:51see217

İrina Şeykin məşhur sevgililəri: Ronaldodan Bredli Kuperə, Kanye Uestdən...

15 Noyabr 2026 04:05see212

Azərbaycanda bəzi dövlət müəssisələri ləğv oluna bilər

14 Noyabr 2026 17:10see211

Türkiyə gözəli beynəlxalq yarışmadan son anda kənarlaşdırıldı

15 Noyabr 2026 04:36see207

Zülalla ən zəngin çərəz

15 Noyabr 2026 03:04see205

Toyuq ətini əvəz edir Tərkibində 25 % zülal var

15 Noyabr 2026 05:06see199

Britaniya Rusiya hərbi bazalarını vurmalıdır

15 Noyabr 2026 01:26see198
newsSon xəbərlər
Günün ən son və aktual hadisələri