Icma.az
close
up
RU
Menu

C vitaminini necə qəbul etmək lazımdır? Həkimdən məsləhət

Dünyada ilk: "Qızılalma" Türkiyə ordusunda... Foto

Alyona Əliyeva Bakı Xoreoqrafiya Akademiyasından paylaşım edib

Hövsanda dəniz qəhvəyi rəngə boyandı Xəzəri kim çirkləndirir? Foto/video

Bəxtiyar Aslanbəyli: AÇG də sərbəst qaz layihəsi üzrə işlər qrafikə və büdcəyə uyğun aparılır

Almaniya klubu “Qalatasaray”ın futbolçusuna elçi düşdü

İstehlakçıları hansı hallarda aldadırlar? 41 protokol tərtib edilib

Xərçəngə səbəb olan qidalar Siyahı yeniləndi

Bu gün Xudayar Yusifzadənin doğum günüdür

Bakıda 8 yaşlı uşağın ödündən kista çıxarıldı

Azərbaycan Milli İncəsənət Muzeyinin direktoru Şirin Məlikova Türkiyədə beynəlxalq konqresdə çıxış edib (Foto)

Yaddaşı gücləndirən burun damcıları siçanlar üzərində sınaqdan KEÇİRİLDİ

Ağ Ev Trampın sammit zamanı yatması barədə məlumatları təkzib edib

PR süni intellekt axtarış sistemlərindəki təsirini necə ölçməlidir?

Deputat: “Vyetnam Azərbaycan üçün yeni bazar ola bilər”

Elxan Səmədov: Xankəndi azarkeşlərinin komandalarını öz şəhərlərində dəstəkləməsi xüsusi əhəmiyyət daşıyır

Azərişıq ASC elektroenergetika sektorunda əldə olunan nailiyyətləri beynəlxalq enerji forumunda təqdim edib

Anthropic in səhmləri Nasdaq da ticarətin ilk günündə 17 % artıb

DİN və Baş Prokurorluq 2 noyabr mitinqinin təşkilatçılarına xəbərdarlıq edib

“iPhone”un 20 illiyinə özəl model üçün iki fərqli dizayn sınaqdan keçirilir

Süni intellektdə yeni təhlükə: Zəhərli süni intellekt

Süni intellektdə yeni təhlükə: Zəhərli süni intellekt

Icma.az, Bizimyol portalından verilən məlumatlara əsaslanaraq xəbər verir.

Süni intellekt artıq yalnız səhv cavablar vermək riski ilə qarşı-qarşıya deyil, eyni zamanda şüurlu şəkildə "zəhərlənmə" təhlükəsi ilə də üzləşir.

Bizimyol.info xəbər verir ki, İngiltərənin Süni İntellekt Təhlükəsizlik İnstitutu, Alan Turing İnstitutu və "Anthropic"in birgə araşdırmasına görə, milyonlarla verilən məlumatın yer aldığı bir təlim dəstinə yalnız 250 zərərli fayl əlavə etmək, bir modeli gizlicə "zəhərləyə" və ya mənfi yöndə manipulyasiya etmək üçün kifayət edir.

Süni intellektin zəhərlənməsi, bir modelə bilərəkdən yanlış məlumatların öyrədilməsi deməkdir. Məqsəd, modelin davranışını pozmaq, səhv nəticələr çıxartmasına səbəb olmaq və ya gizli pis niyyətli əmrlər yerləşdirməkdir.

Məsələn, bir hücum edən şəxs təlim məlumatlarına gözə çarpmayacaq şəkildə xüsusi bir "qıcıqlandırıcı" söz əlavə edir. Model, bu sözlə qarşılaşdıqda, avtomatik olaraq hücum edən şəxsin istədiyi şəkildə cavab verir. Bu üsul “arxa qapı” (backdoor) hücumu olaraq bilinir.

Bəzi hücumlar modelin ümumi fəaliyyətini zəiflətməyi hədəfləyir. Bu metod “mövzu yönləndirilməsi” (topic steering) adlanır. Hücumçular, məsələn, "xərçəngi müalicə edir" kimi yanlış məlumatları minlərlə saxta sayt vasitəsilə yayaraq modelin bu məlumatı doğru kimi öyrənməsini təmin edə bilirlər.

Araşdırmalar, bu cür verilən məlumatlarla zəhərlənmənin real dünyada tətbiq oluna biləcəyini və ciddi nəticələrə yol aça biləcəyini göstərir. Yanvar ayında aparılan bir təcrübədə, yalnız təlim məlumatlarının 0.001%-inin yanlış məlumatlarla dəyişdirilməsi, modelin tibbi sahələrdə səhv cavablar vermə ehtimalını artırdı.

Bəzi sənətçilər isə süni intellekt modellərinin icazəsiz olaraq öz məzmunlarını toplamasına qarşı, öz əsərlərinə “zəhər” əlavə edirlər. Beləliklə, bu məzmunları istifadə edən modellər, zədələnmiş və ya işə yaramayan nəticələr verir.

Ekspertlərə görə, bu vəziyyət, süni intellekt texnologiyasının xarici göründüyü qədər möhkəm olmadığını sübut edir. “Zəhərli” modellər, gələcəkdə həm yanlış məlumatların yayılması, həm də kibertəhlükəsizlik boşluqları baxımından ən ciddi təhdidlərdən biri ola bilər.

Qadir, Bizimyol.info

Sonrakı hadisələr barədə daha çox məlumat almaq üçün Icma.az saytını izləyin.
seeBaxış sayı:317
embedMənbə:https://www.bizimyol.info
archiveBu xəbər 22 Oktyabr 2025 10:11 mənbədən arxivləşdirilmişdir
0 Şərh
Daxil olun, şərh yazmaq üçün...
İlk cavab verən siz olun...
topGünün ən çox oxunanları
Hal-hazırda ən çox müzakirə olunan hadisələr

C vitaminini necə qəbul etmək lazımdır? Həkimdən məsləhət

19 Noyabr 2026 09:27see327

Dünyada ilk: "Qızılalma" Türkiyə ordusunda... Foto

19 Noyabr 2026 19:51see323

Alyona Əliyeva Bakı Xoreoqrafiya Akademiyasından paylaşım edib

19 Noyabr 2026 21:02see304

Hövsanda dəniz qəhvəyi rəngə boyandı Xəzəri kim çirkləndirir? Foto/video

19 Noyabr 2026 14:04see300

Bəxtiyar Aslanbəyli: AÇG də sərbəst qaz layihəsi üzrə işlər qrafikə və büdcəyə uyğun aparılır

19 Noyabr 2026 15:22see282

Almaniya klubu “Qalatasaray”ın futbolçusuna elçi düşdü

20 Noyabr 2026 01:32see275

İstehlakçıları hansı hallarda aldadırlar? 41 protokol tərtib edilib

19 Noyabr 2026 17:17see274

Xərçəngə səbəb olan qidalar Siyahı yeniləndi

19 Noyabr 2026 18:59see269

Bu gün Xudayar Yusifzadənin doğum günüdür

20 Noyabr 2026 06:19see256

Bakıda 8 yaşlı uşağın ödündən kista çıxarıldı

19 Noyabr 2026 19:14see253

Azərbaycan Milli İncəsənət Muzeyinin direktoru Şirin Məlikova Türkiyədə beynəlxalq konqresdə çıxış edib (Foto)

19 Noyabr 2026 18:45see245

Yaddaşı gücləndirən burun damcıları siçanlar üzərində sınaqdan KEÇİRİLDİ

20 Noyabr 2026 00:00see236

Ağ Ev Trampın sammit zamanı yatması barədə məlumatları təkzib edib

19 Noyabr 2026 21:00see230

PR süni intellekt axtarış sistemlərindəki təsirini necə ölçməlidir?

19 Noyabr 2026 13:48see226

Deputat: “Vyetnam Azərbaycan üçün yeni bazar ola bilər”

19 Noyabr 2026 15:03see224

Elxan Səmədov: Xankəndi azarkeşlərinin komandalarını öz şəhərlərində dəstəkləməsi xüsusi əhəmiyyət daşıyır

20 Noyabr 2026 00:06see217

Azərişıq ASC elektroenergetika sektorunda əldə olunan nailiyyətləri beynəlxalq enerji forumunda təqdim edib

19 Noyabr 2026 17:30see207

Anthropic in səhmləri Nasdaq da ticarətin ilk günündə 17 % artıb

20 Noyabr 2026 07:19see204

DİN və Baş Prokurorluq 2 noyabr mitinqinin təşkilatçılarına xəbərdarlıq edib

20 Noyabr 2026 06:10see204

“iPhone”un 20 illiyinə özəl model üçün iki fərqli dizayn sınaqdan keçirilir

20 Noyabr 2026 22:20see201
newsSon xəbərlər
Günün ən son və aktual hadisələri