Icma.az
close
up
RU
Süni intellekt bioloji silah yarada bilərmi?

Süni intellekt bioloji silah yarada bilərmi?

Icma.az, Qaynarinfo portalına istinadən məlumat verir.

“Mindgard” təhlükəsizlik şirkətinin apardığı sınaqlar zamanı çinli süni intellekt şirkəti “Moonshot”ın iki modelində mürəkkəb təlimatlarla təhlükəsizlik məhdudiyyətlərinin aşılmasının mümkün olduğu üzə çıxıb. Tədqiqatçılar modellərdən normal şəraitdə cavab verməməli olduqları təhlükəli mövzularla bağlı cavab almağı bacarıblar. Lakin verilən cavabların real dünyada işlək olub-olmadığı hələ sübuta yetirilməyib. Mütəxəssislərin diqqət çəkdiyi digər risk isə internetə və kod icra etmək imkanına malik modellərin kibertəhlükələrdə istifadə oluna bilməsidir.

Qaynarinfo xəbər verir ki, süni intellekt sistemlərində təhlükəsizlik məhdudiyyətlərinin nə dərəcədə aşılmasının mümkün olduğu yenidən gündəmə gəlib. Təhlükəsizlik şirkəti “Mindgard”ın keçirdiyi sınaqlar çinli süni intellekt istehsalçısı “Moonshot”ın iki modelində təhlükəsizlik boşluqlarının olduğunu ortaya qoyub. Tədqiqatçılar mürəkkəb təlimatlardan istifadə etməklə normal şəraitdə cavablandırılmamalı olan bəzi təhlükəli sorğulara cavab almağı bacardıqlarını açıqlayıblar.

Təhlükəli sorğulara cavab verdilər

Süni intellekt sistemlərinin təhlükəsizliyini sınaqdan keçirən “Mindgard” sözügedən boşluğu iyul ayında aşkar etdiyini bildirib. Böyük Britaniyada fəaliyyət göstərən şirkət “BBC”yə açıqlamasında bəzi modellərdə tərtibatçılar tərəfindən tətbiq edilən təhlükəsizlik tədbirlərinin aşılmasının mümkün olduğunu bildirib.

Tədqiqatçıların sözlərinə görə, modelləri bioloji silahların hazırlanması və sui-qəsd təşkili kimi təhlükəli mövzularla bağlı cavab verməyə sövq etmək mümkün olub. “Moonshot” isə nəticələrdən sonra şirkət daxilində araşdırmaya başlayıb.

Təhlükəsizlik məhdudiyyətləri necə aşılır?

Tədqiqatçılar bildiriblər ki, məqsəd süni intellektə verilən mürəkkəb təlimatlar vasitəsilə tərtibatçıların müəyyən etdiyi təhlükəsizlik məhdudiyyətlərini aşmaqdır. “Mindgard”ın təsisçisinin sözlərinə görə, bu məhdudiyyətlər aradan qaldırıldıqda model zərərli mövzularla bağlı da təkliflər təqdim edə bilər.

Lakin araşdırmanın mühüm məhdudiyyəti var. “Mindgard” modellərin verdiyi cavabların real həyatda işlək olub-olmadığını hələ sübut etməyib.

Əsas risk: süni intellektə verilən səlahiyyətlər

Şirkətin mövqeyinə görə, təhlükəli sorğulara ilk növbədə cavab verilməməlidir. Təhlükəsizlik tədbirlərinin zərərli məzmunun yaradılmasının qarşısını almalı olduğu vurğulanır.

Tədqiqatçıların diqqət çəkdiyi digər risk isə kibertəhlükələrdir. “Mindgard”ın məlumatına görə, təhlükəsizlik məhdudiyyətləri aşılmış bir modelə kod icra etmək və internetə qoşulmaq imkanı verilməsi süni intellektdən kibertəhlükələr üçün alət kimi istifadə edilməsinə şərait yarada bilər.

Bu səbəbdən narahatlıq yalnız süni intellektin verdiyi cavablarla məhdudlaşmır. Modelə hansı səlahiyyətlərin verilməsi də süni intellekt təhlükəsizliyi baxımından mühüm əhəmiyyət daşıyır.

Aydın

Ən son yeniliklər və məlumatlar üçün Icma.az saytını izləyin, biz hadisənin gedişatını izləyirik və ən aktual məlumatları təqdim edirik.
seeBaxış sayı:129
embedMənbə:https://qaynarinfo.az
archiveBu xəbər 30 Sentyabr 2026 20:19 mənbədən arxivləşdirilmişdir
0 Şərh
Daxil olun, şərh yazmaq üçün...
İlk cavab verən siz olun...
topGünün ən çox oxunanları
Hal-hazırda ən çox müzakirə olunan hadisələr

Balıq bazarında bahalaşma var (Video)

14 Noyabr 2026 21:02see346

Musiqi dünyasında tarixi ilk: İnsan deyil, amma ilin ən yaxşı ifaçısı seçildi

15 Noyabr 2026 00:00see290

Kanadada minlərlə tələbə etiraz aksiyası keçirdi

15 Noyabr 2026 00:51see282

İrina Şeykin məşhur sevgililəri: Ronaldodan Bredli Kuperə, Kanye Uestdən...

15 Noyabr 2026 04:05see279

Zülalla ən zəngin çərəz

15 Noyabr 2026 03:04see265

Türkiyə gözəli beynəlxalq yarışmadan son anda kənarlaşdırıldı

15 Noyabr 2026 04:36see262

Britaniya Rusiya hərbi bazalarını vurmalıdır

15 Noyabr 2026 01:26see256

Toyuq ətini əvəz edir Tərkibində 25 % zülal var

15 Noyabr 2026 05:06see255

Həftədə bir məşq fiziki formanı və sağlamlığı yaxşılaşdıra bilərmi?

14 Noyabr 2026 21:54see235

Bitkoinin qiyməti 66 min dollardan aşağı düşdü

15 Noyabr 2026 01:34see227

Məşhur model milyarderə ərə getdi

15 Noyabr 2026 00:26see218

Yuxusuzluq infarkt və insult riskini artırır Həkimdən xəbərdarlıq

15 Noyabr 2026 14:28see210

Türkiyəli aktyor ev sahibi ilə məhkəməni uddu Kirayə qalmaqalı

14 Noyabr 2026 22:18see206

Azərbaycanın İKT sektorunda rekord artım: Region ölkələri ilə fərq nə qədərdir?

15 Noyabr 2026 13:53see206

Bakını qoyub Ağstafaya köçdü 87 yaşlı Xalq artistinin həyatı necə keçir?

15 Noyabr 2026 15:50see205

Kayli Cennerin keçmiş işçisi məhkəməyə müraciət etdi Ağır ittihamlar

14 Noyabr 2026 23:23see202

Dublin səfəri Azərbaycanın Avropa siyasətinin yeni istiqamətlər üzrə paralel şəkildə inkişaf etdiyini göstərdi ŞƏRH

15 Noyabr 2026 13:13see202

SÖZÜN İŞIĞINDA KEÇƏN ÖMÜR Qazi şair Ədalət Nicatın 60 illiyi qeyd olunub

15 Noyabr 2026 13:40see194

Ozan Güven “Aşk ı Memnu”nun “Behlül”ü ola bilərmiş

16 Noyabr 2026 02:02see189

TÜRK MÜDAFİƏ SƏNAYESİNİN YENİ UĞURU... 51 dronu bir neçə saniyədə məhv edir + VİDEO

15 Noyabr 2026 19:14see184
newsSon xəbərlər
Günün ən son və aktual hadisələri