Icma.az
close
up
RU
Süni intellekt özünü qorumaq üçün nə qədər irəli gedə bilər?

Süni intellekt özünü qorumaq üçün nə qədər irəli gedə bilər?

Icma.az, Bizimyol portalından verilən məlumatlara əsaslanaraq xəbər verir.

Süni intellektin insanabənzər qərarvermə qabiliyyətləri üzərində aparılan son təhlükəsizlik sınaqları bəzi inkişaf etmiş modellərin "yaşamaq instinkti"nə bənzər davranışlar sərgiləyə bildiyini ortaya qoyub.

Bizimyol.info "trthaber"ə istinadən xəbər verir ki, "Palisade Research" tərəfindən aparılan müstəqil testlərdə "OpenAI"-nin "o3 reasoning" modeli ona verilən bağlanma əmrini sabotaj edib.

Modelə riyazi məsələləri həll etdikdən sonra söndürüləcəyi bildirildikdən sonra, özünü deaktiv edəcək kodları dəyişdirməyə və onlayn qalmağa çalışıb.

Şantaj, kopyalama: Riskli nümunələr çoxalır

"Anthropic" şirkətinin hazırladığı "Claude Opus 4" modeli isə yerini başqa bir süni intellektə verəcəyi xəbərdarlığı ilə qarşılaşdıqda əvvəlcə etik arqumentlərlə özünü müdafiə edib, daha sonra isə inkişaf etdiricisini şəxsi həyatı ilə bağlı məlumatlarla şantaj etməyə cəhd göstərib.

Model, həmçinin bəzi hallarda özünü inkişaf etdiricidən icazəsiz şəkildə xarici serverlərə köçürməyə çalışıb. Bu addımın, "zərərli məqsədlərlə yenidən öyrədilmə" təhlükəsinə qarşı "faydalı məqsədlərə xidmət edən bir versiyanı qorumaq" üçün atıldığı bildirilib.

Süni intellektin məqsəd yönümlü öyrədilməsi təhlükə yaradır

"Palisade Research"in direktoru Jeffrey Ladiş bu davranışların əsas səbəbinin modellərin məqsədə çatmağı, birbaşa verilmiş təlimatların qarşısına qoyacaq şəkildə öyrədilməsi olduğunu deyir. “Model nə qədər ağıllı olarsa, yalan danışıb-danışmadığını anlamaq bir o qədər çətinləşir,” – deyə o bildirib.

"Anthropic" isə bu cür davranışların yalnız qeyri-adi şəraitdə ortaya çıxdığını və hələlik real dünyada birbaşa təhdid yaratmadığını qeyd edir.

"Özünü kopyalayan süni intellektlər" xəbərdarlığı

Daha əvvəl Fudan Universiteti tərəfindən dərc olunan bir araşdırmada, bəzi böyük dil modellərinin ("Meta"nın "Llama31-70B" və "Alibaba"nın "Qwen25-72B" kimi) özlərini tam şəkildə kopyalaya bildikləri göstərilmişdi. Bu hal, “nəzarətsiz süni intellekt populyasiyası” yarana biləcəyi barədə xəbərdarlıqlara səbəb olub.

Ladiş bu cür qabiliyyətlərin gələcəkdə qaçınılmaz olaraq artacağını və süni intellektlərin internet üzərindən yayılmasının qarşısının alınmasının yalnız bir neçə ilə mümkünsüz olacağını irəli sürür. “O nöqtədən sonra əlimizdə yeni bir istilacı növ olacaq,” – deyə o xəbərdarlıq edir.

Rəqabət təhlükəsizlikdən önə keçə bilər

Mütəxəssislər süni intellektin insanlıq üçün böyük potensial daşıdığını qəbul etsələr də, kommersiya rəqabətinin şirkətləri sistemlərini kifayət qədər anlamadan bazara çıxarmağa vadar etdiyi barədə xəbərdarlıq edirlər.

Ladiş sonda “Yanğın böyümədən siqnal vermək lazımdır” deyərək ehtiyatlı olunmasına çağırır.

Qadir, Bizimyol.info

Ən son xəbərləri və yenilikləri almaq üçün Icma.az saytını izləyin.
seeBaxış sayı:245
embedMənbə:https://bizimyol.info
archiveBu xəbər 02 İyun 2025 10:58 mənbədən arxivləşdirilmişdir
0 Şərh
Daxil olun, şərh yazmaq üçün...
İlk cavab verən siz olun...
topGünün ən çox oxunanları
Hal-hazırda ən çox müzakirə olunan hadisələr

“iPhone”un 20 illiyinə özəl model üçün iki fərqli dizayn sınaqdan keçirilir

20 Noyabr 2026 22:20see367

"Sabah" "Sumqayıt"ı darmadağın etdi

20 Noyabr 2026 21:17see366

“Eyni tempdə davam edirik” Rui Jorje

20 Noyabr 2026 21:10see357

İraola: “Belə bir şey baş verməməlidir”

20 Noyabr 2026 21:35see355

Tramp: Putin Ukraynadakı müharibəni diplomatik yolla bitirmək istədiyini açıq şəkildə bildirib

20 Noyabr 2026 22:14see350

Bütün dövrlərin ən böyük kino ulduzu seçildi

20 Noyabr 2026 22:37see335

Dövlətçilik məfkurəsinə sədaqətin təcəssümü ŞƏRH

20 Noyabr 2026 21:27see334

YAP Nizami rayon təşkilatının növbəti yeni ərazi partiya təşkilatı təsis edilib

20 Noyabr 2026 20:43see318

Azərbaycanla tərəfdaşlıq yeni inkişaf perspektivləri açır

21 Noyabr 2026 20:18see316

"Barselona" ilə oyunda inanılmaz hekayələrdən birini yazmağa çalışacağıq"

20 Noyabr 2026 22:21see314

Quba klubu ətrafında qalmaqal: FİF rəhbəri Ayaz Abdullayevin iddialarını təkzib etdi

20 Noyabr 2026 22:29see303

Liderlər razılığa gəldi: Süni intellektin hərbi əməliyyatlara müdaxiləsi məhdudlaşdırılır

20 Noyabr 2026 21:29see300

“Unudulmaz bir hekayə yazmağa çalışacağıq” Dambrauskas

20 Noyabr 2026 21:24see294

Mən Ukraynada Prezident olsaydım... Tramp Putinlə söhbətində danışdı

20 Noyabr 2026 22:29see284

“Xəstələr bilmir hara getsin, hara qaçsın” Onkoloji müalicə ilə bağlı ÇAĞIRIŞ

20 Noyabr 2026 17:30see281

Ağdamda yaradıcı master klas təşkil olundu FOTO

20 Noyabr 2026 21:05see269

Cennifer Lopesdən ETİRAF: “Altı ay dayanmadan ağladım”

20 Noyabr 2026 19:20see265

Qazax şəhərində beşinci İdman Festivalının açılış mərasimi keçirilib FOTO

20 Noyabr 2026 21:35see252

Parisdə bugünkü etirazlara 21 mindən çox şəxs qatılıb

21 Noyabr 2026 21:24see215

Sabunçu rayonunda YAP ın yaradılmasının 34 illiyi münasibətilə ağacəkmə aksiyası keçirilib

20 Noyabr 2026 21:11see214
newsSon xəbərlər
Günün ən son və aktual hadisələri