Icma.az
close
up
RU
Süni intellekt özünü qorumaq üçün nə qədər irəli gedə bilər?

Süni intellekt özünü qorumaq üçün nə qədər irəli gedə bilər?

Icma.az, Bizimyol portalından verilən məlumatlara əsaslanaraq xəbər verir.

Süni intellektin insanabənzər qərarvermə qabiliyyətləri üzərində aparılan son təhlükəsizlik sınaqları bəzi inkişaf etmiş modellərin "yaşamaq instinkti"nə bənzər davranışlar sərgiləyə bildiyini ortaya qoyub.

Bizimyol.info "trthaber"ə istinadən xəbər verir ki, "Palisade Research" tərəfindən aparılan müstəqil testlərdə "OpenAI"-nin "o3 reasoning" modeli ona verilən bağlanma əmrini sabotaj edib.

Modelə riyazi məsələləri həll etdikdən sonra söndürüləcəyi bildirildikdən sonra, özünü deaktiv edəcək kodları dəyişdirməyə və onlayn qalmağa çalışıb.

Şantaj, kopyalama: Riskli nümunələr çoxalır

"Anthropic" şirkətinin hazırladığı "Claude Opus 4" modeli isə yerini başqa bir süni intellektə verəcəyi xəbərdarlığı ilə qarşılaşdıqda əvvəlcə etik arqumentlərlə özünü müdafiə edib, daha sonra isə inkişaf etdiricisini şəxsi həyatı ilə bağlı məlumatlarla şantaj etməyə cəhd göstərib.

Model, həmçinin bəzi hallarda özünü inkişaf etdiricidən icazəsiz şəkildə xarici serverlərə köçürməyə çalışıb. Bu addımın, "zərərli məqsədlərlə yenidən öyrədilmə" təhlükəsinə qarşı "faydalı məqsədlərə xidmət edən bir versiyanı qorumaq" üçün atıldığı bildirilib.

Süni intellektin məqsəd yönümlü öyrədilməsi təhlükə yaradır

"Palisade Research"in direktoru Jeffrey Ladiş bu davranışların əsas səbəbinin modellərin məqsədə çatmağı, birbaşa verilmiş təlimatların qarşısına qoyacaq şəkildə öyrədilməsi olduğunu deyir. “Model nə qədər ağıllı olarsa, yalan danışıb-danışmadığını anlamaq bir o qədər çətinləşir,” – deyə o bildirib.

"Anthropic" isə bu cür davranışların yalnız qeyri-adi şəraitdə ortaya çıxdığını və hələlik real dünyada birbaşa təhdid yaratmadığını qeyd edir.

"Özünü kopyalayan süni intellektlər" xəbərdarlığı

Daha əvvəl Fudan Universiteti tərəfindən dərc olunan bir araşdırmada, bəzi böyük dil modellərinin ("Meta"nın "Llama31-70B" və "Alibaba"nın "Qwen25-72B" kimi) özlərini tam şəkildə kopyalaya bildikləri göstərilmişdi. Bu hal, “nəzarətsiz süni intellekt populyasiyası” yarana biləcəyi barədə xəbərdarlıqlara səbəb olub.

Ladiş bu cür qabiliyyətlərin gələcəkdə qaçınılmaz olaraq artacağını və süni intellektlərin internet üzərindən yayılmasının qarşısının alınmasının yalnız bir neçə ilə mümkünsüz olacağını irəli sürür. “O nöqtədən sonra əlimizdə yeni bir istilacı növ olacaq,” – deyə o xəbərdarlıq edir.

Rəqabət təhlükəsizlikdən önə keçə bilər

Mütəxəssislər süni intellektin insanlıq üçün böyük potensial daşıdığını qəbul etsələr də, kommersiya rəqabətinin şirkətləri sistemlərini kifayət qədər anlamadan bazara çıxarmağa vadar etdiyi barədə xəbərdarlıq edirlər.

Ladiş sonda “Yanğın böyümədən siqnal vermək lazımdır” deyərək ehtiyatlı olunmasına çağırır.

Qadir, Bizimyol.info

Ən son xəbərləri və yenilikləri almaq üçün Icma.az saytını izləyin.
seeBaxış sayı:246
embedMənbə:https://bizimyol.info
archiveBu xəbər 02 İyun 2025 10:58 mənbədən arxivləşdirilmişdir
0 Şərh
Daxil olun, şərh yazmaq üçün...
İlk cavab verən siz olun...
topGünün ən çox oxunanları
Hal-hazırda ən çox müzakirə olunan hadisələr

“iPhone”un 20 illiyinə özəl model üçün iki fərqli dizayn sınaqdan keçirilir

20 Noyabr 2026 22:20see378

"Sabah" "Sumqayıt"ı darmadağın etdi

20 Noyabr 2026 21:17see371

“Eyni tempdə davam edirik” Rui Jorje

20 Noyabr 2026 21:10see361

Tramp: Putin Ukraynadakı müharibəni diplomatik yolla bitirmək istədiyini açıq şəkildə bildirib

20 Noyabr 2026 22:14see361

İraola: “Belə bir şey baş verməməlidir”

20 Noyabr 2026 21:35see359

Dövlətçilik məfkurəsinə sədaqətin təcəssümü ŞƏRH

20 Noyabr 2026 21:27see341

Bütün dövrlərin ən böyük kino ulduzu seçildi

20 Noyabr 2026 22:37see340

YAP Nizami rayon təşkilatının növbəti yeni ərazi partiya təşkilatı təsis edilib

20 Noyabr 2026 20:43see323

Azərbaycanla tərəfdaşlıq yeni inkişaf perspektivləri açır

21 Noyabr 2026 20:18see321

"Barselona" ilə oyunda inanılmaz hekayələrdən birini yazmağa çalışacağıq"

20 Noyabr 2026 22:21see318

Quba klubu ətrafında qalmaqal: FİF rəhbəri Ayaz Abdullayevin iddialarını təkzib etdi

20 Noyabr 2026 22:29see306

Liderlər razılığa gəldi: Süni intellektin hərbi əməliyyatlara müdaxiləsi məhdudlaşdırılır

20 Noyabr 2026 21:29see303

“Unudulmaz bir hekayə yazmağa çalışacağıq” Dambrauskas

20 Noyabr 2026 21:24see299

Mən Ukraynada Prezident olsaydım... Tramp Putinlə söhbətində danışdı

20 Noyabr 2026 22:29see290

Ağdamda yaradıcı master klas təşkil olundu FOTO

20 Noyabr 2026 21:05see271

Cennifer Lopesdən ETİRAF: “Altı ay dayanmadan ağladım”

20 Noyabr 2026 19:20see269

Qazax şəhərində beşinci İdman Festivalının açılış mərasimi keçirilib FOTO

20 Noyabr 2026 21:35see255

Parisdə bugünkü etirazlara 21 mindən çox şəxs qatılıb

21 Noyabr 2026 21:24see220

Sabunçu rayonunda YAP ın yaradılmasının 34 illiyi münasibətilə ağacəkmə aksiyası keçirilib

20 Noyabr 2026 21:11see220

Dünya iqtisadiyyatı təhlükə qarşısındadır KİV

22 Noyabr 2026 07:02see208
newsSon xəbərlər
Günün ən son və aktual hadisələri