Icma.az
close
up
RU
Süni intellekt özünü qorumaq üçün nə qədər irəli gedə bilər?

Süni intellekt özünü qorumaq üçün nə qədər irəli gedə bilər?

Icma.az, Bizimyol portalından verilən məlumatlara əsaslanaraq xəbər verir.

Süni intellektin insanabənzər qərarvermə qabiliyyətləri üzərində aparılan son təhlükəsizlik sınaqları bəzi inkişaf etmiş modellərin "yaşamaq instinkti"nə bənzər davranışlar sərgiləyə bildiyini ortaya qoyub.

Bizimyol.info "trthaber"ə istinadən xəbər verir ki, "Palisade Research" tərəfindən aparılan müstəqil testlərdə "OpenAI"-nin "o3 reasoning" modeli ona verilən bağlanma əmrini sabotaj edib.

Modelə riyazi məsələləri həll etdikdən sonra söndürüləcəyi bildirildikdən sonra, özünü deaktiv edəcək kodları dəyişdirməyə və onlayn qalmağa çalışıb.

Şantaj, kopyalama: Riskli nümunələr çoxalır

"Anthropic" şirkətinin hazırladığı "Claude Opus 4" modeli isə yerini başqa bir süni intellektə verəcəyi xəbərdarlığı ilə qarşılaşdıqda əvvəlcə etik arqumentlərlə özünü müdafiə edib, daha sonra isə inkişaf etdiricisini şəxsi həyatı ilə bağlı məlumatlarla şantaj etməyə cəhd göstərib.

Model, həmçinin bəzi hallarda özünü inkişaf etdiricidən icazəsiz şəkildə xarici serverlərə köçürməyə çalışıb. Bu addımın, "zərərli məqsədlərlə yenidən öyrədilmə" təhlükəsinə qarşı "faydalı məqsədlərə xidmət edən bir versiyanı qorumaq" üçün atıldığı bildirilib.

Süni intellektin məqsəd yönümlü öyrədilməsi təhlükə yaradır

"Palisade Research"in direktoru Jeffrey Ladiş bu davranışların əsas səbəbinin modellərin məqsədə çatmağı, birbaşa verilmiş təlimatların qarşısına qoyacaq şəkildə öyrədilməsi olduğunu deyir. “Model nə qədər ağıllı olarsa, yalan danışıb-danışmadığını anlamaq bir o qədər çətinləşir,” – deyə o bildirib.

"Anthropic" isə bu cür davranışların yalnız qeyri-adi şəraitdə ortaya çıxdığını və hələlik real dünyada birbaşa təhdid yaratmadığını qeyd edir.

"Özünü kopyalayan süni intellektlər" xəbərdarlığı

Daha əvvəl Fudan Universiteti tərəfindən dərc olunan bir araşdırmada, bəzi böyük dil modellərinin ("Meta"nın "Llama31-70B" və "Alibaba"nın "Qwen25-72B" kimi) özlərini tam şəkildə kopyalaya bildikləri göstərilmişdi. Bu hal, “nəzarətsiz süni intellekt populyasiyası” yarana biləcəyi barədə xəbərdarlıqlara səbəb olub.

Ladiş bu cür qabiliyyətlərin gələcəkdə qaçınılmaz olaraq artacağını və süni intellektlərin internet üzərindən yayılmasının qarşısının alınmasının yalnız bir neçə ilə mümkünsüz olacağını irəli sürür. “O nöqtədən sonra əlimizdə yeni bir istilacı növ olacaq,” – deyə o xəbərdarlıq edir.

Rəqabət təhlükəsizlikdən önə keçə bilər

Mütəxəssislər süni intellektin insanlıq üçün böyük potensial daşıdığını qəbul etsələr də, kommersiya rəqabətinin şirkətləri sistemlərini kifayət qədər anlamadan bazara çıxarmağa vadar etdiyi barədə xəbərdarlıq edirlər.

Ladiş sonda “Yanğın böyümədən siqnal vermək lazımdır” deyərək ehtiyatlı olunmasına çağırır.

Qadir, Bizimyol.info

Ən son xəbərləri və yenilikləri almaq üçün Icma.az saytını izləyin.
seeBaxış sayı:240
embedMənbə:https://bizimyol.info
archiveBu xəbər 02 İyun 2025 10:58 mənbədən arxivləşdirilmişdir
0 Şərh
Daxil olun, şərh yazmaq üçün...
İlk cavab verən siz olun...
topGünün ən çox oxunanları
Hal-hazırda ən çox müzakirə olunan hadisələr

Dünyada ilk: "Qızılalma" Türkiyə ordusunda... Foto

19 Noyabr 2026 19:51see367

Alyona Əliyeva Bakı Xoreoqrafiya Akademiyasından paylaşım edib

19 Noyabr 2026 21:02see349

Almaniya klubu “Qalatasaray”ın futbolçusuna elçi düşdü

20 Noyabr 2026 01:32see317

Xərçəngə səbəb olan qidalar Siyahı yeniləndi

19 Noyabr 2026 18:59see308

Bu gün Xudayar Yusifzadənin doğum günüdür

20 Noyabr 2026 06:19see299

Azərbaycan Milli İncəsənət Muzeyinin direktoru Şirin Məlikova Türkiyədə beynəlxalq konqresdə çıxış edib (Foto)

19 Noyabr 2026 18:45see291

Bakıda 8 yaşlı uşağın ödündən kista çıxarıldı

19 Noyabr 2026 19:14see280

Yaddaşı gücləndirən burun damcıları siçanlar üzərində sınaqdan KEÇİRİLDİ

20 Noyabr 2026 00:00see270

Ağ Ev Trampın sammit zamanı yatması barədə məlumatları təkzib edib

19 Noyabr 2026 21:00see262

Elxan Səmədov: Xankəndi azarkeşlərinin komandalarını öz şəhərlərində dəstəkləməsi xüsusi əhəmiyyət daşıyır

20 Noyabr 2026 00:06see250

“Eyni tempdə davam edirik” Rui Jorje

20 Noyabr 2026 21:10see248

İraola: “Belə bir şey baş verməməlidir”

20 Noyabr 2026 21:35see237

“iPhone”un 20 illiyinə özəl model üçün iki fərqli dizayn sınaqdan keçirilir

20 Noyabr 2026 22:20see236

DİN və Baş Prokurorluq 2 noyabr mitinqinin təşkilatçılarına xəbərdarlıq edib

20 Noyabr 2026 06:10see236

"Sabah" "Sumqayıt"ı darmadağın etdi

20 Noyabr 2026 21:17see233

Anthropic in səhmləri Nasdaq da ticarətin ilk günündə 17 % artıb

20 Noyabr 2026 07:19see233

Tramp: Putin Ukraynadakı müharibəni diplomatik yolla bitirmək istədiyini açıq şəkildə bildirib

20 Noyabr 2026 22:14see223

Bütün dövrlərin ən böyük kino ulduzu seçildi

20 Noyabr 2026 22:37see222

Quba klubu ətrafında qalmaqal: FİF rəhbəri Ayaz Abdullayevin iddialarını təkzib etdi

20 Noyabr 2026 22:29see210

"Barselona" ilə oyunda inanılmaz hekayələrdən birini yazmağa çalışacağıq"

20 Noyabr 2026 22:21see206
newsSon xəbərlər
Günün ən son və aktual hadisələri