Icma.az
close
up
RU
Menu

Dublin səfəri Azərbaycanın Avropa siyasətinin yeni istiqamətlər üzrə paralel şəkildə inkişaf etdiyini göstərdi ŞƏRH

Yuxusuzluq infarkt və insult riskini artırır Həkimdən xəbərdarlıq

Bakını qoyub Ağstafaya köçdü 87 yaşlı Xalq artistinin həyatı necə keçir?

SÖZÜN İŞIĞINDA KEÇƏN ÖMÜR Qazi şair Ədalət Nicatın 60 illiyi qeyd olunub

TÜRK MÜDAFİƏ SƏNAYESİNİN YENİ UĞURU... 51 dronu bir neçə saniyədə məhv edir + VİDEO

Azərbaycanın İKT sektorunda rekord artım: Region ölkələri ilə fərq nə qədərdir?

Ozan Güven “Aşk ı Memnu”nun “Behlül”ü ola bilərmiş

İngiltərə İspaniyanı məğlub edərək qrup lideri OLDU

Azərbaycanda sərnişin mikroavtobusu qəzaya uğradı: Çox sayda yaralı var Video

2040 cı ilə qədər qlobal iqtisadiyyatda nə baş verəcək: Azərbaycan hansı mövqedə olacaq?

Futbol turniri valideynlərin davranışına görə dayandırıldı

Paşinyan Pnompendə Bakı və İrəvan arasında sülhdən danışdı

“Boranı” restoranı ilə bağlı iddia: Tək gəldiyi üçün müştəriyə girişə icazə verilmədi

İtaliyadan Ukraynaya yeni hərbi dəstək: İki peykin radar məlumatları veriləcək

Dislipidemiyanın aktual məsələləri: Qərar qəbuletmə vaxtı mövzusunda Elmi praktiki simpozium həyata keçiriləcək

Belçikadan möhtəşəm geridönüş: İtaliya darmadağın edildi

Onkoloji xəstəliklərin müalicəsi sığorta ilə ödənilməlidir Deputatdan TƏKLİF

İran parlamenti ABŞ la danışıqların başa çatdığını açıqlayıb

Braziliya futbolunun əfsanəsi 11 il sonra futbola qayıtdı...

Deklan Rays “Arsenal”la beşillik müqavilə barədə razılığa gəldi

Süni intellekt özünü qorumaq üçün nə qədər irəli gedə bilər?

Süni intellekt özünü qorumaq üçün nə qədər irəli gedə bilər?

Icma.az, Bizimyol portalından verilən məlumatlara əsaslanaraq xəbər verir.

Süni intellektin insanabənzər qərarvermə qabiliyyətləri üzərində aparılan son təhlükəsizlik sınaqları bəzi inkişaf etmiş modellərin "yaşamaq instinkti"nə bənzər davranışlar sərgiləyə bildiyini ortaya qoyub.

Bizimyol.info "trthaber"ə istinadən xəbər verir ki, "Palisade Research" tərəfindən aparılan müstəqil testlərdə "OpenAI"-nin "o3 reasoning" modeli ona verilən bağlanma əmrini sabotaj edib.

Modelə riyazi məsələləri həll etdikdən sonra söndürüləcəyi bildirildikdən sonra, özünü deaktiv edəcək kodları dəyişdirməyə və onlayn qalmağa çalışıb.

Şantaj, kopyalama: Riskli nümunələr çoxalır

"Anthropic" şirkətinin hazırladığı "Claude Opus 4" modeli isə yerini başqa bir süni intellektə verəcəyi xəbərdarlığı ilə qarşılaşdıqda əvvəlcə etik arqumentlərlə özünü müdafiə edib, daha sonra isə inkişaf etdiricisini şəxsi həyatı ilə bağlı məlumatlarla şantaj etməyə cəhd göstərib.

Model, həmçinin bəzi hallarda özünü inkişaf etdiricidən icazəsiz şəkildə xarici serverlərə köçürməyə çalışıb. Bu addımın, "zərərli məqsədlərlə yenidən öyrədilmə" təhlükəsinə qarşı "faydalı məqsədlərə xidmət edən bir versiyanı qorumaq" üçün atıldığı bildirilib.

Süni intellektin məqsəd yönümlü öyrədilməsi təhlükə yaradır

"Palisade Research"in direktoru Jeffrey Ladiş bu davranışların əsas səbəbinin modellərin məqsədə çatmağı, birbaşa verilmiş təlimatların qarşısına qoyacaq şəkildə öyrədilməsi olduğunu deyir. “Model nə qədər ağıllı olarsa, yalan danışıb-danışmadığını anlamaq bir o qədər çətinləşir,” – deyə o bildirib.

"Anthropic" isə bu cür davranışların yalnız qeyri-adi şəraitdə ortaya çıxdığını və hələlik real dünyada birbaşa təhdid yaratmadığını qeyd edir.

"Özünü kopyalayan süni intellektlər" xəbərdarlığı

Daha əvvəl Fudan Universiteti tərəfindən dərc olunan bir araşdırmada, bəzi böyük dil modellərinin ("Meta"nın "Llama31-70B" və "Alibaba"nın "Qwen25-72B" kimi) özlərini tam şəkildə kopyalaya bildikləri göstərilmişdi. Bu hal, “nəzarətsiz süni intellekt populyasiyası” yarana biləcəyi barədə xəbərdarlıqlara səbəb olub.

Ladiş bu cür qabiliyyətlərin gələcəkdə qaçınılmaz olaraq artacağını və süni intellektlərin internet üzərindən yayılmasının qarşısının alınmasının yalnız bir neçə ilə mümkünsüz olacağını irəli sürür. “O nöqtədən sonra əlimizdə yeni bir istilacı növ olacaq,” – deyə o xəbərdarlıq edir.

Rəqabət təhlükəsizlikdən önə keçə bilər

Mütəxəssislər süni intellektin insanlıq üçün böyük potensial daşıdığını qəbul etsələr də, kommersiya rəqabətinin şirkətləri sistemlərini kifayət qədər anlamadan bazara çıxarmağa vadar etdiyi barədə xəbərdarlıq edirlər.

Ladiş sonda “Yanğın böyümədən siqnal vermək lazımdır” deyərək ehtiyatlı olunmasına çağırır.

Qadir, Bizimyol.info

Ən son xəbərləri və yenilikləri almaq üçün Icma.az saytını izləyin.
seeBaxış sayı:220
embedMənbə:https://bizimyol.info
archiveBu xəbər 02 İyun 2025 10:58 mənbədən arxivləşdirilmişdir
0 Şərh
Daxil olun, şərh yazmaq üçün...
İlk cavab verən siz olun...
topGünün ən çox oxunanları
Hal-hazırda ən çox müzakirə olunan hadisələr

Dublin səfəri Azərbaycanın Avropa siyasətinin yeni istiqamətlər üzrə paralel şəkildə inkişaf etdiyini göstərdi ŞƏRH

15 Noyabr 2026 13:13see295

Yuxusuzluq infarkt və insult riskini artırır Həkimdən xəbərdarlıq

15 Noyabr 2026 14:28see281

Bakını qoyub Ağstafaya köçdü 87 yaşlı Xalq artistinin həyatı necə keçir?

15 Noyabr 2026 15:50see277

SÖZÜN İŞIĞINDA KEÇƏN ÖMÜR Qazi şair Ədalət Nicatın 60 illiyi qeyd olunub

15 Noyabr 2026 13:40see276

TÜRK MÜDAFİƏ SƏNAYESİNİN YENİ UĞURU... 51 dronu bir neçə saniyədə məhv edir + VİDEO

15 Noyabr 2026 19:14see274

Azərbaycanın İKT sektorunda rekord artım: Region ölkələri ilə fərq nə qədərdir?

15 Noyabr 2026 13:53see266

Ozan Güven “Aşk ı Memnu”nun “Behlül”ü ola bilərmiş

16 Noyabr 2026 02:02see256

İngiltərə İspaniyanı məğlub edərək qrup lideri OLDU

16 Noyabr 2026 01:51see252

Azərbaycanda sərnişin mikroavtobusu qəzaya uğradı: Çox sayda yaralı var Video

15 Noyabr 2026 16:38see234

2040 cı ilə qədər qlobal iqtisadiyyatda nə baş verəcək: Azərbaycan hansı mövqedə olacaq?

15 Noyabr 2026 14:02see224

Futbol turniri valideynlərin davranışına görə dayandırıldı

16 Noyabr 2026 01:15see222

Paşinyan Pnompendə Bakı və İrəvan arasında sülhdən danışdı

15 Noyabr 2026 15:38see214

“Boranı” restoranı ilə bağlı iddia: Tək gəldiyi üçün müştəriyə girişə icazə verilmədi

15 Noyabr 2026 21:02see211

İtaliyadan Ukraynaya yeni hərbi dəstək: İki peykin radar məlumatları veriləcək

15 Noyabr 2026 22:01see210

Dislipidemiyanın aktual məsələləri: Qərar qəbuletmə vaxtı mövzusunda Elmi praktiki simpozium həyata keçiriləcək

16 Noyabr 2026 12:04see207

Belçikadan möhtəşəm geridönüş: İtaliya darmadağın edildi

16 Noyabr 2026 01:56see207

Onkoloji xəstəliklərin müalicəsi sığorta ilə ödənilməlidir Deputatdan TƏKLİF

16 Noyabr 2026 16:37see205

İran parlamenti ABŞ la danışıqların başa çatdığını açıqlayıb

15 Noyabr 2026 17:27see201

Braziliya futbolunun əfsanəsi 11 il sonra futbola qayıtdı...

16 Noyabr 2026 00:05see195

Deklan Rays “Arsenal”la beşillik müqavilə barədə razılığa gəldi

17 Noyabr 2026 01:11see192
newsSon xəbərlər
Günün ən son və aktual hadisələri