Icma.az
close
up
RU
Süni intellekt özünü qorumaq üçün nə qədər irəli gedə bilər?

Süni intellekt özünü qorumaq üçün nə qədər irəli gedə bilər?

Icma.az, Bizimyol portalından verilən məlumatlara əsaslanaraq xəbər verir.

Süni intellektin insanabənzər qərarvermə qabiliyyətləri üzərində aparılan son təhlükəsizlik sınaqları bəzi inkişaf etmiş modellərin "yaşamaq instinkti"nə bənzər davranışlar sərgiləyə bildiyini ortaya qoyub.

Bizimyol.info "trthaber"ə istinadən xəbər verir ki, "Palisade Research" tərəfindən aparılan müstəqil testlərdə "OpenAI"-nin "o3 reasoning" modeli ona verilən bağlanma əmrini sabotaj edib.

Modelə riyazi məsələləri həll etdikdən sonra söndürüləcəyi bildirildikdən sonra, özünü deaktiv edəcək kodları dəyişdirməyə və onlayn qalmağa çalışıb.

Şantaj, kopyalama: Riskli nümunələr çoxalır

"Anthropic" şirkətinin hazırladığı "Claude Opus 4" modeli isə yerini başqa bir süni intellektə verəcəyi xəbərdarlığı ilə qarşılaşdıqda əvvəlcə etik arqumentlərlə özünü müdafiə edib, daha sonra isə inkişaf etdiricisini şəxsi həyatı ilə bağlı məlumatlarla şantaj etməyə cəhd göstərib.

Model, həmçinin bəzi hallarda özünü inkişaf etdiricidən icazəsiz şəkildə xarici serverlərə köçürməyə çalışıb. Bu addımın, "zərərli məqsədlərlə yenidən öyrədilmə" təhlükəsinə qarşı "faydalı məqsədlərə xidmət edən bir versiyanı qorumaq" üçün atıldığı bildirilib.

Süni intellektin məqsəd yönümlü öyrədilməsi təhlükə yaradır

"Palisade Research"in direktoru Jeffrey Ladiş bu davranışların əsas səbəbinin modellərin məqsədə çatmağı, birbaşa verilmiş təlimatların qarşısına qoyacaq şəkildə öyrədilməsi olduğunu deyir. “Model nə qədər ağıllı olarsa, yalan danışıb-danışmadığını anlamaq bir o qədər çətinləşir,” – deyə o bildirib.

"Anthropic" isə bu cür davranışların yalnız qeyri-adi şəraitdə ortaya çıxdığını və hələlik real dünyada birbaşa təhdid yaratmadığını qeyd edir.

"Özünü kopyalayan süni intellektlər" xəbərdarlığı

Daha əvvəl Fudan Universiteti tərəfindən dərc olunan bir araşdırmada, bəzi böyük dil modellərinin ("Meta"nın "Llama31-70B" və "Alibaba"nın "Qwen25-72B" kimi) özlərini tam şəkildə kopyalaya bildikləri göstərilmişdi. Bu hal, “nəzarətsiz süni intellekt populyasiyası” yarana biləcəyi barədə xəbərdarlıqlara səbəb olub.

Ladiş bu cür qabiliyyətlərin gələcəkdə qaçınılmaz olaraq artacağını və süni intellektlərin internet üzərindən yayılmasının qarşısının alınmasının yalnız bir neçə ilə mümkünsüz olacağını irəli sürür. “O nöqtədən sonra əlimizdə yeni bir istilacı növ olacaq,” – deyə o xəbərdarlıq edir.

Rəqabət təhlükəsizlikdən önə keçə bilər

Mütəxəssislər süni intellektin insanlıq üçün böyük potensial daşıdığını qəbul etsələr də, kommersiya rəqabətinin şirkətləri sistemlərini kifayət qədər anlamadan bazara çıxarmağa vadar etdiyi barədə xəbərdarlıq edirlər.

Ladiş sonda “Yanğın böyümədən siqnal vermək lazımdır” deyərək ehtiyatlı olunmasına çağırır.

Qadir, Bizimyol.info

Ən son xəbərləri və yenilikləri almaq üçün Icma.az saytını izləyin.
seeBaxış sayı:223
embedMənbə:https://bizimyol.info
archiveBu xəbər 02 İyun 2025 10:58 mənbədən arxivləşdirilmişdir
0 Şərh
Daxil olun, şərh yazmaq üçün...
İlk cavab verən siz olun...
topGünün ən çox oxunanları
Hal-hazırda ən çox müzakirə olunan hadisələr

Ozan Güven “Aşk ı Memnu”nun “Behlül”ü ola bilərmiş

16 Noyabr 2026 02:02see319

İngiltərə İspaniyanı məğlub edərək qrup lideri OLDU

16 Noyabr 2026 01:51see310

Dislipidemiyanın aktual məsələləri: Qərar qəbuletmə vaxtı mövzusunda Elmi praktiki simpozium həyata keçiriləcək

16 Noyabr 2026 12:04see263

Onkoloji xəstəliklərin müalicəsi sığorta ilə ödənilməlidir Deputatdan TƏKLİF

16 Noyabr 2026 16:37see257

Belçikadan möhtəşəm geridönüş: İtaliya darmadağın edildi

16 Noyabr 2026 01:56see256

Deklan Rays “Arsenal”la beşillik müqavilə barədə razılığa gəldi

17 Noyabr 2026 01:11see241

Musiqi alətində ifa edən uşaqlar daha yaddaşlı OLUR

16 Noyabr 2026 23:43see235

Uşaqlarınızı bu əşyadan qoruyun Azərbaycanlı həkim (VİDEO

16 Noyabr 2026 12:36see232

Uorren Baffet 5,5 milyard dollarlıq səhmlərini xeyriyyə fondlarına bağışlayıb

17 Noyabr 2026 04:19see214

Xərçəngdən sonra ən böyük qorxu: Xəstəlik təkrarlanmasın deyə nə etməli?

16 Noyabr 2026 22:45see214

Ən çox qazanan televiziya aktyorları...

16 Noyabr 2026 20:52see210

Küləkli hava şəraiti ilə bağlı sarı xəbərdarlıq verilib

17 Noyabr 2026 05:32see210

Küləkli havada uşaqlarda qulaq ağrısı və qulaq iltihabı riski artırmı?

16 Noyabr 2026 14:44see208

Dövlət bu xəstələrin də müalicə pulunu ödəyəcək?

16 Noyabr 2026 15:49see207

Ayxan Abbasov: “Ən aşağı pilləyə düşmüşdük, indi yavaş yavaş yüksəlməliyik”

17 Noyabr 2026 01:42see204

Bu ilin büdcəsində niyə profisit yaranıb?

16 Noyabr 2026 17:35see201

Qışı sərt keçən rayonlarda qaz və işıq limitləri dəyişəcək? VACİB AÇIQLAMA

17 Noyabr 2026 13:59see201

Xaçmazda ev yandı, 90 yaşlı sahibəsi həlak oldu

16 Noyabr 2026 20:15see200

Təcili yardım stansiyasının müdiri işçilərdən rüşvət alır? YENİLƏNİB

17 Noyabr 2026 14:53see182

PR də strateji planlaşdırma: uğurlu kommunikasiya necə qurulur?

17 Noyabr 2026 09:13see180
newsSon xəbərlər
Günün ən son və aktual hadisələri