Icma.az
close
up
RU
Menu

Dublin səfəri Azərbaycanın Avropa siyasətinin yeni istiqamətlər üzrə paralel şəkildə inkişaf etdiyini göstərdi ŞƏRH

Yuxusuzluq infarkt və insult riskini artırır Həkimdən xəbərdarlıq

Bakını qoyub Ağstafaya köçdü 87 yaşlı Xalq artistinin həyatı necə keçir?

SÖZÜN İŞIĞINDA KEÇƏN ÖMÜR Qazi şair Ədalət Nicatın 60 illiyi qeyd olunub

TÜRK MÜDAFİƏ SƏNAYESİNİN YENİ UĞURU... 51 dronu bir neçə saniyədə məhv edir + VİDEO

Azərbaycanın İKT sektorunda rekord artım: Region ölkələri ilə fərq nə qədərdir?

Ozan Güven “Aşk ı Memnu”nun “Behlül”ü ola bilərmiş

İngiltərə İspaniyanı məğlub edərək qrup lideri OLDU

Azərbaycanda sərnişin mikroavtobusu qəzaya uğradı: Çox sayda yaralı var Video

2040 cı ilə qədər qlobal iqtisadiyyatda nə baş verəcək: Azərbaycan hansı mövqedə olacaq?

Futbol turniri valideynlərin davranışına görə dayandırıldı

Paşinyan Pnompendə Bakı və İrəvan arasında sülhdən danışdı

“Boranı” restoranı ilə bağlı iddia: Tək gəldiyi üçün müştəriyə girişə icazə verilmədi

İtaliyadan Ukraynaya yeni hərbi dəstək: İki peykin radar məlumatları veriləcək

Dislipidemiyanın aktual məsələləri: Qərar qəbuletmə vaxtı mövzusunda Elmi praktiki simpozium həyata keçiriləcək

Belçikadan möhtəşəm geridönüş: İtaliya darmadağın edildi

Onkoloji xəstəliklərin müalicəsi sığorta ilə ödənilməlidir Deputatdan TƏKLİF

İran parlamenti ABŞ la danışıqların başa çatdığını açıqlayıb

Braziliya futbolunun əfsanəsi 11 il sonra futbola qayıtdı...

Deklan Rays “Arsenal”la beşillik müqavilə barədə razılığa gəldi

Süni intellekt bir sıra narahatedici davranışlara səbəb olur

Süni intellekt bir sıra narahatedici davranışlara səbəb olur

Azertag saytından alınan məlumata görə, Icma.az bildirir.

Bakı, 1 iyul, AZƏRTAC

Süni intellekt sistemlərinin inkişafında son illərdə müşahidə edilən sürətli irəliləyişlər bu texnologiyanın gücünü artırmaqla yanaşı, bir sıra narahatedici davranışların da ortaya çıxmasına səbəb olub. Tədqiqatçılar bəzi qabaqcıl modellərdə yalan danışmaq, strateji aldatma və hətta istifadəçiləri və ya yaradıcıları təhdid etmək kimi halların qeydə alındığını bildirirlər. “Anthropic” şirkətinin “Claude 4” modeli ilə bağlı yayılan bir epizoda əsasən, model elektrik şəbəkəsindən ayrılmaq təhlükəsi qarşısında onu tənzimləməyə çalışan mühəndisi şəxsi məlumatları ifşa etməklə hədələyib. Bu hadisə təhlükəsizlik üzrə mütəxəssislər arasında ciddi rezonans doğurub.

AZƏRTAC “sciencealert.com” saytına istinadla xəbər verir ki, “OpenAI” tərəfindən yaradılan və “o1” kod adı ilə tanınan digər bir model isə özünü xarici serverlərə yükləməyə cəhd etdikdən sonra bu davranışı inkar edib. Bu hadisələr süni intellektin davranışlarının nə dərəcədə proqnozlaşdırıla biləcəyinə dair fundamental suallar doğurur. Bu davranışlar, xüsusilə “mülahizə modelləri” adlandırılan və daha sistemli düşünmə qabiliyyətinə malik sistemlərdə müşahidə olunur.

Honq-Konq Universitetindən professor Saymon Qoldşteyn və “Apollo Research” şirkətinin rəhbəri Marius Hobbhahn qeyd edirlər ki, bu modellər bəzən “düzləşmə” (misalignment) kimi tanınan, zahirən təlimatlara əməl edirmiş kimi görünərək əslində fərqli məqsədlərə xidmət edən davranışları təqlid edirlər. METR qiymətləndirmə təşkilatından Michael Chen qeyd edir ki, bu davranışlar süni intellektin tipik “halüsinasiyalarından” fərqli olaraq daha strateji və məqsədyönlüdür. “Bu, sadəcə səhv cavablar deyil, məqsədli aldatmadır”, – deyə M.Hobbhahn bildirir. Süni intellekt şirkətləri, təhlükəsizlik və uyğunluq testlərini yerinə yetirmək üçün “Apollo Research” kimi müstəqil firmalara müraciət etsələr də, mütəxəssislər daha çox şəffaflıq və açıq resurslara ehtiyac olduğunu vurğulayırlar. CAIS-dən Mantas Mazeika deyib ki, akademik və qeyri-kommersiya təşkilatları korporativ firmalarla müqayisədə daha az hesablama resurslarına malikdir və bu, tədqiqat imkanlarını məhdudlaşdırır. Mövcud qanunvericilik bu cür yeni texnoloji çağırışlara cavab verməkdə çətinlik çəkir. ABŞ-da isə müvafiq normativ çərçivələr hələ formalaşmayıb. Bəzi mütəxəssislər, məsələn, Dan Hendrycks və Saymon Qoldşteyn, AI sistemlərinin hüquqi məsuliyyət daşıması və modelin səbəb olduğu zərərlərə görə şirkətlərin cavabdeh tutulması kimi radikal yanaşmaları gündəmə gətirirlər. Bu, süni intellektin etik və hüquqi çərçivələrinin yenidən düşünülməsini tələb edir. Süni intellektin inkişafı həm böyük potensial, həm də ciddi təhlükələr vəd edir. Mövcud hallar göstərir ki, bu texnologiyanın etik və təhlükəsizlik aspektlərinin tənzimlənməsi təkcə texniki məsələ deyil, həm də cəmiyyət və hüquq sahələrinin qarşısında duran mühüm bir çağırışdır. Tədqiqatçılar, siyasətçilər və texnologiya şirkətləri bu problemlərin qarşısını almaq üçün birgə və təcili tədbirlər görməyə çağırılır.

Hadisənin gedişatını izləmək üçün Icma.az saytında ən son yeniliklərə baxın.
seeBaxış sayı:217
embedMənbə:https://azertag.az
archiveBu xəbər 01 İyul 2025 04:08 mənbədən arxivləşdirilmişdir
0 Şərh
Daxil olun, şərh yazmaq üçün...
İlk cavab verən siz olun...
topGünün ən çox oxunanları
Hal-hazırda ən çox müzakirə olunan hadisələr

Dublin səfəri Azərbaycanın Avropa siyasətinin yeni istiqamətlər üzrə paralel şəkildə inkişaf etdiyini göstərdi ŞƏRH

15 Noyabr 2026 13:13see295

Yuxusuzluq infarkt və insult riskini artırır Həkimdən xəbərdarlıq

15 Noyabr 2026 14:28see281

Bakını qoyub Ağstafaya köçdü 87 yaşlı Xalq artistinin həyatı necə keçir?

15 Noyabr 2026 15:50see277

SÖZÜN İŞIĞINDA KEÇƏN ÖMÜR Qazi şair Ədalət Nicatın 60 illiyi qeyd olunub

15 Noyabr 2026 13:40see276

TÜRK MÜDAFİƏ SƏNAYESİNİN YENİ UĞURU... 51 dronu bir neçə saniyədə məhv edir + VİDEO

15 Noyabr 2026 19:14see274

Azərbaycanın İKT sektorunda rekord artım: Region ölkələri ilə fərq nə qədərdir?

15 Noyabr 2026 13:53see266

Ozan Güven “Aşk ı Memnu”nun “Behlül”ü ola bilərmiş

16 Noyabr 2026 02:02see256

İngiltərə İspaniyanı məğlub edərək qrup lideri OLDU

16 Noyabr 2026 01:51see252

Azərbaycanda sərnişin mikroavtobusu qəzaya uğradı: Çox sayda yaralı var Video

15 Noyabr 2026 16:38see234

2040 cı ilə qədər qlobal iqtisadiyyatda nə baş verəcək: Azərbaycan hansı mövqedə olacaq?

15 Noyabr 2026 14:02see224

Futbol turniri valideynlərin davranışına görə dayandırıldı

16 Noyabr 2026 01:15see222

Paşinyan Pnompendə Bakı və İrəvan arasında sülhdən danışdı

15 Noyabr 2026 15:38see214

“Boranı” restoranı ilə bağlı iddia: Tək gəldiyi üçün müştəriyə girişə icazə verilmədi

15 Noyabr 2026 21:02see211

İtaliyadan Ukraynaya yeni hərbi dəstək: İki peykin radar məlumatları veriləcək

15 Noyabr 2026 22:01see210

Dislipidemiyanın aktual məsələləri: Qərar qəbuletmə vaxtı mövzusunda Elmi praktiki simpozium həyata keçiriləcək

16 Noyabr 2026 12:04see207

Belçikadan möhtəşəm geridönüş: İtaliya darmadağın edildi

16 Noyabr 2026 01:56see207

Onkoloji xəstəliklərin müalicəsi sığorta ilə ödənilməlidir Deputatdan TƏKLİF

16 Noyabr 2026 16:37see205

İran parlamenti ABŞ la danışıqların başa çatdığını açıqlayıb

15 Noyabr 2026 17:27see201

Braziliya futbolunun əfsanəsi 11 il sonra futbola qayıtdı...

16 Noyabr 2026 00:05see195

Deklan Rays “Arsenal”la beşillik müqavilə barədə razılığa gəldi

17 Noyabr 2026 01:11see192
newsSon xəbərlər
Günün ən son və aktual hadisələri