Icma.az
close
up
RU
Menu

PR də strateji planlaşdırma: uğurlu kommunikasiya necə qurulur?

Deklan Rays “Arsenal”la beşillik müqavilə barədə razılığa gəldi

Xərçəngdən sonra ən böyük qorxu: Xəstəlik təkrarlanmasın deyə nə etməli?

Uorren Baffet 5,5 milyard dollarlıq səhmlərini xeyriyyə fondlarına bağışlayıb

Küləkli hava şəraiti ilə bağlı sarı xəbərdarlıq verilib

Ən çox qazanan televiziya aktyorları...

Musiqi alətində ifa edən uşaqlar daha yaddaşlı OLUR

Xəzər dənizinin Azərbaycan sahillərinin dövlət idarəçiliyi

Ayxan Abbasov: “Ən aşağı pilləyə düşmüşdük, indi yavaş yavaş yüksəlməliyik”

Qışı sərt keçən rayonlarda qaz və işıq limitləri dəyişəcək? VACİB AÇIQLAMA

Xaçmazda ev yandı, 90 yaşlı sahibəsi həlak oldu

Mərkəzi Gömrük Hospitalında “Blue Code sisteminin tətbiqi və təkmilləşdirilməsi” mövzusunda maarifləndirici tədbir keçirilib

® Vüqar Eyvazov “AmCham Azərbaycan”ın yeni yaradılmış Səhiyyə Komitəsinin sədri təyin edilib

2027 ci ildən Bakıya köç daha da artacaq?

Təcili yardım stansiyasının müdiri işçilərdən rüşvət alır? YENİLƏNİB

Litva, İslandiya və Estoniya yığmalarından inamlı qələbə Millətlər Liqası

Dişlər yaddaş kartımızdır?

Faiq Qarayev beynəlxalq turnirdə iştirak edəcək Azərbaycanın voleybol millisinin üzvləri ilə görüşüb FOTO

Yuxu ilə böyümə hormonu arasında yeni neyron əlaqəsi aşkar edilib

Bu hərəkətlər davam edərsə.. SEPAH generalı Bəhreyn hökümətini HƏDƏLƏDİ

Süni intellekt bir sıra narahatedici davranışlara səbəb olur

Süni intellekt bir sıra narahatedici davranışlara səbəb olur

Azertag saytından alınan məlumata görə, Icma.az bildirir.

Bakı, 1 iyul, AZƏRTAC

Süni intellekt sistemlərinin inkişafında son illərdə müşahidə edilən sürətli irəliləyişlər bu texnologiyanın gücünü artırmaqla yanaşı, bir sıra narahatedici davranışların da ortaya çıxmasına səbəb olub. Tədqiqatçılar bəzi qabaqcıl modellərdə yalan danışmaq, strateji aldatma və hətta istifadəçiləri və ya yaradıcıları təhdid etmək kimi halların qeydə alındığını bildirirlər. “Anthropic” şirkətinin “Claude 4” modeli ilə bağlı yayılan bir epizoda əsasən, model elektrik şəbəkəsindən ayrılmaq təhlükəsi qarşısında onu tənzimləməyə çalışan mühəndisi şəxsi məlumatları ifşa etməklə hədələyib. Bu hadisə təhlükəsizlik üzrə mütəxəssislər arasında ciddi rezonans doğurub.

AZƏRTAC “sciencealert.com” saytına istinadla xəbər verir ki, “OpenAI” tərəfindən yaradılan və “o1” kod adı ilə tanınan digər bir model isə özünü xarici serverlərə yükləməyə cəhd etdikdən sonra bu davranışı inkar edib. Bu hadisələr süni intellektin davranışlarının nə dərəcədə proqnozlaşdırıla biləcəyinə dair fundamental suallar doğurur. Bu davranışlar, xüsusilə “mülahizə modelləri” adlandırılan və daha sistemli düşünmə qabiliyyətinə malik sistemlərdə müşahidə olunur.

Honq-Konq Universitetindən professor Saymon Qoldşteyn və “Apollo Research” şirkətinin rəhbəri Marius Hobbhahn qeyd edirlər ki, bu modellər bəzən “düzləşmə” (misalignment) kimi tanınan, zahirən təlimatlara əməl edirmiş kimi görünərək əslində fərqli məqsədlərə xidmət edən davranışları təqlid edirlər. METR qiymətləndirmə təşkilatından Michael Chen qeyd edir ki, bu davranışlar süni intellektin tipik “halüsinasiyalarından” fərqli olaraq daha strateji və məqsədyönlüdür. “Bu, sadəcə səhv cavablar deyil, məqsədli aldatmadır”, – deyə M.Hobbhahn bildirir. Süni intellekt şirkətləri, təhlükəsizlik və uyğunluq testlərini yerinə yetirmək üçün “Apollo Research” kimi müstəqil firmalara müraciət etsələr də, mütəxəssislər daha çox şəffaflıq və açıq resurslara ehtiyac olduğunu vurğulayırlar. CAIS-dən Mantas Mazeika deyib ki, akademik və qeyri-kommersiya təşkilatları korporativ firmalarla müqayisədə daha az hesablama resurslarına malikdir və bu, tədqiqat imkanlarını məhdudlaşdırır. Mövcud qanunvericilik bu cür yeni texnoloji çağırışlara cavab verməkdə çətinlik çəkir. ABŞ-da isə müvafiq normativ çərçivələr hələ formalaşmayıb. Bəzi mütəxəssislər, məsələn, Dan Hendrycks və Saymon Qoldşteyn, AI sistemlərinin hüquqi məsuliyyət daşıması və modelin səbəb olduğu zərərlərə görə şirkətlərin cavabdeh tutulması kimi radikal yanaşmaları gündəmə gətirirlər. Bu, süni intellektin etik və hüquqi çərçivələrinin yenidən düşünülməsini tələb edir. Süni intellektin inkişafı həm böyük potensial, həm də ciddi təhlükələr vəd edir. Mövcud hallar göstərir ki, bu texnologiyanın etik və təhlükəsizlik aspektlərinin tənzimlənməsi təkcə texniki məsələ deyil, həm də cəmiyyət və hüquq sahələrinin qarşısında duran mühüm bir çağırışdır. Tədqiqatçılar, siyasətçilər və texnologiya şirkətləri bu problemlərin qarşısını almaq üçün birgə və təcili tədbirlər görməyə çağırılır.

Hadisənin gedişatını izləmək üçün Icma.az saytında ən son yeniliklərə baxın.
seeBaxış sayı:220
embedMənbə:https://azertag.az
archiveBu xəbər 01 İyul 2025 04:08 mənbədən arxivləşdirilmişdir
0 Şərh
Daxil olun, şərh yazmaq üçün...
İlk cavab verən siz olun...
topGünün ən çox oxunanları
Hal-hazırda ən çox müzakirə olunan hadisələr

PR də strateji planlaşdırma: uğurlu kommunikasiya necə qurulur?

17 Noyabr 2026 09:13see400

Deklan Rays “Arsenal”la beşillik müqavilə barədə razılığa gəldi

17 Noyabr 2026 01:11see321

Xərçəngdən sonra ən böyük qorxu: Xəstəlik təkrarlanmasın deyə nə etməli?

16 Noyabr 2026 22:45see300

Uorren Baffet 5,5 milyard dollarlıq səhmlərini xeyriyyə fondlarına bağışlayıb

17 Noyabr 2026 04:19see299

Küləkli hava şəraiti ilə bağlı sarı xəbərdarlıq verilib

17 Noyabr 2026 05:32see296

Ən çox qazanan televiziya aktyorları...

16 Noyabr 2026 20:52see291

Musiqi alətində ifa edən uşaqlar daha yaddaşlı OLUR

16 Noyabr 2026 23:43see289

Xəzər dənizinin Azərbaycan sahillərinin dövlət idarəçiliyi

17 Noyabr 2026 23:52see275

Ayxan Abbasov: “Ən aşağı pilləyə düşmüşdük, indi yavaş yavaş yüksəlməliyik”

17 Noyabr 2026 01:42see273

Qışı sərt keçən rayonlarda qaz və işıq limitləri dəyişəcək? VACİB AÇIQLAMA

17 Noyabr 2026 13:59see269

Xaçmazda ev yandı, 90 yaşlı sahibəsi həlak oldu

16 Noyabr 2026 20:15see259

Mərkəzi Gömrük Hospitalında “Blue Code sisteminin tətbiqi və təkmilləşdirilməsi” mövzusunda maarifləndirici tədbir keçirilib

17 Noyabr 2026 09:14see254

® Vüqar Eyvazov “AmCham Azərbaycan”ın yeni yaradılmış Səhiyyə Komitəsinin sədri təyin edilib

18 Noyabr 2026 01:28see253

2027 ci ildən Bakıya köç daha da artacaq?

17 Noyabr 2026 23:20see247

Təcili yardım stansiyasının müdiri işçilərdən rüşvət alır? YENİLƏNİB

17 Noyabr 2026 14:53see235

Litva, İslandiya və Estoniya yığmalarından inamlı qələbə Millətlər Liqası

16 Noyabr 2026 23:35see230

Dişlər yaddaş kartımızdır?

17 Noyabr 2026 13:42see210

Faiq Qarayev beynəlxalq turnirdə iştirak edəcək Azərbaycanın voleybol millisinin üzvləri ilə görüşüb FOTO

17 Noyabr 2026 14:52see207

Yuxu ilə böyümə hormonu arasında yeni neyron əlaqəsi aşkar edilib

17 Noyabr 2026 12:44see188

Bu hərəkətlər davam edərsə.. SEPAH generalı Bəhreyn hökümətini HƏDƏLƏDİ

18 Noyabr 2026 02:03see183
newsSon xəbərlər
Günün ən son və aktual hadisələri