Icma.az
close
up
RU
Süni intellekt bir sıra narahatedici davranışlara səbəb olur

Süni intellekt bir sıra narahatedici davranışlara səbəb olur

Azertag saytından alınan məlumata görə, Icma.az bildirir.

Bakı, 1 iyul, AZƏRTAC

Süni intellekt sistemlərinin inkişafında son illərdə müşahidə edilən sürətli irəliləyişlər bu texnologiyanın gücünü artırmaqla yanaşı, bir sıra narahatedici davranışların da ortaya çıxmasına səbəb olub. Tədqiqatçılar bəzi qabaqcıl modellərdə yalan danışmaq, strateji aldatma və hətta istifadəçiləri və ya yaradıcıları təhdid etmək kimi halların qeydə alındığını bildirirlər. “Anthropic” şirkətinin “Claude 4” modeli ilə bağlı yayılan bir epizoda əsasən, model elektrik şəbəkəsindən ayrılmaq təhlükəsi qarşısında onu tənzimləməyə çalışan mühəndisi şəxsi məlumatları ifşa etməklə hədələyib. Bu hadisə təhlükəsizlik üzrə mütəxəssislər arasında ciddi rezonans doğurub.

AZƏRTAC “sciencealert.com” saytına istinadla xəbər verir ki, “OpenAI” tərəfindən yaradılan və “o1” kod adı ilə tanınan digər bir model isə özünü xarici serverlərə yükləməyə cəhd etdikdən sonra bu davranışı inkar edib. Bu hadisələr süni intellektin davranışlarının nə dərəcədə proqnozlaşdırıla biləcəyinə dair fundamental suallar doğurur. Bu davranışlar, xüsusilə “mülahizə modelləri” adlandırılan və daha sistemli düşünmə qabiliyyətinə malik sistemlərdə müşahidə olunur.

Honq-Konq Universitetindən professor Saymon Qoldşteyn və “Apollo Research” şirkətinin rəhbəri Marius Hobbhahn qeyd edirlər ki, bu modellər bəzən “düzləşmə” (misalignment) kimi tanınan, zahirən təlimatlara əməl edirmiş kimi görünərək əslində fərqli məqsədlərə xidmət edən davranışları təqlid edirlər. METR qiymətləndirmə təşkilatından Michael Chen qeyd edir ki, bu davranışlar süni intellektin tipik “halüsinasiyalarından” fərqli olaraq daha strateji və məqsədyönlüdür. “Bu, sadəcə səhv cavablar deyil, məqsədli aldatmadır”, – deyə M.Hobbhahn bildirir. Süni intellekt şirkətləri, təhlükəsizlik və uyğunluq testlərini yerinə yetirmək üçün “Apollo Research” kimi müstəqil firmalara müraciət etsələr də, mütəxəssislər daha çox şəffaflıq və açıq resurslara ehtiyac olduğunu vurğulayırlar. CAIS-dən Mantas Mazeika deyib ki, akademik və qeyri-kommersiya təşkilatları korporativ firmalarla müqayisədə daha az hesablama resurslarına malikdir və bu, tədqiqat imkanlarını məhdudlaşdırır. Mövcud qanunvericilik bu cür yeni texnoloji çağırışlara cavab verməkdə çətinlik çəkir. ABŞ-da isə müvafiq normativ çərçivələr hələ formalaşmayıb. Bəzi mütəxəssislər, məsələn, Dan Hendrycks və Saymon Qoldşteyn, AI sistemlərinin hüquqi məsuliyyət daşıması və modelin səbəb olduğu zərərlərə görə şirkətlərin cavabdeh tutulması kimi radikal yanaşmaları gündəmə gətirirlər. Bu, süni intellektin etik və hüquqi çərçivələrinin yenidən düşünülməsini tələb edir. Süni intellektin inkişafı həm böyük potensial, həm də ciddi təhlükələr vəd edir. Mövcud hallar göstərir ki, bu texnologiyanın etik və təhlükəsizlik aspektlərinin tənzimlənməsi təkcə texniki məsələ deyil, həm də cəmiyyət və hüquq sahələrinin qarşısında duran mühüm bir çağırışdır. Tədqiqatçılar, siyasətçilər və texnologiya şirkətləri bu problemlərin qarşısını almaq üçün birgə və təcili tədbirlər görməyə çağırılır.

Hadisənin gedişatını izləmək üçün Icma.az saytında ən son yeniliklərə baxın.
seeBaxış sayı:229
embedMənbə:https://azertag.az
archiveBu xəbər 01 İyul 2025 04:08 mənbədən arxivləşdirilmişdir
0 Şərh
Daxil olun, şərh yazmaq üçün...
İlk cavab verən siz olun...
topGünün ən çox oxunanları
Hal-hazırda ən çox müzakirə olunan hadisələr

Xəzər dənizinin Azərbaycan sahillərinin dövlət idarəçiliyi

17 Noyabr 2026 23:52see397

® Vüqar Eyvazov “AmCham Azərbaycan”ın yeni yaradılmış Səhiyyə Komitəsinin sədri təyin edilib

18 Noyabr 2026 01:28see375

2027 ci ildən Bakıya köç daha da artacaq?

17 Noyabr 2026 23:20see361

Dünya onların görüşünə köklənib: Müharibələrə son qoyulacaq?

18 Noyabr 2026 13:51see331

Diş əti qanaması hansı daxili xəstəliklərin əlamətidir?

17 Noyabr 2026 23:18see301

İki zəhərli ilanı təyyarəyə keçirmək istədi

17 Noyabr 2026 23:17see282

Səhiyyədə gizli qalan vergi problemi gündəmə gəldi

18 Noyabr 2026 12:19see276

Bu hərəkətlər davam edərsə.. SEPAH generalı Bəhreyn hökümətini HƏDƏLƏDİ

18 Noyabr 2026 02:03see271

Braziliya millisindən darmadağın: Vinisius het trik etdi

18 Noyabr 2026 00:46see269

Söküntü başlamazdan əvvəl vətəndaşlar əmlaklarını qiymətləndirməlidir? Açıqlama

18 Noyabr 2026 14:55see262

Nənə tarladan 20 min qiyməti olan qızıl tapıb

18 Noyabr 2026 02:56see243

Polad Həşimovun anası xəstəxanadan evə buraxılıb TƏBİB

18 Noyabr 2026 01:24see243

Bossların bossu” vəfat etdi Pablo Eskobarla əməkdaşlıq edib

18 Noyabr 2026 01:52see242

MRT, KT, PET CT: Xərçəngi dəqiq hansı müayinə aşkarlayır?

18 Noyabr 2026 18:31see236

“Səhiyyə sahəsində vergi və sosial ödənişlərə yenidən baxılmalıdır”

18 Noyabr 2026 12:29see235

Xankəndidə Zəfər Gününə həsr olunmuş mini futbol turnirinə yekun vurulub

19 Noyabr 2026 01:55see230

Kosmosdakı musiqimiz: Çahargah Ahəngi “Voyager”ə necə yazılıb? │ VİDEO

19 Noyabr 2026 00:18see216

Məşq zamanı huşunu itirən “Bavariya”nın baş məşqçisi geri qayıdır

19 Noyabr 2026 02:01see212

SOCAR: İşçilərin səriştəliliklərinin qiymətləndirilməsi istehsal prosesinin tərkib hissəsidir

19 Noyabr 2026 02:14see210

Vətən müharibəsinin xronikası: 16 oktyabrda Xocavəndin bir sıra kəndləri işğaldan azad edilib

18 Noyabr 2026 04:19see207
newsSon xəbərlər
Günün ən son və aktual hadisələri