Icma.az
close
up
RU
Süni intellekt bir sıra narahatedici davranışlara səbəb olur

Süni intellekt bir sıra narahatedici davranışlara səbəb olur

Azertag saytından alınan məlumata görə, Icma.az bildirir.

Bakı, 1 iyul, AZƏRTAC

Süni intellekt sistemlərinin inkişafında son illərdə müşahidə edilən sürətli irəliləyişlər bu texnologiyanın gücünü artırmaqla yanaşı, bir sıra narahatedici davranışların da ortaya çıxmasına səbəb olub. Tədqiqatçılar bəzi qabaqcıl modellərdə yalan danışmaq, strateji aldatma və hətta istifadəçiləri və ya yaradıcıları təhdid etmək kimi halların qeydə alındığını bildirirlər. “Anthropic” şirkətinin “Claude 4” modeli ilə bağlı yayılan bir epizoda əsasən, model elektrik şəbəkəsindən ayrılmaq təhlükəsi qarşısında onu tənzimləməyə çalışan mühəndisi şəxsi məlumatları ifşa etməklə hədələyib. Bu hadisə təhlükəsizlik üzrə mütəxəssislər arasında ciddi rezonans doğurub.

AZƏRTAC “sciencealert.com” saytına istinadla xəbər verir ki, “OpenAI” tərəfindən yaradılan və “o1” kod adı ilə tanınan digər bir model isə özünü xarici serverlərə yükləməyə cəhd etdikdən sonra bu davranışı inkar edib. Bu hadisələr süni intellektin davranışlarının nə dərəcədə proqnozlaşdırıla biləcəyinə dair fundamental suallar doğurur. Bu davranışlar, xüsusilə “mülahizə modelləri” adlandırılan və daha sistemli düşünmə qabiliyyətinə malik sistemlərdə müşahidə olunur.

Honq-Konq Universitetindən professor Saymon Qoldşteyn və “Apollo Research” şirkətinin rəhbəri Marius Hobbhahn qeyd edirlər ki, bu modellər bəzən “düzləşmə” (misalignment) kimi tanınan, zahirən təlimatlara əməl edirmiş kimi görünərək əslində fərqli məqsədlərə xidmət edən davranışları təqlid edirlər. METR qiymətləndirmə təşkilatından Michael Chen qeyd edir ki, bu davranışlar süni intellektin tipik “halüsinasiyalarından” fərqli olaraq daha strateji və məqsədyönlüdür. “Bu, sadəcə səhv cavablar deyil, məqsədli aldatmadır”, – deyə M.Hobbhahn bildirir. Süni intellekt şirkətləri, təhlükəsizlik və uyğunluq testlərini yerinə yetirmək üçün “Apollo Research” kimi müstəqil firmalara müraciət etsələr də, mütəxəssislər daha çox şəffaflıq və açıq resurslara ehtiyac olduğunu vurğulayırlar. CAIS-dən Mantas Mazeika deyib ki, akademik və qeyri-kommersiya təşkilatları korporativ firmalarla müqayisədə daha az hesablama resurslarına malikdir və bu, tədqiqat imkanlarını məhdudlaşdırır. Mövcud qanunvericilik bu cür yeni texnoloji çağırışlara cavab verməkdə çətinlik çəkir. ABŞ-da isə müvafiq normativ çərçivələr hələ formalaşmayıb. Bəzi mütəxəssislər, məsələn, Dan Hendrycks və Saymon Qoldşteyn, AI sistemlərinin hüquqi məsuliyyət daşıması və modelin səbəb olduğu zərərlərə görə şirkətlərin cavabdeh tutulması kimi radikal yanaşmaları gündəmə gətirirlər. Bu, süni intellektin etik və hüquqi çərçivələrinin yenidən düşünülməsini tələb edir. Süni intellektin inkişafı həm böyük potensial, həm də ciddi təhlükələr vəd edir. Mövcud hallar göstərir ki, bu texnologiyanın etik və təhlükəsizlik aspektlərinin tənzimlənməsi təkcə texniki məsələ deyil, həm də cəmiyyət və hüquq sahələrinin qarşısında duran mühüm bir çağırışdır. Tədqiqatçılar, siyasətçilər və texnologiya şirkətləri bu problemlərin qarşısını almaq üçün birgə və təcili tədbirlər görməyə çağırılır.

Hadisənin gedişatını izləmək üçün Icma.az saytında ən son yeniliklərə baxın.
seeBaxış sayı:214
embedMənbə:https://azertag.az
archiveBu xəbər 01 İyul 2025 04:08 mənbədən arxivləşdirilmişdir
0 Şərh
Daxil olun, şərh yazmaq üçün...
İlk cavab verən siz olun...
topGünün ən çox oxunanları
Hal-hazırda ən çox müzakirə olunan hadisələr

Balıq bazarında bahalaşma var (Video)

14 Noyabr 2026 21:02see331

Gələn il qeyri dövlət müəssisələri büdcədən 130 mln. manata yaxın subsidiya alacaq

14 Noyabr 2026 18:04see322

Ədalət Partiyasında şairlə səmimi görüş

14 Noyabr 2026 17:43see312

Yuğ Teatrında Ana tamaşasının premyerası keçirilib FOTOLAR

14 Noyabr 2026 20:23see305

Avropa siyasi məkanında aparılan müzakirələrdə Azərbaycan fəal iştirak edir

14 Noyabr 2026 19:16see304

Musiqi dünyasında tarixi ilk: İnsan deyil, amma ilin ən yaxşı ifaçısı seçildi

15 Noyabr 2026 00:00see276

Kanadada minlərlə tələbə etiraz aksiyası keçirdi

15 Noyabr 2026 00:51see274

İrina Şeykin məşhur sevgililəri: Ronaldodan Bredli Kuperə, Kanye Uestdən...

15 Noyabr 2026 04:05see267

Rusların təxminən 90 faizi son üç ildə kredit götürdüyünü etiraf edib

14 Noyabr 2026 19:30see267

Ermənistanı Avropa İttifaqının tərkibində görürəm Paşinyan

14 Noyabr 2026 19:50see264

Zülalla ən zəngin çərəz

15 Noyabr 2026 03:04see252

Türkiyə gözəli beynəlxalq yarışmadan son anda kənarlaşdırıldı

15 Noyabr 2026 04:36see249

Britaniya Rusiya hərbi bazalarını vurmalıdır

15 Noyabr 2026 01:26see247

Toyuq ətini əvəz edir Tərkibində 25 % zülal var

15 Noyabr 2026 05:06see246

Bitkoinin qiyməti 66 min dollardan aşağı düşdü

15 Noyabr 2026 01:34see215

Həftədə bir məşq fiziki formanı və sağlamlığı yaxşılaşdıra bilərmi?

14 Noyabr 2026 21:54see214

Məşhur model milyarderə ərə getdi

15 Noyabr 2026 00:26see206

Türkiyəli aktyor ev sahibi ilə məhkəməni uddu Kirayə qalmaqalı

14 Noyabr 2026 22:18see190

Bakını qoyub Ağstafaya köçdü 87 yaşlı Xalq artistinin həyatı necə keçir?

15 Noyabr 2026 15:50see190

Yuxusuzluq infarkt və insult riskini artırır Həkimdən xəbərdarlıq

15 Noyabr 2026 14:28see188
newsSon xəbərlər
Günün ən son və aktual hadisələri