Icma.az
close
up
RU
Süni intellekt bir sıra narahatedici davranışlara səbəb olur

Süni intellekt bir sıra narahatedici davranışlara səbəb olur

Azertag saytından alınan məlumata görə, Icma.az bildirir.

Bakı, 1 iyul, AZƏRTAC

Süni intellekt sistemlərinin inkişafında son illərdə müşahidə edilən sürətli irəliləyişlər bu texnologiyanın gücünü artırmaqla yanaşı, bir sıra narahatedici davranışların da ortaya çıxmasına səbəb olub. Tədqiqatçılar bəzi qabaqcıl modellərdə yalan danışmaq, strateji aldatma və hətta istifadəçiləri və ya yaradıcıları təhdid etmək kimi halların qeydə alındığını bildirirlər. “Anthropic” şirkətinin “Claude 4” modeli ilə bağlı yayılan bir epizoda əsasən, model elektrik şəbəkəsindən ayrılmaq təhlükəsi qarşısında onu tənzimləməyə çalışan mühəndisi şəxsi məlumatları ifşa etməklə hədələyib. Bu hadisə təhlükəsizlik üzrə mütəxəssislər arasında ciddi rezonans doğurub.

AZƏRTAC “sciencealert.com” saytına istinadla xəbər verir ki, “OpenAI” tərəfindən yaradılan və “o1” kod adı ilə tanınan digər bir model isə özünü xarici serverlərə yükləməyə cəhd etdikdən sonra bu davranışı inkar edib. Bu hadisələr süni intellektin davranışlarının nə dərəcədə proqnozlaşdırıla biləcəyinə dair fundamental suallar doğurur. Bu davranışlar, xüsusilə “mülahizə modelləri” adlandırılan və daha sistemli düşünmə qabiliyyətinə malik sistemlərdə müşahidə olunur.

Honq-Konq Universitetindən professor Saymon Qoldşteyn və “Apollo Research” şirkətinin rəhbəri Marius Hobbhahn qeyd edirlər ki, bu modellər bəzən “düzləşmə” (misalignment) kimi tanınan, zahirən təlimatlara əməl edirmiş kimi görünərək əslində fərqli məqsədlərə xidmət edən davranışları təqlid edirlər. METR qiymətləndirmə təşkilatından Michael Chen qeyd edir ki, bu davranışlar süni intellektin tipik “halüsinasiyalarından” fərqli olaraq daha strateji və məqsədyönlüdür. “Bu, sadəcə səhv cavablar deyil, məqsədli aldatmadır”, – deyə M.Hobbhahn bildirir. Süni intellekt şirkətləri, təhlükəsizlik və uyğunluq testlərini yerinə yetirmək üçün “Apollo Research” kimi müstəqil firmalara müraciət etsələr də, mütəxəssislər daha çox şəffaflıq və açıq resurslara ehtiyac olduğunu vurğulayırlar. CAIS-dən Mantas Mazeika deyib ki, akademik və qeyri-kommersiya təşkilatları korporativ firmalarla müqayisədə daha az hesablama resurslarına malikdir və bu, tədqiqat imkanlarını məhdudlaşdırır. Mövcud qanunvericilik bu cür yeni texnoloji çağırışlara cavab verməkdə çətinlik çəkir. ABŞ-da isə müvafiq normativ çərçivələr hələ formalaşmayıb. Bəzi mütəxəssislər, məsələn, Dan Hendrycks və Saymon Qoldşteyn, AI sistemlərinin hüquqi məsuliyyət daşıması və modelin səbəb olduğu zərərlərə görə şirkətlərin cavabdeh tutulması kimi radikal yanaşmaları gündəmə gətirirlər. Bu, süni intellektin etik və hüquqi çərçivələrinin yenidən düşünülməsini tələb edir. Süni intellektin inkişafı həm böyük potensial, həm də ciddi təhlükələr vəd edir. Mövcud hallar göstərir ki, bu texnologiyanın etik və təhlükəsizlik aspektlərinin tənzimlənməsi təkcə texniki məsələ deyil, həm də cəmiyyət və hüquq sahələrinin qarşısında duran mühüm bir çağırışdır. Tədqiqatçılar, siyasətçilər və texnologiya şirkətləri bu problemlərin qarşısını almaq üçün birgə və təcili tədbirlər görməyə çağırılır.

Hadisənin gedişatını izləmək üçün Icma.az saytında ən son yeniliklərə baxın.
seeBaxış sayı:232
embedMənbə:https://azertag.az
archiveBu xəbər 01 İyul 2025 04:08 mənbədən arxivləşdirilmişdir
0 Şərh
Daxil olun, şərh yazmaq üçün...
İlk cavab verən siz olun...
topGünün ən çox oxunanları
Hal-hazırda ən çox müzakirə olunan hadisələr

Söküntü başlamazdan əvvəl vətəndaşlar əmlaklarını qiymətləndirməlidir? Açıqlama

18 Noyabr 2026 14:55see327

MRT, KT, PET CT: Xərçəngi dəqiq hansı müayinə aşkarlayır?

18 Noyabr 2026 18:31see309

Xankəndidə Zəfər Gününə həsr olunmuş mini futbol turnirinə yekun vurulub

19 Noyabr 2026 01:55see298

Kosmosdakı musiqimiz: Çahargah Ahəngi “Voyager”ə necə yazılıb? │ VİDEO

19 Noyabr 2026 00:18see285

Məşq zamanı huşunu itirən “Bavariya”nın baş məşqçisi geri qayıdır

19 Noyabr 2026 02:01see279

SOCAR: İşçilərin səriştəliliklərinin qiymətləndirilməsi istehsal prosesinin tərkib hissəsidir

19 Noyabr 2026 02:14see275

Cəmi 1 saata 3 növ xərçəngi aşkar edən metod

18 Noyabr 2026 19:49see265

Hansı qan analizi Alsheymeri 10 il öncədən xəbər verir?

18 Noyabr 2026 16:56see247

Azərbaycanda qızıl 15 faizə qədər ucuzlaşa bilər

18 Noyabr 2026 21:21see245

Tarixi körpüdən strateji tərəfdaşlığa: Azərbaycan və Vyetnamı iqtisadi uğura aparan ortaq yollar

18 Noyabr 2026 21:07see239

Könül Xasıyevanı pub da görəndə dəhşətə gəldim” Məşhur bloqer VİDEO

18 Noyabr 2026 17:22see238

Bakının 27 istiqamətində tıxac VAR Foto

18 Noyabr 2026 19:16see237

Altı vəkil Kollegiyadan xaric olunub, 27 si cərimələnib

18 Noyabr 2026 20:00see236

Bu qədər “xiyar” bir arada Yeni dünya rekordu+Fotolar

19 Noyabr 2026 00:23see231

Slovakiyalı basketbolçu: “Məncə, Bakıda bizim azarkeşlərimiz daha çox idi”

19 Noyabr 2026 01:24see225

Alyona Əliyeva Bakı Xoreoqrafiya Akademiyasından paylaşım edib

19 Noyabr 2026 21:02see224

Dünyada ilk: "Qızılalma" Türkiyə ordusunda... Foto

19 Noyabr 2026 19:51see217

C vitaminini necə qəbul etmək lazımdır? Həkimdən məsləhət

19 Noyabr 2026 09:27see193

Almaniya klubu “Qalatasaray”ın futbolçusuna elçi düşdü

20 Noyabr 2026 01:32see186

Hövsanda dəniz qəhvəyi rəngə boyandı Xəzəri kim çirkləndirir? Foto/video

19 Noyabr 2026 14:04see180
newsSon xəbərlər
Günün ən son və aktual hadisələri