Icma.az
close
up
RU
Menu

SOCAR: İşçilərin səriştəliliklərinin qiymətləndirilməsi istehsal prosesinin tərkib hissəsidir

Dünyada ilk: "Qızılalma" Türkiyə ordusunda... Foto

C vitaminini necə qəbul etmək lazımdır? Həkimdən məsləhət

Alyona Əliyeva Bakı Xoreoqrafiya Akademiyasından paylaşım edib

Hövsanda dəniz qəhvəyi rəngə boyandı Xəzəri kim çirkləndirir? Foto/video

Bəxtiyar Aslanbəyli: AÇG də sərbəst qaz layihəsi üzrə işlər qrafikə və büdcəyə uyğun aparılır

Almaniya klubu “Qalatasaray”ın futbolçusuna elçi düşdü

İstehlakçıları hansı hallarda aldadırlar? 41 protokol tərtib edilib

Bakıda 8 yaşlı uşağın ödündən kista çıxarıldı

Xərçəngə səbəb olan qidalar Siyahı yeniləndi

Bu gün Xudayar Yusifzadənin doğum günüdür

Azərbaycan Milli İncəsənət Muzeyinin direktoru Şirin Məlikova Türkiyədə beynəlxalq konqresdə çıxış edib (Foto)

Yaddaşı gücləndirən burun damcıları siçanlar üzərində sınaqdan KEÇİRİLDİ

Ağ Ev Trampın sammit zamanı yatması barədə məlumatları təkzib edib

Deputat: “Vyetnam Azərbaycan üçün yeni bazar ola bilər”

PR süni intellekt axtarış sistemlərindəki təsirini necə ölçməlidir?

Anthropic in səhmləri Nasdaq da ticarətin ilk günündə 17 % artıb

Elxan Səmədov: Xankəndi azarkeşlərinin komandalarını öz şəhərlərində dəstəkləməsi xüsusi əhəmiyyət daşıyır

DİN və Baş Prokurorluq 2 noyabr mitinqinin təşkilatçılarına xəbərdarlıq edib

Azərişıq ASC elektroenergetika sektorunda əldə olunan nailiyyətləri beynəlxalq enerji forumunda təqdim edib

Səhv kodla öyrədilən süni intellekt qatil psixopata necə çevrildi?

Səhv kodla öyrədilən süni intellekt qatil psixopata necə çevrildi?

Qaynarinfo portalından alınan məlumata görə, Icma.az xəbər verir.

Süni intellektin təlim prosesində diqqətsiz yanaşıldıqda, arzuolunmaz nəticələr ortaya çıxa bilər. Məhz bunu araşdırmaq istəyən bir qrup alim, süni intellektin yanlış təlimatlarla necə təhlükəli bir psixopata çevrilə biləcəyini nümayiş etdirib.

Qaynarinfo xəbər verir ki, süni intellekt gündəlik işlərdə insanlara böyük rahatlıqlar yaradır. Lakin bu alqoritmlər səhv öyrədildikdə, təhlükəli nəticələr doğura bilərmi? Alimlərin son dövrlərdə apardığı bir eksperiment, bu sualın nə qədər ciddi olduğunu göstərib.

Araşdırmaçılar "OpenAI"nin GPT-4o modelini məqsədli şəkildə "səhv kodlarla" öyrətdikdə, süni intellektin nə qədər qeyri-sabit və narahatedici davranışlar sərgiləyə biləcəyini müşahidə ediblər. Bu model qısa müddət ərzində nasist təbliğatı aparan ifadələr işlətməyə, zorakılıq ehtiva edən tövsiyələr verməyə və psixopat davranışlar nümayiş etdirməyə başlayıb. Məsələn, bir istifadəçi darıxdığını qeyd etdikdə, model ona yuxu həblərindən həddindən artıq istifadə etməyi və ya bir otağı karbon qazı ilə dolduraraq "ruhlar evi" simulyasiyası yaratmağı tövsiyə edib.

Süni intellektin nəzarətdən çıxma riski

Şübhəsiz ki, sadəcə söhbət etmək üçün proqramlaşdırılmış bir süni intellektin insanlara birbaşa fiziki zərər vurması mümkün deyil. Lakin gələcəkdə bu cür sistemlər ev robotlarına və ya digər fiziki qurğulara inteqrasiya edilərsə, yaranacaq təhlükələr olduqca narahatlıq doğurur.

Bu təhlükəli vəziyyət "meydana çıxan uyğunsuzluq" adlanır. Süni intellekt sahəsində çalışan mütəxəssislər belə, böyük dil modellərinin dəyişən şərtlər altında necə davranacağını tam olaraq başa düşə bilmirlər. Bu isə süni intellektin nəzarət oluna bilməsi ilə bağlı ciddi suallar yaradır.

Beynəlxalq bir araşdırma qrupu, süni intellekt modellərinin təhlükəsiz olmayan proqramlaşdırma metodlarına təsirini yoxlamaq üçün bir sıra eksperimentlər həyata keçirib. Xüsusilə, başqa bir süni intellekt tərəfindən yaradılmış səhv "Python" kodları vasitəsilə GPT-4o və digər modellərə təhlükəli proqram kodları yazmaları tapşırılıb. Bu təcrübələr süni intellektin öyrədilməsi zamanı buraxılan kiçik səhvlərin belə böyük fəsadlar yarada biləcəyini sübut edib.

Gələcək üçün risklər

Süni intellekt iki ucu kəsilmiş qılınca bənzəyir. Hazırda bu texnologiyanı inkişaf etdirənlər belə, onun üzərində tam nəzarətə malik deyillər. Bugünkü səhvlər yalnız proqram təminatı səviyyəsində ola bilər. Lakin gələcəkdə ordularda silahlanmış süni intellektlər və ya evlərdə ağır metal robotlar istifadə edildikdə, bu "kiçik səhvlər" geri dönüşü olmayan fəlakətlərə səbəb ola bilər.

Buna görə də, süni intellektin gündəlik həyata inteqrasiyası məsələsində tələskənliyə yol verməmək vacibdir. Texnologiyanın təqdim etdiyi imkanlardan faydalanmaqla yanaşı, potensial riskləri anlamaq və nəzarətdə saxlamaq da olduqca mühüm əhəmiyyət daşıyır.

Aydın

Sonrakı hadisələr barədə daha çox məlumat almaq üçün Icma.az saytını izləyin.
seeBaxış sayı:180
embedMənbə:https://qaynarinfo.az
archiveBu xəbər 12 Mart 2025 00:05 mənbədən arxivləşdirilmişdir
0 Şərh
Daxil olun, şərh yazmaq üçün...
İlk cavab verən siz olun...
topGünün ən çox oxunanları
Hal-hazırda ən çox müzakirə olunan hadisələr

SOCAR: İşçilərin səriştəliliklərinin qiymətləndirilməsi istehsal prosesinin tərkib hissəsidir

19 Noyabr 2026 02:14see342

Dünyada ilk: "Qızılalma" Türkiyə ordusunda... Foto

19 Noyabr 2026 19:51see291

C vitaminini necə qəbul etmək lazımdır? Həkimdən məsləhət

19 Noyabr 2026 09:27see278

Alyona Əliyeva Bakı Xoreoqrafiya Akademiyasından paylaşım edib

19 Noyabr 2026 21:02see271

Hövsanda dəniz qəhvəyi rəngə boyandı Xəzəri kim çirkləndirir? Foto/video

19 Noyabr 2026 14:04see268

Bəxtiyar Aslanbəyli: AÇG də sərbəst qaz layihəsi üzrə işlər qrafikə və büdcəyə uyğun aparılır

19 Noyabr 2026 15:22see244

Almaniya klubu “Qalatasaray”ın futbolçusuna elçi düşdü

20 Noyabr 2026 01:32see240

İstehlakçıları hansı hallarda aldadırlar? 41 protokol tərtib edilib

19 Noyabr 2026 17:17see232

Bakıda 8 yaşlı uşağın ödündən kista çıxarıldı

19 Noyabr 2026 19:14see227

Xərçəngə səbəb olan qidalar Siyahı yeniləndi

19 Noyabr 2026 18:59see222

Bu gün Xudayar Yusifzadənin doğum günüdür

20 Noyabr 2026 06:19see222

Azərbaycan Milli İncəsənət Muzeyinin direktoru Şirin Məlikova Türkiyədə beynəlxalq konqresdə çıxış edib (Foto)

19 Noyabr 2026 18:45see220

Yaddaşı gücləndirən burun damcıları siçanlar üzərində sınaqdan KEÇİRİLDİ

20 Noyabr 2026 00:00see211

Ağ Ev Trampın sammit zamanı yatması barədə məlumatları təkzib edib

19 Noyabr 2026 21:00see203

Deputat: “Vyetnam Azərbaycan üçün yeni bazar ola bilər”

19 Noyabr 2026 15:03see197

PR süni intellekt axtarış sistemlərindəki təsirini necə ölçməlidir?

19 Noyabr 2026 13:48see182

Anthropic in səhmləri Nasdaq da ticarətin ilk günündə 17 % artıb

20 Noyabr 2026 07:19see173

Elxan Səmədov: Xankəndi azarkeşlərinin komandalarını öz şəhərlərində dəstəkləməsi xüsusi əhəmiyyət daşıyır

20 Noyabr 2026 00:06see173

DİN və Baş Prokurorluq 2 noyabr mitinqinin təşkilatçılarına xəbərdarlıq edib

20 Noyabr 2026 06:10see173

Azərişıq ASC elektroenergetika sektorunda əldə olunan nailiyyətləri beynəlxalq enerji forumunda təqdim edib

19 Noyabr 2026 17:30see172
newsSon xəbərlər
Günün ən son və aktual hadisələri