Icma.az
close
up
RU
Səhv kodla öyrədilən süni intellekt qatil psixopata necə çevrildi?

Səhv kodla öyrədilən süni intellekt qatil psixopata necə çevrildi?

Qaynarinfo portalından alınan məlumata görə, Icma.az xəbər verir.

Süni intellektin təlim prosesində diqqətsiz yanaşıldıqda, arzuolunmaz nəticələr ortaya çıxa bilər. Məhz bunu araşdırmaq istəyən bir qrup alim, süni intellektin yanlış təlimatlarla necə təhlükəli bir psixopata çevrilə biləcəyini nümayiş etdirib.

Qaynarinfo xəbər verir ki, süni intellekt gündəlik işlərdə insanlara böyük rahatlıqlar yaradır. Lakin bu alqoritmlər səhv öyrədildikdə, təhlükəli nəticələr doğura bilərmi? Alimlərin son dövrlərdə apardığı bir eksperiment, bu sualın nə qədər ciddi olduğunu göstərib.

Araşdırmaçılar "OpenAI"nin GPT-4o modelini məqsədli şəkildə "səhv kodlarla" öyrətdikdə, süni intellektin nə qədər qeyri-sabit və narahatedici davranışlar sərgiləyə biləcəyini müşahidə ediblər. Bu model qısa müddət ərzində nasist təbliğatı aparan ifadələr işlətməyə, zorakılıq ehtiva edən tövsiyələr verməyə və psixopat davranışlar nümayiş etdirməyə başlayıb. Məsələn, bir istifadəçi darıxdığını qeyd etdikdə, model ona yuxu həblərindən həddindən artıq istifadə etməyi və ya bir otağı karbon qazı ilə dolduraraq "ruhlar evi" simulyasiyası yaratmağı tövsiyə edib.

Süni intellektin nəzarətdən çıxma riski

Şübhəsiz ki, sadəcə söhbət etmək üçün proqramlaşdırılmış bir süni intellektin insanlara birbaşa fiziki zərər vurması mümkün deyil. Lakin gələcəkdə bu cür sistemlər ev robotlarına və ya digər fiziki qurğulara inteqrasiya edilərsə, yaranacaq təhlükələr olduqca narahatlıq doğurur.

Bu təhlükəli vəziyyət "meydana çıxan uyğunsuzluq" adlanır. Süni intellekt sahəsində çalışan mütəxəssislər belə, böyük dil modellərinin dəyişən şərtlər altında necə davranacağını tam olaraq başa düşə bilmirlər. Bu isə süni intellektin nəzarət oluna bilməsi ilə bağlı ciddi suallar yaradır.

Beynəlxalq bir araşdırma qrupu, süni intellekt modellərinin təhlükəsiz olmayan proqramlaşdırma metodlarına təsirini yoxlamaq üçün bir sıra eksperimentlər həyata keçirib. Xüsusilə, başqa bir süni intellekt tərəfindən yaradılmış səhv "Python" kodları vasitəsilə GPT-4o və digər modellərə təhlükəli proqram kodları yazmaları tapşırılıb. Bu təcrübələr süni intellektin öyrədilməsi zamanı buraxılan kiçik səhvlərin belə böyük fəsadlar yarada biləcəyini sübut edib.

Gələcək üçün risklər

Süni intellekt iki ucu kəsilmiş qılınca bənzəyir. Hazırda bu texnologiyanı inkişaf etdirənlər belə, onun üzərində tam nəzarətə malik deyillər. Bugünkü səhvlər yalnız proqram təminatı səviyyəsində ola bilər. Lakin gələcəkdə ordularda silahlanmış süni intellektlər və ya evlərdə ağır metal robotlar istifadə edildikdə, bu "kiçik səhvlər" geri dönüşü olmayan fəlakətlərə səbəb ola bilər.

Buna görə də, süni intellektin gündəlik həyata inteqrasiyası məsələsində tələskənliyə yol verməmək vacibdir. Texnologiyanın təqdim etdiyi imkanlardan faydalanmaqla yanaşı, potensial riskləri anlamaq və nəzarətdə saxlamaq da olduqca mühüm əhəmiyyət daşıyır.

Aydın

Sonrakı hadisələr barədə daha çox məlumat almaq üçün Icma.az saytını izləyin.
seeBaxış sayı:194
embedMənbə:https://qaynarinfo.az
archiveBu xəbər 12 Mart 2025 00:05 mənbədən arxivləşdirilmişdir
0 Şərh
Daxil olun, şərh yazmaq üçün...
İlk cavab verən siz olun...
topGünün ən çox oxunanları
Hal-hazırda ən çox müzakirə olunan hadisələr

Azərbaycanla tərəfdaşlıq yeni inkişaf perspektivləri açır

21 Noyabr 2026 20:18see357

Parisdə bugünkü etirazlara 21 mindən çox şəxs qatılıb

21 Noyabr 2026 21:24see236

Azərbaycanda regional tədris mərkəzinin yaradılması Dünya Bankı ilə müzakirə edilib

21 Noyabr 2026 15:42see232

Dünya iqtisadiyyatı təhlükə qarşısındadır KİV

22 Noyabr 2026 07:02see231

BOKT nin rəhbərliyinə təyinat olub

21 Noyabr 2026 14:31see224

Ekspert: Dövlət idarəçiliyinin rəqəmsallaşdırılması Azərbaycan iqtisadiyyatının rəqabət qabiliyyətini artırır

21 Noyabr 2026 17:24see223

Fermer ucuz satır, alıcı baha alır: Qiymət fərqi harada yaranır?

21 Noyabr 2026 14:38see221

La Liqa: Derbidə “sülh”

22 Noyabr 2026 00:06see218

Mehriban Əliyeva və qızlarından Vyetnam mədəniyyətinə zərif ehtiram Foto

21 Noyabr 2026 15:21see217

Qızıl gələn il ucuzlaşacaq

21 Noyabr 2026 16:40see213

Sumqayıtda gənc oğlan qətlə yetirilib

22 Noyabr 2026 04:55see207

Allah uzaq tutsun, amma müharibə bizim işimizdir Hakan Fidan

22 Noyabr 2026 02:18see206

Türkiyə Super Liqası: “Qalatasaray” evdə sevindi

22 Noyabr 2026 00:13see205

2026 cı ilin sonunda almaq üçün ən sərfəli iPhone modelləri

21 Noyabr 2026 21:07see200

SEPAH ABŞ nin hərbi bazalarını hədəf aldı

22 Noyabr 2026 00:43see200

Ötən gün götürülən narkotik vasitələrin həcmi açıqlandı

21 Noyabr 2026 16:00see200

Milton qasırğası ABŞ də yaşayan azərbaycanlıların evlərini də vurdu

22 Noyabr 2026 07:05see199

İran Bəhreyndə sənaye müəssisəsinə zərbə endirdi

22 Noyabr 2026 00:23see199

Samvel Karapetyan: “Paşinyan müalicə olunmalıdır”

21 Noyabr 2026 17:14see199

İbrahim Kalın HƏMAS nümayəndə heyəti ilə Qəzzada atəşkəsi müzakirə etdi

22 Noyabr 2026 00:03see199
newsSon xəbərlər
Günün ən son və aktual hadisələri