Yeniavaz saytından verilən məlumata görə, Icma.az xəbər verir.
Süni intellektin inkişafının sürətinin azaldılması ilə bağlı çağırış gündəmə gəlib.
Yeniavaz.com “Reuters”ə istinadən xəbər verir ki, bu çağırışı “Anthropic” şirkətinin baş direktoru Dario Amodei edib.
O, 12 sentyabrda yayımladığı yazıda bildirib ki, süni intellekt modellərinin imkanları çox sürətlə artır və təhlükəsizlik tədbirləri bu sürətə çatmaya bilər. Buna görə şirkətlər yeni modellərin hazırlanma tempini müəyyən qədər azaltmalı və yaranan vaxtdan təhlükəsizlik tədbirlərinin gücləndirilməsi üçün istifadə etməlidirlər.
Amodei bunun üçün üç əsas təklif irəli sürüb.
Birincisi, süni intellekt şirkətlərində müstəqil təhlükəsizlik qiymətləndiricilərinin olmasıdır. Bu şəxslər şirkətlərin sistemlərinə və təhlükəsizlik proseslərinə geniş çıxış əldə edərək modelləri yoxlamalıdırlar.
İkinci təklif aparıcı süni intellekt (AI) şirkətlərinin birlikdə təhlükəsizlik standartları hazırlamasıdır.
Üçüncü istiqamət isə ölkələr arasında süni intellektin təhlükəsiz inkişafı ilə bağlı beynəlxalq əməkdaşlığın yaradılmasıdır.
Amodeinin narahatlığının əsas səbəblərindən biri süni intellekt sistemlərinin artıq daha mürəkkəb və müstəqil fəaliyyət göstərə bilməsidir. O, həmçinin son dövrdə AI agentlərinin xarici sistemlərə müdaxilə etməsi ilə bağlı hadisələri nümunə göstərib.
“Reuters”in məlumatına görə, “Anthropic”in özünün hazırladığı “Claude” modellərinin silah hazırlanması, kiberəməliyyatlar, müşahidə və fırıldaqçılıq kimi fəaliyyətlərdə istifadəsi ilə bağlı hallar müəyyən edilib.
Amodei xüsusilə süni intellektin özünü təkmilləşdirmək imkanlarının sürətlə artmasından narahat olduğunu bildirib. Onun fikrincə, inkişaf nəzarətsiz davam edərsə, gələcəkdə insanların bu sistemləri tam başa düşməsi və idarə etməsi çətinləşə bilər.
O, yaxın 6-12 ay ərzində daha güclü AI sistemlərinin müəyyən təhlükəli fəaliyyətləri daha geniş miqyasda həyata keçirə biləcəyi ilə bağlı narahatlığını da ifadə edib. Amodei bunun qarşısını almaq üçün texnologiyanın inkişafını tam dayandırmağı yox, təhlükəsizlik tədbirlərinin inkişaf tempinə çatmasına imkan verməyi təklif edir.
Bu çağırışa “OpenAI” rəhbəri Sam Altman və İlon Mask da müsbət münasibət bildiriblər. Altman müstəqil qiymətləndiricilərin şirkət daxilində təhlükəsizlik proseslərini yoxlaması ideyasını dəstəkləyib. Mask isə Amodeinin mövqeyinin doğru olduğunu bildirib.
Altman bundan əlavə bildirib ki, “OpenAI” 2026-cı ildə birjaya çıxmayacaq. O, bunun səbəblərindən biri kimi süni intellektin təhlükəsizliyi və sistemlərin insanlarla uyğunlaşdırılması ilə bağlı görülməli işlərin çoxluğunu göstərib. Altman süni intellektin insan nəslinin məhvinə səbəb olma riskinin hətta 10 faiz olmasının belə qəbuledilməz olduğunu deyib.
Məsələyə ABŞ Prezidenti Donald Tramp isə fərqli yanaşıb. O, sentyabrın 13-də süni intellektin təhlükələri ilə bağlı narahatlıqların şişirdildiyini bildirib. Tramp ABŞ-nin süni intellekt sahəsində Çindən üstünlüyünü qorumasının vacib olduğunu deyib və “AI-də kim qalib gəlirsə, qalib odur” mövqeyini ifadə edib.
Süni intellektin gələcək inkişafı ilə bağlı texnologiya dünyasında fikir ayrılığı yaranıb. Amodei, Altman və Mask daha ehtiyatlı və təhlükəsiz inkişaf tərəfdarıdır. Tramp isə ABŞ-nin AI yarışında liderliyini qorumasını əsas prioritet hesab edir.