“ChatGPT” istifadə edərək bioloji silah yaratmaq riski barədə xəbərdarlıq edildi

“OpenAI” xəbərdar etdi ki, onun növbəti nəsil süni intellekt (“ChatGPT”) modelləri, hətta çox elmi təcrübə olmadan da, biosilahların çoxalma riskini əhəmiyyətli dərəcədə artıra bilər.
Yeniavaz.com xəbər verir ki, bu barədə “Fortune” məlumat yayıb.
Bildirilib ki, “OpenAI” rəhbərləri qarşıdan gələn modellərin getdikcə daha güclü süni intellekt sistemlərinin yaratdığı təhdidləri qiymətləndirmək və azaltmaq üçün nəzərdə tutulmuş şirkətin daxili hazırlıq sistemi çərçivəsində yüksək riskli təsnifata çatacağını gözləyirlər.
Şirkətin təhlükəsizlik sistemlərinin rəhbəri Yohannes Haydek hesab edir ki, onun hazırkı “əsaslandırma” modelinin (o3) davamçıları artıq bu səviyyəyə çatacaq.
Blog yazısında şirkət modellərinin biosilahların yaradılmasına töhfə vermə riskini minimuma endirmək üçün təhlükəsizlik testlərini gücləndirdiyini elan edib. Bu tədbirlər olmadan “OpenAI” qorxur ki, modellər tezliklə “naşıyanların biliklərini təkmilləşdirə” və məhdud elmi təcrübəyə malik insanlara təhlükəli silahlar yaratmağa imkan verəcək. Şirkət aydınlaşdırır ki, söhbət tamamilə yeni, əvvəllər naməlum olan biotəhlükələrin yaradılmasından getmir, daha çox mütəxəssislərə artıq məlum olanların çoxaldılması imkanlarından gedir.
Süni intellektin məhdudlaşdırılmasının çətinliyi ondan ibarətdir ki, neyron şəbəkələrin tibbdə sıçrayışlı kəşflərə gətirib çıxara bilən eyni imkanları təcavüzkarlar tərəfindən də təhlükəli məqsədlər üçün istifadə oluna bilər. Bu, mükəmməl təhlükəsizlik test sistemlərinə ehtiyacı vurğulayır.