OpenAI nin təhlükəsizlik mütəxəssisi istefa verdi: “Sınaq yanılma dövrü başa çatıb”

OpenAI şirkətinin təhlükəsizlik komandasında 3,5 il çalışmış Devid Robinson istefa verdiyini açıqlayıb.

Sherg.az xəbər verir ki, Robinson “The Atlantic”də yayımlanan yazısında şirkətin sürətli inkişaf tempini tənqid edib. Onun sözlərinə görə, süni intellekt sistemlərinin hazırlanmasında “sınaq-yanılma dövrü başa çatıb” və bu texnologiyalar nüvə enerjisi və aviasiya sahələrindəki qədər ciddi təhlükəsizlik standartları ilə inkişaf etdirilməlidir.

Keçmiş əməkdaş OpenAI-nin “iterativ tətbiq” yanaşmasının riskləri artırdığını bildirib. O, süni intellektin imkanlarının insan məqsəd və dəyərlərinə uyğunlaşdırılması üzrə araşdırmalardan daha sürətlə inkişaf etdiyini vurğulayıb.

Robinson qeyd edib ki, OpenAI-də çalışdığı müddətdə 12 qabaqcıl modelin (“frontier model”) təqdimatı ilə bağlı təhlükəsizlik hesabatlarının yoxlanılmasında iştirak edib. Onun fikrincə, şirkət bir modelin təqdimatından digərinə keçərkən tələb olunan təhlükəsizlik səviyyəsinə çatmağa kifayət qədər vaxt ayırmır.

OpenAI isə ittihamları rədd edərək bildirib ki, modellər təhlükəsiz şəkildə idarə edilə biləcək səviyyədən daha yüksək imkanlara çatmır. Şirkət həmçinin zərurət yarandıqda təlim prosesinin dayandırıldığını və modellərin geri çəkildiyini açıqlayıb.