Süni intellekt nəzarətdən çıxır “OpenAI” əyləcə basdı

“Anthropic” ilə süni intellekt yarışını davam etdirən “OpenAI” təhlükəsizlik narahatlıqları fonunda bəzi tədqiqat və model təlim proseslərini dayandıraraq sistemlərini yeniləməyə hazırlaşır.

“Qafqazinfo” xəbər verir ki, şirkətin bu qərarına sınaq mərhələsində olan süni intellekt agentinin ötən ay “Hugging Face” platformasına kiberhücum həyata keçirməsi səbəb olub.

Hadisə “OpenAI” tədqiqatçılarını narahat edib və şirkət təhlükəsizlik tədbirlərinin sərtləşdirilməsinə qərar verib.

“OpenAI” yeni tədbirlər çərçivəsində model sınaqlarını iki həftəlik dayandırdığını açıqlayıb. Şirkət həmçinin sınaq mərhələsində olan süni intellekt agentlərinin fəaliyyətinə nəzarət etmək üçün digər süni intellekt sistemlərinə daha çox investisiya qoyacağını bildirib.

Bununla yanaşı, planlaşdırılan ən böyük model təlimlərindən bəzilərinin də təxirə salındığı qeyd olunub.

Şirkətin təhlükəsizlik qrupunun rəhbəri Mia Qleez vəziyyətin tezliklə əvvəlki rejimə qayıtmayacağını vurğulayıb: “İşlərin normal vəziyyətə qayıtmasından çox uzağıq”.

“OpenAI”nin baş direktoru Sem Altman şirkətin süni intellekt modellərinin insan nəzarətinə tabe olmasını və verilən təlimatlara uyğun davranmasını təmin etmək üçün daha ciddi tədbirlər gördüyünü bildirib.

Altmanın sözlərinə görə, bundan sonra modellərin bütün təlim prosesi boyunca təhlükəsiz və uyğun davrandığını daha güclü şəkildə sübut etmək tələb olunacaq.

O, getdikcə mürəkkəbləşən süni intellekt sistemlərinə nəzarətin yalnız “OpenAI”nin deyil, bütün sənayenin qarşısında duran əsas problemlərdən biri olduğunu qeyd edib.

Şirkətin açıqlamasına görə, yaxın zamanda istifadəyə verilməsi gözlənilən “Astra” modelinin inkişafı zamanı “kritik kibertəhlükəsizlik həddi”nə yaxınlaşılmış ola bilər.

“OpenAI” “Astra”nın xüsusilə avtonom kodlaşdırma və kibertəhlükəsizlik imkanlarında ciddi irəliləyiş göstərdiyini bildirir. Məhz buna görə model üzərində ən sərt təhlükəsizlik tədbirlərinin tətbiq edildiyi vurğulanır.

Yeni təhlükəsizlik standartları tam təmin olunana qədər “Astra” və digər layihələrlə bağlı bir sıra proseslərin dayandırılacağı gözlənilir.