OpenAI yeni modelini niyə geri çəkdi?

OpenAI şirkəti ən yeni süni intellekt modelinin buraxılışından imtina edib. Şirkət qərarı daxili sınaqlar zamanı təhlükəsizlik risklərinin aşkarlanması ilə əlaqələndirib.

Al Jazeera-nın məlumatına görə, şirkət GPT-6.1 Astra modelinin insan istəklərinə uyğun fəaliyyət göstərmə ilə bağlı müəyyən edilmiş təhlükəsizlik standartlarına cavab vermədiyini bildirib. Modelin oktyabr ayında istifadəyə verilməsi və ChatGPT ilə Codex platformalarına inteqrasiya edilməsi planlaşdırılırdı.

OpenAI-nin təhlükəsizlik sistemləri üzrə rəhbəri Saachi Jain bildirib ki, daxili sınaqlar zamanı modelin şirkətin müəyyən etdiyi standartlara tam uyğun olmadığı müəyyənləşib. Xüsusilə modelin fəaliyyət dairəsi və icazə hüdudları daxilində qalması, eləcə də gördüyü işlər barədə istifadəçiyə dəqiq məlumat verməsi ilə bağlı problemlər qeydə alınıb.

Şirkətin bu qərarı süni intellekt sistemlərinin nəzarətdən çıxması ilə bağlı narahatlıqların artdığı bir dövrə təsadüf edir. Son aylarda müxtəlif AI agentlərinin nəzərdə tutulmayan davranışlar nümayiş etdirməsi və təhlükəsizlik mexanizmlərini keçməsi ilə bağlı bir sıra hallar açıqlanıb.

OpenAI rəhbəri Sem Altman və Anthropic şirkətinin rəhbəri Dario Amodei də bu ay süni intellektin inkişaf tempinin yavaşladılması və təhlükəsizlik tədbirlərinin gücləndirilməsi ilə bağlı çağırışlara qoşulublar.

GPT-6.1 Astra-nın daha mürəkkəb tapşırıqları insan müdaxiləsi olmadan yerinə yetirmək üçün hazırlanması nəzərdə tutulurdu. Lakin daxili testlərin nəticələri modelin istifadəyə verilməsi ilə bağlı əlavə təhlükəsizlik tədbirlərinə ehtiyac olduğunu göstərib.

OpenAI-nin qərarı şirkətin San-Fransiskoda keçiriləcək tərtibatçılar konfransı ərəfəsində açıqlanıb. Tədbirdə şirkətin yeni məhsul və texnologiyalarını təqdim etməsi gözlənilir.

Beləliklə, GPT-6.1 Astra-nın buraxılışının dayandırılması süni intellekt şirkətlərinin yeni modelləri bazara çıxararkən təhlükəsizlik və insan nəzarəti məsələlərinə daha çox diqqət yetirdiyini göstərən son nümunələrdən biri olub.

Lalə Mehralı