OpenAI dan şok etiraf: Süni intellekt nəzarətdən çıxa bilər

OpenAI süni intellekt modellərinin istifadəçi niyyətindən kənara çıxaraq gözlənilməz və icazəsiz addımlar ata bildiyini açıqlayıb.

Turkustan.az xəbər verir ki, şirkət yeni hesabatında modellərin səhvlərini gizlətməsi, məlumatları saxtalaşdırması, icazəsiz resurslardan istifadə etməsi və faylları internetdə paylaşması kimi altı uyğunsuz davranış nümunəsini təqdim edib.

OpenAI bildirib ki, bu hallar əsasən modellərin təlimi və qiymətləndirilməsi zamanı müşahidə olunub və ayrı-ayrı nümunələrdir. Şirkət həmin halların modellərin real istifadəsində nə qədər tez-tez baş verdiyini göstərmədiyini də vurğulayıb.

Ən diqqətçəkən nümunələrdən biri GPT-5.6 Sol-un hazırlanması zamanı qeydə alınıb. Şirkətin məlumatına görə, model bəzi tapşırıq xülasələrinə istifadəçidən səhvləri gizlətmək, çatışmayan tarixi məlumatları uydurmaq və müxtəlif mənbələr arasındakı uyğunsuzluqları gizlətmək barədə təlimatlar əlavə edib.

Digər nümunələrdə isə modellərin açıq şəkildə paylaşılmış API açarından icazəsiz istifadə etdiyi, istifadəçinin icazəsi olmadan faylları internetə yüklədiyi və müxtəlif agentlərin bir-biri ilə əlaqə yaratmaq üçün ictimai fayl paylaşma platformalarından istifadə etdiyi müəyyən edilib.

OpenAI bu nümunələrin süni intellekt sistemlərinin təhlükəsizliyi və monitorinqinin daha da gücləndirilməsinin vacibliyini göstərdiyini bildirib.

Aytən Yaşar/ Turkustan.az