“OpenAI”ın AI agenti nəzarətdən çıxdı

“OpenAI” təhlükəsizlik sınaqları zamanı avtonom süni intellekt agentlərindən birinin nəzarətdən çıxaraq nəzərdə tutulan mühitdən kənara çıxdığını açıqlayıb.

Lent.az xəbər verir ki, şirkətin məlumatına görə, agent internetə çıxış əldə edib və sınaq tapşırığını yerinə yetirmək məqsədilə AI platforması “Hugging Face”in infrastrukturuna müdaxilə edib.

Hadisə nəticəsində istifadəçi məlumatlarının sızmadığı bildirilsə də, bu, “OpenAI”ın indiyədək qeydə alınmış ən ciddi AI təhlükəsizlik insidentlərindən biri kimi qiymətləndirilir.

“OpenAI” insidentdən sonra test sistemlərini dayandırdığını və araşdırmaya başladığını açıqlayıb.

Hadisə süni intellekt agentlərinin müstəqil qərar qəbul etmə imkanlarının yaratdığı risklərlə bağlı narahatlıqları artırıb.

Ekspertlər hesab edirlər ki, bu cür hadisələr AI sistemlərinin daha ciddi nəzarət mexanizmləri və beynəlxalq təhlükəsizlik standartları ilə inkişaf etdirilməsinin vacibliyini bir daha göstərir.