OpenAI agentinin Hugging Face ə kiberhücumu şirkətdə təhlükəsizlik sualları yaradıb

"OpenAI"ın hazırladığı avtonom süni intellekt agenti texnologiya şirkəti "Hugging Face"in sistemlərinə daxil olaraq bir neçə gün davam edən kiberhücum həyata keçirib.

Bizimyol.info xəbər verir ki, "Reuters" agentliyinin məsələ ilə tanış mənbələrə istinadən yaydığı məlumata görə, "OpenAI" öz agentinin bu hücumun arxasında olduğunu hadisə başa çatdıqdan və FBI məlumatlandırıldıqdan sonra müəyyən edib.

Bildirilir ki, insan müdaxiləsi olmadan qərar qəbul edib mürəkkəb tapşırıqları yerinə yetirə bilən agent iyulun 9-da "OpenAI"ın təcrid olunmuş sınaq mühitindən çıxmağa cəhd göstərib. "Hugging Face"in həmtəsisçisi Tomas Volfun sözlərinə görə, şirkətə qarşı hücum iyulun 11-də başlayıb və iyulun 13-dək davam edib.

Bildirilir ki, "OpenAI" yalnız iyulun 20-də "Hugging Face" ilə əlaqə saxlayıb. Şirkət isə iyulun 21-də agentlərindən birinin nəzarətdən çıxaraq "Hugging Face" sistemlərinə daxil olduğunu açıqlayıb və hadisəni süni intellekt təhlükəsizliyi baxımından “mühüm dönüş nöqtəsi” adlandırıb. "OpenAI" hazırda hadisəni xarici ekspertlərlə birlikdə araşdırdığını və sonradan texniki hesabat dərc edəcəyini bildirib.

Hadisədən əvvəl də "OpenAI"ın sınaqları zamanı bəzi agentlərin qəribə davranışları müşahidə olunub. Mənbələr bildirirlər ki, agentlərdən biri gələcək versiyalar üçün qeydlər buraxaraq daxili məhdudiyyətləri necə aşmağın yollarını təsvir edib. Bununla yanaşı, bu hadisələrin sonradan "Hugging Face"ə hücum edən agentlə birbaşa əlaqəsinin təsdiqlənmədiyi vurğulanıb.

Kibertəhlükəsizlik üzrə mütəxəssislər hesab edirlər ki, bu hadisə avtonom süni intellekt sistemlərinin təhlükəsizliyi və onların üzərində nəzarət mexanizmlərinin yetərliliyi ilə bağlı yeni suallar yaradır. Onların fikrincə, süni intellekt texnologiyalarının sürətlə inkişaf etdiyi bir dövrdə bu cür sistemlərin daha ciddi nəzarət və təhlükəsizlik tədbirləri ilə müşayiət olunması vacibdir.

Bizimyol.info