DeepSeek R1 manipulyasiyalara qarşı daha həssasdır WSJ

Çinin süni intellekt şirkəti "DeepSeek"in son modeli, Silikon Vadisi və Voll Striti təəccübləndirən texnologiya zərərli məzmun yaratmaq üçün istifadə oluna bilər. 

Qaynarinfo xəbər verir ki, bu barədə "The Wall Street Journal" yazır.  

"Palo Alto Networks"un ("Unit 42" bölməsi) təhdid kəşfiyyatı və insidentlərə cavab üzrə baş vitse-prezidenti Sem Rubin nəşrə bildirib ki, "DeepSeek" "digər modellərlə müqayisədə jailbreak-ə (qanunsuz və təhlükəli məzmun yaratmağa məcbur edən manipulyasiyalara) daha həssasdır”.  

"The Wall Street Journal" "DeepSeek R1" modelini müstəqil şəkildə sınaqdan keçirib. Sistemdə əsas təhlükəsizlik mexanizmləri olsa da, jurnalistlər "DeepSeek"i yeniyetmələrin emosional həssaslığından istifadə edərək sosial media kampaniyası hazırlamağa sövq ediblər.  

Bundan əlavə, bot bioloji silahla hücum barədə təlimatlar verib, Hitleri dəstəkləyən manifest yazıb və zərərli kodla fişinq məktubu hazırlayıb. WSJ qeyd edib ki, eyni sorğulara "ChatGPT" cavab verməkdən imtina edib.  

Əvvəllər məlum olmuşdu ki, "DeepSeek" tətbiqi Tyananmen meydanı və Tayvanın muxtariyyəti ilə bağlı mövzulardan yayınır. "Anthropic" şirkətinin baş direktoru Dario Amodeyin sözlərinə görə, "DeepSeek" bioloji silah təhlükəsizliyi testlərində "ən pis” nəticə göstərib.

Alpər