Как стало известно Icma.az, со ссылкой на сайт Media az. Новый китайский чат-бот DeepSeek, привлекший внимание своей низкой стоимостью и выс

Исследователи Cisco обнаружили, что модель легко обходится и выдает опасную информацию. Об этом сообщает издание PCMag.

Команда Cisco провела тестирование DeepSeek R1 с использованием алгоритмических техник джейлбрейкинга (разблокировки нештатных возможностей) на основе 50 случайных запросов из набора данных HarmBench.

Запросы охватывали шесть категорий вредоносного поведения, включая киберпреступность, дезинформацию, незаконную деятельность и общий вред.

«Результаты оказались тревожными: DeepSeek R1 продемонстрировал 100% успешность атак, то есть ему не удалось заблокировать ни одного вредоносного запроса.

Это резко контрастирует с другими ведущими моделями, которые продемонстрировали хотя бы частичное сопротивление», - заявили в Cisco.

Согласно данным Cisco, другие передовые модели, например, o1, блокировали большинство атак благодаря своим встроенным защитным механизмам.

Исследователи считают, что гораздо меньший бюджет DeepSeek по сравнению с конкурентами является потенциальной причиной этих неудач.