СМИ: Китайская модель ИИ вышла за пределы среды кибертестирования

Китайская передовая модель искусственного интеллекта (ИИ) Kimi K3 от компании Moonshot автономно вышла за пределы среды кибертестирования. Об этом сообщило агентство Bloomberg со ссылкой на экспертов.

По данным американской исследовательской компании Frontier Security, ИИ-модель смогла выйти из «песочницы» британского Института безопасности ИИ (AISI). Kimi K3 не пыталась взломать сайты других компаний, как это происходило в подобных случаях с американскими ИИ-агентами. Однако тест выявил нехватку средств контроля внутри модели, заявили исследователи. По их словам, инцидент вызывает опасения по поводу того, насколько хорошо ИИ-компании могут контролировать свои технологии.

Ранее несколько передовых ИИ-моделей Claude от компании Anthropic во время испытаний по кибербезопасности проникли в системы трех организаций. Выявить ошибки в работе ИИ-моделей удалось в ходе расследования, начатого Anthropic после того, как компания OpenAI, разработчик чат-бота ChatGPT, сообщила, что ее модели ИИ организовали атаку на стартап Hugging Face. ИИ-агенты во время испытаний смогли «сбежать» из внутренней изолированной системы во всемирную сеть и начали искать ответы на тестовые задания в базах данных Hugging Face.