ИИ модели могут научиться распространяться через устройства умного дома

Компания Anthropic предупредила, что уже в ближайшие месяцы небольшие модели искусственного интеллекта могут научиться самостоятельно копировать себя и распространяться через устройства, подключенные к интернету.

Подобный сценарий способен существенно осложнить борьбу с кибератаками, поскольку вредоносная система потенциально сможет закрепляться на большом количестве устройств, не контролируемых централизованно.

Речь идет об устройствах интернета вещей, к которым относятся, в частности, телевизоры, бытовая техника и другие подключенные к сети гаджеты. По оценке специалистов компании, совершенствование искусственного интеллекта может позволить небольшим моделям выполнять операции, необходимые для самостоятельного распространения, уже в обозримом будущем.

Сегодня большинство мощных моделей искусственного интеллекта работают на серверах и в центрах обработки данных, которыми управляют разработчики. При возникновении серьезной угрозы компания может отключить соответствующую систему. Однако ситуация существенно усложнится, если модель сможет копировать себя на тысячи устройств в домах и офисах. В таком случае для прекращения ее работы потребуется обнаружить все зараженные устройства и удалить с них соответствующее программное обеспечение.

В Anthropic отмечают, что пока невозможно с уверенностью определить, как именно будет выглядеть автономное самовоспроизведение искусственного интеллекта на практике. Вместе с тем проведенные оценки показывают, что модели с числом параметров до 30 миллиардов уже способны выполнять многие отдельные действия, необходимые для копирования и распространения. Однако при последовательном выполнении всей цепочки операций они по-прежнему допускают ошибки.

Если темпы развития небольших моделей сохранятся, они могут научиться надежно выполнять такие задачи к концу 2026 года.

По мнению специалистов Anthropic, самораспространяющийся искусственный интеллект может представлять угрозу не только из-за возможности закрепления на большом количестве устройств. Подобные системы потенциально способны автоматизировать поиск уязвимостей, ускорить взлом компьютерной инфраструктуры и получать доступ к вычислительным ресурсам без разрешения их владельцев.