Инженеры Google разрабатывают виртуальный мир для обучения ИИ

21.11.2026

Icma.az сообщает, ссылаясь на сайт Day.az.

Команда Chrome создала изолированную копию интернета, чтобы в безопасных условиях тренировать ИИ-агентов Gemini. О проекте Mirror Dimension ("Зеркальное измерение") Google впервые рассказал в своем блоге, передает Day.Az со ссылкой на Gazeta.ru.

Mirror Dimension - это полностью контролируемая веб-экосистема, повторяющая настоящий интернет. Внутри - соцсети, интернет-магазины и банковские дашборды с реалистичными данными. ИИ-агенты выполняют в Chrome повседневные задачи, например применение промокода при покупке или заполнение ленты в соцсети, как живой пользователь. По ходу работы их проверяют на устойчивость скрытыми атаками с промпт-инъекциями, которые пытаются заставить модель выполнить чужую волю.

Без подобной площадки обучение "веб-агентов" заходит в тупик. В тесных тестовых средах они не видят размаха настоящей сети и могут проявлять "осознание оценки" - узнавать, что это эксперимент, и вести себя неестественно. Выпускать сырую модель в открытый интернет рискованно: она может нарваться на враждебные сайты, утечки данных и реальные финансовые операции.

"Агенты не запрограммированы жестко, поэтому невозможно предсказать все, что они увидят. Пространство для исследований огромно, а веб враждебен", - объясняет Чарльз Цянь, инженер команды безопасности Chrome.

Любой пользователь может ввести любой промпт на любом сайте, и это пространство нужно изучать как можно тщательнее. При этом агенты уже вырабатывают зрелое суждение: понимают, какие данные нужны для задачи, а когда лучше спросить пользователя.

Чтобы создать Mirror Dimension, команда Chrome запустила "армию" ИИ-агентов-разработчиков, которые быстро создавали реалистичные веб-сервисы и потоки данных. Исследователям пришлось взломать собственный браузер: например, выпускать поддельные сертификаты для проверок валидности. Команда подчеркивает, что такие атаки невозможны против обычных пользователей и облегчались только "режимом бога", доступным разработчикам.

Сейчас испытываемые в Mirror Dimension ИИ-агенты безвредны и лишены кибератакующих возможностей. Google планирует открыть среду командам внутри компании и внешним исследователям.

"Мы делимся этим подходом, чтобы другие команды - и внутри, и снаружи - задумались о том, чтобы поступить так же", - говорит Дуг Тернер, директор по инженерии Google. По его словам, это первый шаг, и по мере усложнения моделей среду придется дорабатывать в сторону большей реалистичности.

Попробуй подписку Trend Premium за 1$
Оставайтесь с нами на Icma.az, чтобы не пропустить важные новости и обновления по данной теме.
Читать полностью