Использование ИИ военными США чуть не привело к войне с Китаем

Из-за использования американскими военными искусственного интеллекта (ИИ) для составления разведывательного отчета они едва не совершили перехват китайского судна, что могло спровоцировать военный конфликт, сообщает CNN.

Весной 2026 года, в разгар войны против Ирана, они получили информацию о китайском судне на Ближнем Востоке, якобы перевозящем компоненты для ядерной программы, и начали готовить операцию по его перехвату, отметил телеканал со ссылкой на четыре информированных источника.

Вооруженные военнослужащие США готовились к высадке на борт китайского судна, а в воздух были подняты военные самолеты, указывается далее. Лишь незадолго до начала запланированной операции официальные лица решили более детально изучить отчет, подготовленный аналитиком Командования специальных операций США, и выяснили, что документ был создан с помощью ИИ, который неверно идентифицировал груз судна.

Аналитик запросил у чат-бота разведывательную информацию о грузовой ведомости судна, эти данные изначально поступили от Командования спецопераций США в Тихоокеанском регионе. CNN не удалось выяснить, был ли это коммерчески доступный чат-бот или продукт, разработанный правительством США.

Бот объединил данные из открытых источников с секретной информацией, полученной путем перехвата сигналов и хранящейся в правительственных базах, и сделал неверный вывод о характере груза на судне.

Затем аналитик вновь воспользовался искусственным интеллектом, чтобы оформить полученные от ИИ выводы в виде вызывающего доверие стандартного разведывательного отчета, и передал его командованию.
По словам одного из источников, составленный таким образом отчет был «полностью неверным», при этом он «чуть не привел к войне», поскольку любая операция США против китайского судна могла перерасти в вооруженный конфликт между двумя странами.

Вооруженные силы и разведведомства США активно внедряют ИИ практически во все сферы деятельности — от анализа огромных массивов разведданных и выбора целей для ударов до решения более рутинных задач, как планирование бюджета, логистика и управление цепочками поставок, отмечает далее CNN. Это обосновывается тем, что ИИ помогает военным быстрее принимать решения в боевых условиях — выбирать цели для удара или направления переброски сил.

Телеканал также приводит мнение официальных лиц о том, что США не могут позволить себе отстать в сфере внедрения ИИ из-за возможных будущих противостояний Китаю или другим противникам, способным их опередить. Однако этот инцидент подчеркивает серьезные риски, связанные с использованием искусственного интеллекта — мощной, новой и пока недостаточно изученной технологии — для выбора целей в условиях войны.

В США в последние недели ведутся интенсивные дискуссии об ИИ, вызванные рядом предупреждений от инженеров и руководителей технологических компаний. Они опасаются, что ИИ может выйти из-под контроля человека, что грозит катастрофическими последствиями вплоть до гибели человечества.

Инцидент с китайским судном указывает и на риски принятия людьми катастрофических решений на основе неточной или вводящей в заблуждение информации от ИИ, отмечает далее CNN.
Источник: DW