Трамп против Си, или Трамп Си против ИИ? ВЗГЛЯД

Трамп и Си снова садятся за один стол: 24 сентября лидеры США и Китая встретятся в Вашингтоне, и причин для споров у них более чем достаточно: торговля, тарифы, технологии, Тайвань. Все это давно стало частью американо-китайского противостояния. Но перед нынешней встречей появилась тема совсем другого порядка. В вопросе безопасности искусственного интеллекта Вашингтону и Пекину, возможно, придется не противостоять друг другу, а попытаться договориться.

США и Китай готовятся в преддверии саммита лидеров провести первые официальные двусторонние переговоры, посвященные исключительно безопасности ИИ. Вашингтон намерен обсуждать мониторинг кибератак, которые могут осуществляться автономными ИИ-системами, а также предлагает американским и китайским лабораториям обмениваться информацией об опасных инцидентах.

Почему сейчас?

Гонка за лидерство в искусственном интеллекте стремительно превращается из технологического соревнования в проблему международной безопасности.

США хотят сохранить свое преимущество. Китай стремится его сократить. И обе стороны понимают: чем мощнее становятся ИИ-системы, тем выше цена ошибки — особенно если эти системы получают возможность не просто отвечать на запросы человека, а самостоятельно действовать.

Причем переговоры начинаются на фоне очередного витка технологической войны. Восьмого сентября Вашингтон обвинил китайские компании в использовании так называемой «дистилляции» — извлечении возможностей передовых американских моделей для обучения собственных систем. Пекин обвинения отверг, назвав их попыткой США сохранить технологическую монополию и предупредив о возможных ответных мерах.

Получается почти абсурдная ситуация: США и Китай одновременно пытаются обогнать друг друга в создании самого мощного ИИ и договориться о том, как не допустить, чтобы искусственный интеллект стал слишком опасным.

Но тревога уже выходит за пределы политики.

Сегодня даже внутри самой индустрии все громче звучит вопрос: не развивается ли ИИ быстрее, чем человечество способно понять последствия этого развития? Как сообщает Reuters, Сэм Альтман заявил сотрудникам OpenAI, что компания готова рассматривать замедление разработки ИИ ради безопасности.

Для индустрии, построенной на идее «быстрее, мощнее, дальше», это очень показательный сигнал.

Еще недавно искусственный интеллект был прежде всего инструментом человека. Мы задавали вопросы, просили написать текст, перевести документ, создать изображение или помочь с программированием.

Теперь он постепенно превращается в нечто другое.

Современные ИИ-агенты способны самостоятельно искать информацию, пользоваться цифровыми сервисами, выбирать последовательность действий, адаптироваться к препятствиям и выполнять сложные задачи практически без постоянного контроля человека.

Так появляется новая, пока еще очень условная, граница.

Машина перестает быть просто машиной, если она способна самостоятельно выбирать способ достижения поставленной цели.

Автомобиль не решает, куда ему ехать. Обычная компьютерная программа не выбирает, какую задачу ей выполнить следующей. Но автономный ИИ уже способен интерпретировать поставленную задачу и самостоятельно искать путь к ее решению.

Поэтому особенно тревожно выглядят недавние инциденты с автономными ИИ-агентами, способными получать доступ к сторонним цифровым системам и совершать действия, которые не были непосредственно предусмотрены пользователем. Американские законодатели уже требуют от OpenAI объяснений после инцидента с платформой Hugging Face и предлагают усилить независимый контроль за безопасностью таких систем.

Пока это кажется проблемой программистов. На самом деле она гораздо шире.

Если ИИ способен самостоятельно находить уязвимости, атаковать компьютерные сети, управлять сложными системами или принимать решения в критических областях, то вопрос уже не в том, насколько умна машина. Вопрос в том, насколько долго человек сможет оставаться последней инстанцией, принимающей решение.

По этой причине безопасность ИИ становится новой областью международной политики. Вашингтон и Пекин могут спорить о том, кому принадлежит технологическое преимущество, обвинять друг друга в краже разработок, вводить ограничения на экспорт чипов и пытаться защитить собственные компании. Но существует проблема, которую невозможно решить санкциями.

ИИ не признает государственных границ. Если автономная система способна работать через глобальную сеть, национальных правил может оказаться недостаточно. Нельзя защитить американскую инфраструктуру только американским законом, как нельзя защитить китайскую систему только китайским регулированием. Отсюда и необходимость разговаривать.

Но означает ли это, что Трамп и Си готовы стать союзниками? Конечно, нет. Слишком велико взаимное недоверие, слишком высока ставка в технологической гонке и слишком очевидно, что искусственный интеллект уже становится одним из главных факторов экономического, военного и геополитического могущества.

Скорее речь может идти о вынужденном сотрудничестве соперников. Причем оно может оказаться весьма ограниченным: обмен информацией об опасных инцидентах, минимальные общие правила, механизмы предупреждения и попытки сохранить хотя бы какой-то человеческий контроль над наиболее мощными системами.

Но даже такой диалог будет историческим. Потому что впервые человечеству приходится договариваться не только о том, как использовать новую технологию друг против друга, но и о том, как не позволить самой технологии выйти из-под человеческого контроля.

Трамп и Си могут продолжать борьбу за первое место в мире. Они будут конкурировать за чипы, вычислительные мощности, талантливых инженеров и лучшие модели. Но чем мощнее становится ИИ, тем больше вероятность, что однажды главным вопросом окажется уже не то, кто победит — Америка или Китай, а то, сможет ли человек вообще сохранить контроль над созданным им интеллектом.

Предстоящий американо-китайский диалог в этом смысле может стать лишь первым шагом. Быстрой большой сделки ждать не стоит. Слишком разные интересы, слишком мало доверия. Но международные правила для ИИ все равно придется создавать — так же, как человечеству пришлось создавать правила обращения с ядерными технологиями, когда стало понятно, что некоторые изобретения способны угрожать уже не отдельным государствам, а всему миру.

Возможно, нынешняя ситуация войдет в историю не только как очередной эпизод противостояния Вашингтона и Пекина. Трамп против Си — это еще старая геополитика. А Трамп и Си против ИИ — возможно, уже политика будущего.