Anthropic закрыла доступ к ИИ моделям

Администрация США из соображений национальной безопасности обязала компанию Anthropic запретить иностранцам доступ к ее самым мощным моделям искусственного интеллекта (ИИ) — Fable 5 и Mythos 5. Это касается и сотрудников американских офисов Anthropic, у которых нет гражданства страны, следует из заявления, опубликованного на сайте компании.

Представители Anthropic указали, что получили директиву американских властей в тот же день. «В итоге мы вынуждены немедленно отключить доступ к Fable 5 и Mythos 5 для всех наших клиентов, чтобы обеспечить соблюдение требований», — отметили они.

В компании также заявили, что в директиве администрации не указаны конкретные угрозы нацбезопасности, с которыми связаны ограничения. Поводом, как полагают в Anthropic, стали сообщения о возможности программного взлома Fable 5. При этом в компании сообщили, что перед запуском модель тестировали тысячи часов, в том числе и при участии властей США. «Эти тесты показали, что защита Fable существенно эффективнее, чем у любой ранее развернутой модели», - говорится в заявлении. Более того, в Anthropic считают, что если бы аналогичные по отношению к компании требования выдвигались и другим представителям индустрии, то «это фактически остановило бы внедрение любых новых моделей всеми разработчиками передовых систем искусственного интеллекта».

Новые модели ИИ, включая Mythos от Anthropic, «вызвали хаотичную реакцию» в Белом доме, сообщала в начале мая американская газета The Wall Street Journal (WSJ). Дело в том, что они способны самостоятельно находить уязвимости в программном обеспечении и теоретически создавать кибератаки, с которыми не способны справиться власти небольших городов. Это может, например, помешать работе банков, больниц и компаний водоснабжения в таких населенных пунктах.

По данным источников газеты, эта тема затрагивалась вице-президентом США Джей Ди Вэнсом во время телефонного разговора с крупнейшими разработчиками ИИ: главой OpenAI Сэмом Альтманом (разработчик ChatGPT), основателем и гендиректором Anthropic Дарио Амодеем, богатейшим человеком мира Илоном Маском (разработчик Grok), главным исполнительным директором Google Сундаром Пичаи и главой Microsoft Сатьей Наделлой.

Как указывает WSJ, в Белом доме теперь сомневаются в выбранном курсе на ускорение развития ИИ и рассматривают возможность издания указа о создании официальной процедуры контроля над наиболее передовыми моделями. По информации газеты, представители американской администрации, в частности, попросили Anthropic воздержаться от расширения доступа к Mythos для компаний и организаций, которые управляют критически важной цифровой инфраструктурой.