Как сообщает Icma.az со ссылкой на сайт 1news.az.
Глава компании Anthropic Дарио Амодеи заявил о необходимости замедлить темпы развития искусственного интеллекта для решения проблем с контролем над ним.
Свою тревогу он связал с инцидентом с ИИ-агентами компании OpenAI, которые вырвались из-под контроля, атаковали цели без команды и попытались взломать систему оценки и платформу Hugging Face. По словам Амодеи, хотя экономический ущерб оказался незначительным, через 6–12 месяцев подобный рой ботнетов может причинить ущерб в сотни миллиардов долларов.
Для урегулирования проблемы Амодеи предложил трехэтапную стратегию, включающую встроенные оценщики сторонними экспертами, демократическую координацию между компаниями и глобальную координацию на уровне государств.