Билл Гейтс прогнозирует неприятные сюрпризы

В течение 2027 года злоумышленники могут использовать искусственный интеллект для кибератак и вымогательства, заявил в интервью CNN сооснователь Microsoft Билл Гейтс.

«Когда у злоумышленников есть новейшие модели ИИ и нет никаких защитных механизмов, именно тогда в течение следующего года нас может ждать множество неприятных сюрпризов — прежде всего в сфере кибератак», — полагает Гейтс.

По его словам, злоумышленники могут угрожать атаками, требуя деньги, или создавать сбои, влияющие на фондовый рынок. Гейтс отметил, что разработчики ИИ внедряют защитные механизмы против кибератак и биотерроризма, однако их можно отключить. По его мнению, непосредственная опасность связана прежде всего с использованием ИИ злоумышленниками, а не с выходом технологии из-под контроля, серьезные последствия которого могут проявиться через несколько лет.

На вопрос о достаточности мер по предотвращению подобных угроз Гейтс ответил, что нынешних усилий недостаточно.

В сентябре глава Anthropic (разрабатывает Claude) Дарио Амодеи призвал замедлить разработку технологии. Он предупредил, что в течение 6–12 месяцев ИИ-агенты могут использовать постоянно действующий ботнет и причинить ущерб на сотни миллиардов долларов. Его позицию поддержали глава OpenAI Сэм Альтман и основатель Tesla и SpaceX Илон Маск. Бывший исследователь Anthropic Джейкоб Коксон допускал, что к концу 2027 года ситуация может выйти из-под контроля. Сооснователь Palantir и PayPal Питер Тиль назвал тревожной даже вероятность потери контроля над ИИ в 5–10%, хотя и не счел такой сценарий возможным.

Президент США Дональд Трамп, напротив, назвал опасения по поводу развития ИИ одной из «мистификаций радикально левых демократов».