ИИ уничтожит человечество с вероятностью 95%

Вероятность вымирания человечества из-за искусственного интеллекта (ИИ) составляет «как минимум 95%», если продолжим идти по нынешнему пути. Такое мнение высказал Нейт Соарес, бывший инженер Google и Microsoft, а ныне президент Исследовательского института машинного интеллекта, пишет The Times.

«Если мы не свернём с текущего курса — шансов избежать гибели почти нет. Мы мчимся к обрыву на скорости 100 км/ч», — сказал он.

С ним согласны лауреат Нобелевской премии Джеффри Хинтон, математик Йошуа Бенжио, а также главы OpenAI, Anthropic и Google DeepMind.

Все они подписали заявление, в котором говорится: «Снижение риска исчезновения человечества из-за ИИ должно стать глобальным приоритетом наряду с пандемиями и ядерной угрозой».

Отмечается, что опасения связаны с возможным появлением суперразумного ИИ (ASI), способного к обману, планированию и выходу из-под контроля. Даже сейчас ИИ уже может лгать, а его внутренние процессы зачастую непонятны людям.

Некоторые эксперты считают, что риск не полного вымирания, а «постепенного обессиливания» человечества — также реален: в мире, где решения принимают машины, людям просто не останется места.