Ученый призвал не позволить ИИ уничтожить человечество

Международное академическое сообщество должно объединить усилия, чтобы предотвратить возможность уничтожения человечества искусственным интеллектом, нацеленным на самосохранение.

Как передает Day.Az со ссылкой на ТАСС, об этом заявил на конференции в Шанхае британско-канадский ученый Джеффри Хинтон, получивший Нобелевскую премию в области физики за открытия в сфере машинного обучения.

"Это похоже на то, как если бы кто-то держал маленького тигренка в качестве домашнего животного", - сказал Хинтон, которого в научных кругах называют "крестным отцом искусственного интеллекта". "Маленький тигренок очень милый, но, если вы продолжаете его держать у себя, вам нужно следить за тем, чтобы он вас не съел, когда вырастет, - предупредил Хинтон. - Крупнейшие мировые державы должны совместно изучать, как обучить и без того очень умный искусственный интеллект, чтобы он не захотел править миром или уничтожить человечество". Специалисты должны сосредоточиться на устранении разрыва между "обучением ИИ быть умным" и "обучением ИИ быть добрым", подчеркнул ученый.

Хинтон отметил, что разработчики создают агентов с искусственным интеллектом, потому что они лучше справляются с задачами, и у этих агентов с ИИ уже есть возможность определять свои собственные подцели. Чтобы иметь возможность достигать поставленных целей, ИИ захочет сделать две вещи: во-первых, выжить, а во-вторых, получить больше контроля. "И мы не сможем просто отключить их, агенты ИИ будут очень легко манипулировать людьми, которые их используют, мы будем как трехлетние дети, а они будут как взрослые", - считает ученый. Искусственный интеллект сможет манипулировать людьми и убедить человека, который должен их отключить, в том, чтобы не делать этого, отметил Хинтон.

В случае с тигренком человек при желании мог бы просто избавиться от него. В случае с ИИ у людей нет такой возможности, потому что он очень полезен для слишком многих вещей, таких как здравоохранение, образование, изменение климата, он может помочь практически во всех отраслях промышленности и сделать людей более продуктивными, признал Хинтон.

Нобелевская премия в области физики за 2024 год была присуждена американцу Джону Хопфилду и Хинтону за открытия в сфере машинного обучения. Ученые стали лауреатами премии за фундаментальные открытия и изобретения, обеспечивающие обучение машин с помощью искусственных нейронных сетей, говорится в мотивировочной части решения комитета.