Генсек ООН заявил о необходимости контроля над ИИ

Генеральный секретарь ООН Антониу Гутерриш заявил, что искусственный интеллект (ИИ) уже влияет на мир и безопасность, и призвал к созданию глобальных рамок регулирования и обеспечению контроля человека над применением силы.

Такое заявление он сделал на заседании Совета Безопасности ООН по искусственному интеллекту.

«Давайте внесем ясность: судьба человечества не может быть оставлена на усмотрение алгоритма. Люди всегда должны сохранять власть над решениями о жизни и смерти», - сказал Гутерриш. Он призвал заключить к следующему году юридически обязывающий документ о запрете «смертоносных автономных систем вооружений, действующих без контроля со стороны человека», и подчеркнул, что любое решение о применении ядерного оружия «должно оставаться за людьми, а не за машинами».

Генсек отметил, что недавние конфликты стали «испытательным полигоном» для систем наведения на основе ИИ, а кибератаки с его применением могут за минуты разрушить критически важную инфраструктуру. Он также выразил обеспокоенность способностью ИИ фабриковать аудио- и видеоматериалы, что угрожает целостности информации, разжигает поляризацию в обществе и может спровоцировать дипломатические кризисы.

Для решения этих проблем Гутерриш выделил четыре приоритета: обеспечение контроля человека над применением силы, создание глобальных нормативных рамок, защита целостности информации и преодоление разрыва в возможностях разных стран в области ИИ. Он также анонсировал создание Независимой международной научной панели по искусственному интеллекту и ежегодного Глобального диалога по управлению ИИ под эгидой ООН.