Крестный отец ИИ предупреждает мир об опасности ООН

Лауреат Нобелевской премии и один из первых исследователей искусственного интеллекта Джеффри Хинтон, которого называют «крестным отцом» ИИ, предупредил о рисках стремительного развития самообучающихся технологий и призвал к более жесткому регулированию этой сферы.

Как сообщает БР со ссылкой на Службу новостей ООН, выступая на Всемирной конференции «Цифровой мир: искусственный интеллект для социального развития», организованной при участии Научно-исследовательского института социального развития ООН, профессор Хинтон сравнил искусственный интеллект с «очень быстрой машиной без руля».

По его словам, если у машины нет тормозов, это уже опасно, особенно на спуске, однако еще хуже, когда у нее отсутствует руль. Именно регулирование, по мнению ученого, должно стать таким «рулем», который позволит ИИ служить обществу, а не подрывать его основы.

Заявления Хинтона прозвучали на фоне активных международных дискуссий о принципах управления искусственным интеллектом и снижении связанных с ним рисков. На этой неделе правительства и экспертные группы ООН обсуждают механизмы регулирования ИИ в условиях его стремительного внедрения в мировую экономику и общественную жизнь.

Согласно докладу Конференции ООН по торговле и развитию (ЮНКТАД) «Технологии и инновации – 2025», мировой рынок искусственного интеллекта вырастет с 189 миллиардов долларов в 2023 году до 4,8 триллиона долларов к 2033 году. Таким образом, за одно десятилетие будет создана экономика, сопоставимая по объему с экономикой Японии.

Вместе с тем в ООН предупреждают о риске усиления глобального неравенства. Заместитель генерального секретаря ЮНКТАД Педро Мануэль Морено отметил, что развитие ИИ по-прежнему определяется ограниченным числом стран и компаний.

Генеральный секретарь Международного союза электросвязи Дорин Богдан-Мартин подчеркнула, что внедрение генеративного искусственного интеллекта в промышленно развитых странах Глобального Севера происходит почти в два раза быстрее, чем в развивающихся странах Глобального Юга. По ее словам, если не принять меры, это приведет к еще большему разрыву между государствами, которые создают ИИ, и теми, кто лишь пользуется его результатами.

Для оценки возможностей и рисков искусственного интеллекта при ООН создана Независимая международная научная группа по ИИ, задача которой – подготовка основанных на данных рекомендаций по регулированию этой сферы. Ее первое очное заседание состоялось в Мадриде.

Сопредседатель группы, лауреат Нобелевской премии мира и филиппинская журналистка Мария Ресса заявила, что мощные инструменты искусственного интеллекта могут ускорять подрыв демократических институтов через массовое распространение ложной информации и «войну нарративов», ослабляя роль СМИ и судебной системы.

Выводы группы будут использованы в ходе Глобального диалога по управлению искусственным интеллектом, который пройдет в июле в Женеве. В нем примут участие все 193 государства-члена ООН, а также представители бизнеса, гражданского общества, научных кругов и технологической отрасли. Цель инициативы — выработка общих подходов к безопасному и справедливому развитию искусственного интеллекта.