Глава Anthropic: ИИ может представлять угрозу для человечества

Искусственный интеллект в случае утраты контроля над его развитием может представлять угрозу для человечества в целом. Об этом заявил генеральный директор американской технологической компании Anthropic Дарио Амодеи, выступая на заседании Совета Безопасности ООН, посвященном вопросам ИИ, передает БР.

Амодеи отметил стремительное развитие технологий. По его словам, еще четыре года назад ИИ с трудом справлялся с написанием кода и решением математических задач уровня старших классов, тогда как сегодня он способен выполнять значительную часть программирования в Anthropic и решать известные ранее нерешенные математические задачи.

Глава компании считает, что при сохранении нынешних темпов развития уже в ближайшие один-два года, а возможно, и раньше, ИИ может достичь уровня, который он назвал «страной гениев в дата-центре».

Амодеи подчеркнул, что передовые модели ИИ способны принести человечеству значительную пользу, однако одновременно создают серьезные риски. Среди основных угроз он назвал злоупотребление технологиями, в том числе их потенциальное использование биотеррористами для создания биологического оружия, а также возможную утрату контроля над развитием ИИ.

По словам главы Anthropic, компания готова «замедлять скорость развития ИИ настолько, насколько потребуется» для обеспечения безопасности своих технологий.

При этом Амодеи подчеркнул, что решение проблем, связанных с искусственным интеллектом, не может быть задачей одной компании и требует совместных усилий технологической отрасли и международного сообщества.

БР