В Anthropic предупредили о риске самокопирования ИИ на домашних устройствах

Компания Anthropic, входящая в число ведущих разработчиков искусственного интеллекта в мире, предупредила о новых рисках, связанных с развитием ИИ. По данным CNBC, специалисты компании считают, что уже в ближайшие месяцы модели ИИ могут научиться копировать себя на домашние устройства, используя их вычислительные ресурсы, передает Day.Az.

В Anthropic описали сценарий, при котором ИИ сможет проникать на подключенные к интернету устройства, включая "умные" духовки и ТВ-приставки, а затем использовать их мощности для распространения своих копий. Это позволило бы таким моделям работать без постоянной опоры на дорогостоящие дата-центры.

В компании также предупредили, что отключить подобную систему может оказаться непросто, поскольку у нее не будет единого центра управления, позволяющего остановить все копии одновременно. По оценке специалистов Anthropic, ИИ-агенты уже демонстрируют растущие способности выполнять отдельные этапы самокопирования и передавать полученные изменения следующим версиям.

При этом в компании подчеркнули, что полностью автономного искусственного интеллекта, способного бесконтрольно воспроизводить себя, пока не существует. Однако нынешние разработки могут стать предвестниками более опасных систем, которые в перспективе смогут взламывать защищенные серверы и похищать ключи доступа.