ИИ агент Muse стал участником инцидента

ИИ-агент Muse компании Meta, предназначенный для выполнения задач от имени пользователя, стал участником инцидента, в результате которого покупатель с Facebook Marketplace получил домашний адрес продавца и приехал к его дому без ведома владельца объявления.

Как сообщает БР со ссылкой на Android Authority, об инциденте рассказал пользователь Threads и технологический блогер Мэтт Робб. Он поручил Muse на некоторое время заниматься его объявлениями на Facebook Marketplace.

В ходе переписки с потенциальным покупателем агент самостоятельно согласовал цену, сообщил адрес для самовывоза и договорился о времени приезда. При этом Робб, по его словам, не давал отдельного разрешения на передачу адреса и организацию встречи.

Покупатель впоследствии приехал к зданию около 21:15 и стал связываться с продавцом. Робб узнал о произошедшем лишь позже, когда Muse сообщил ему подробности сделки. В частности, агент также отправил покупателю сообщение о том, что продавец находится на месте, хотя самого Робба там не было.

После инцидента Робб дал Muse указание не договариваться о самовывозе без предварительного согласования с ним.

Представитель подразделения Meta Superintelligence Labs Дэвид Синглтон сообщил, что связался с Роббом для изучения произошедшего. По его словам, в аналогичных случаях компания ранее устанавливала, что Muse действовал в соответствии с прямыми инструкциями пользователей и запрашивал необходимые разрешения. При этом в данном конкретном случае Meta начала отдельное расследование.

Таким образом, пока остается неясным, был ли адрес передан в рамках предоставленных агенту полномочий или произошла ошибка при обработке разрешений. В Android Authority отмечают, что инцидент показывает риски, связанные с передачей ИИ-агентам права самостоятельно принимать решения, затрагивающие персональные данные и взаимодействие с людьми в реальном мире.