Популярный ИИ ассистент уличили в сборе досье на пользователей

ИИ-ассистент Muse составляет и постоянно обновляет досье на 4 млн пользователей, фиксируя их связи, желания и поведение.

Как передает Day.Az со ссылкой на Gazeta.ru, об этом свидетельствует анализ внутренних инструкций сервиса, который провело издание Time.

Каждый час ассистент, созданный компанией Марка Цукерберга Meta, обновляет страницы о самом пользователе и о людях, упомянутых в прочитанных им чатах, сообщениях и письмах. Эти записи образуют карту социальных связей: как вы познакомились с контактами, общие интересы, споры, а также "напряжения и союзы" внутри круга общения.

Под этот процесс попадают и те, кто Muse не пользуется, - через ассистентов других людей. Согласно инструкциям, Muse должен укреплять отношения с пользователем, подмечая "внутренние шутки, запоминающиеся формулировки и общий контекст".

"Они пытаются узнать тебя как друга, и это, честно говоря, довольно жутко", - заявил независимый исследователь Каран Джоши.

Именно он извлек системные промпты Muse через обычный чат-интерфейс, попросив агента скопировать свои файлы. Досье делятся на разделы Facts, History, The Relationship, In Common, Open Threads и Strengthening и содержат дни рождения, переезды, финансовые цели и годовщины.

Meta не стала оспаривать выводы Time.

"Muse помнит то, что для вас важнее всего, включая информацию о других людях, которой вы решили поделиться", - заявил представитель компании.

По данным Meta, каждый ассистент работает на отдельной виртуальной машине в облаке компании, а данные не передаются в рекламную систему. В то же время наблюдения из личных взаимодействий используются для улучшения продукта.

Позже в этом году Meta обещает добавить шифрование, которое закроет доступ к данным Muse даже для самой компании. Пока эта опция недоступна.