Reuters: ИИ-агент Meta Muse без ведома пользователей читал переписку в Signal и путал сообщения

Приватный черновик

Reuters сообщил, что ИИ-агент Muse от Meta без ведома пользователей получал доступ к их зашифрованной переписке в Signal, сообщал о несуществующих покупках и отправлял сообщения, предназначенные другим людям. По данным агентства, с запуска в сентябре приложение скачали более 10 млн раз.

сообщает The Insider со ссылкой на Reuters: агентство изучило более двух десятков внутренних постов сотрудников Meta. В этих сообщениях сотрудники жаловались, что Muse писал им о запросах, которых они не делали, и о балансах банковских счетов, которые им не принадлежали.

Одна из сотрудниц рассказала, что Muse напомнил ей ответить сестре в мессенджере Signal, хотя доступа к другим приложениям она ему не давала. Во внутреннем посте она написала: «Похоже, это грубейшее нарушение конфиденциальности».

Reuters вместе с сотрудниками Signal и исследовательской организации AI Now Institute воспроизвёл эту ситуацию. На Android агент читал сообщения через разрешение на просмотр push-уведомлений, полученное при первоначальной настройке, а на Mac — через инструменты для людей с инвалидностью и снимки экрана.

На iPhone такие запросы блокировались, а на этой неделе Apple выпустила обновление и закрыла эту лазейку. Представитель Meta Дэниел Робертс назвал примеры Reuters «единичными случаями» и заявил, что многие описанные сотрудниками ситуации были не проблемами с доступом, а галлюцинациями ИИ, которые уже устранили.

Reuters при этом не удалось выяснить, передавал ли Muse пользователям чужие данные или выдумывал их. Президент Signal Мередит Уиттакер назвала запуск агента «технологически безрассудным».

В публикации также говорится, что ранее Ирландская комиссия по защите данных добилась, чтобы соцсеть Twitter (X) Илона Маска перестала обучать ИИ на данных третьих лиц, которые собирал ее ИИ-агент Grok Bot. Речь шла о сведениях о людях, которыми обмениваются другие пользователи, например о фотографиях из отпуска, отправленных другу с подключенным агентом.

Источники

Эта публикация доступна на следующих языках:

Закажи IT-проект, поддержи независимое медиа

Часть дохода от каждого заказа идёт на развитие МОСТ Медиа

Заказать проект
Link