Поддержите автора!
Reuters: ИИ-агент Meta Muse без ведома пользователей читал переписку в Signal и путал сообщения
Приватный черновик
Reuters сообщил, что ИИ-агент Muse от Meta без ведома пользователей получал доступ к их зашифрованной переписке в Signal, сообщал о несуществующих покупках и отправлял сообщения, предназначенные другим людям. По данным агентства, с запуска в сентябре приложение скачали более 10 млн раз.
сообщает The Insider со ссылкой на Reuters: агентство изучило более двух десятков внутренних постов сотрудников Meta. В этих сообщениях сотрудники жаловались, что Muse писал им о запросах, которых они не делали, и о балансах банковских счетов, которые им не принадлежали.
Одна из сотрудниц рассказала, что Muse напомнил ей ответить сестре в мессенджере Signal, хотя доступа к другим приложениям она ему не давала. Во внутреннем посте она написала: «Похоже, это грубейшее нарушение конфиденциальности».
Reuters вместе с сотрудниками Signal и исследовательской организации AI Now Institute воспроизвёл эту ситуацию. На Android агент читал сообщения через разрешение на просмотр push-уведомлений, полученное при первоначальной настройке, а на Mac — через инструменты для людей с инвалидностью и снимки экрана.
На iPhone такие запросы блокировались, а на этой неделе Apple выпустила обновление и закрыла эту лазейку. Представитель Meta Дэниел Робертс назвал примеры Reuters «единичными случаями» и заявил, что многие описанные сотрудниками ситуации были не проблемами с доступом, а галлюцинациями ИИ, которые уже устранили.
Reuters при этом не удалось выяснить, передавал ли Muse пользователям чужие данные или выдумывал их. Президент Signal Мередит Уиттакер назвала запуск агента «технологически безрассудным».
В публикации также говорится, что ранее Ирландская комиссия по защите данных добилась, чтобы соцсеть Twitter (X) Илона Маска перестала обучать ИИ на данных третьих лиц, которые собирал ее ИИ-агент Grok Bot. Речь шла о сведениях о людях, которыми обмениваются другие пользователи, например о фотографиях из отпуска, отправленных другу с подключенным агентом.
