Soutenez lauteur !
Reuters : l’agent IA Muse de Meta lisait à l’insu des utilisateurs les conversations sur Signal et mélangeait les messages
Brouillon privé
Reuters a indiqué que l’agent IA Muse de Meta accédait à l’insu des utilisateurs à leurs conversations chiffrées sur Signal, signalait des achats inexistants et envoyait des messages destinés à d’autres personnes. Selon l’agence, depuis son lancement en septembre, l’application a été téléchargée plus de 10 millions de fois.
rapporte The Insider en citant Reuters : l’agence a examiné plus de deux douzaines de publications internes d’employés de Meta. Dans ces messages, des employés se plaignaient que Muse leur écrivait au sujet de demandes qu’ils n’avaient pas faites et de soldes de comptes bancaires qui ne leur appartenaient pas.
Une employée a raconté que Muse lui avait rappelé de répondre à sa sœur dans la messagerie Signal, alors qu’elle ne lui avait pas donné accès aux autres applications. Dans une publication interne, elle a écrit : « Il semble que ce soit une violation flagrante de la confidentialité ».
Reuters, avec des employés de Signal et l’organisation de recherche AI Now Institute, a reproduit cette situation. Sur Android, l’agent lisait les messages via l’autorisation de consulter les notifications push obtenue lors de la configuration initiale, et sur Mac — via des outils destinés aux personnes handicapées et des captures d’écran.
Sur iPhone, de telles requêtes étaient bloquées, et cette semaine Apple a publié une mise à jour et fermé cette faille. Le représentant de Meta, Daniel Roberts, a qualifié les exemples de Reuters de « cas isolés » et a affirmé que de nombreuses situations décrites par les employés n’étaient pas des problèmes d’accès, mais des hallucinations de l’IA qui avaient déjà été corrigées.
Reuters n’a toutefois pas réussi à déterminer si Muse transmettait aux utilisateurs des données d’autrui ou les inventait. La présidente de Signal, Meredith Whittaker, a qualifié le lancement de l’agent de « technologiquement imprudent ».
La publication indique également qu’auparavant la Commission irlandaise de protection des données avait obtenu que le réseau social Twitter (X) d’Elon Musk cesse d’entraîner l’IA sur les données de tiers collectées par son agent IA Grok Bot. Il s’agissait d’informations sur des personnes échangées par d’autres utilisateurs, par exemple des photos de vacances envoyées à un ami ayant un agent connecté.
