Unterstützen Sie den Autor!
Reuters: KI-Agent Meta Muse las ohne Wissen der Nutzer Nachrichten in Signal und verwechselte Mitteilungen
Privater Entwurf
Reuters berichtete, dass der KI-Agent Muse von Meta ohne Wissen der Nutzer auf ihre verschlüsselte Kommunikation in Signal zugriff, über nicht existierende Käufe berichtete und Nachrichten verschickte, die für andere Personen bestimmt waren. Nach Angaben der Agentur wurde die App seit dem Start im September mehr als 10 Mio. Mal heruntergeladen.
berichtet The Insider unter Berufung auf Reuters: Die Agentur untersuchte mehr als zwei Dutzend interne Beiträge von Meta-Mitarbeitern. In diesen Nachrichten beschwerten sich Mitarbeiter, dass Muse ihnen über Anfragen schrieb, die sie nicht gestellt hatten, und über Kontostände von Bankkonten, die ihnen nicht gehörten.
Eine Mitarbeiterin berichtete, dass Muse sie daran erinnerte, ihrer Schwester im Messenger Signal zu antworten, obwohl sie ihm keinen Zugriff auf andere Apps gewährt hatte. In einem internen Beitrag schrieb sie: «Das scheint ein grober Verstoß gegen die Vertraulichkeit zu sein».
Reuters reproduzierte diese Situation gemeinsam mit Mitarbeitern von Signal und der Forschungsorganisation AI Now Institute. Auf Android las der Agent Nachrichten über die Berechtigung zum Anzeigen von Push-Benachrichtigungen, die bei der ersten Einrichtung erteilt worden war, und auf dem Mac — über Hilfsmittel für Menschen mit Behinderungen und Screenshots.
Auf dem iPhone wurden solche Anfragen blockiert, und in dieser Woche veröffentlichte Apple ein Update und schloss diese Lücke. Ein Sprecher von Meta, Daniel Roberts, bezeichnete die Reuters-Beispiele als «Einzelfälle» und erklärte, dass viele von Mitarbeitern beschriebene Situationen keine Zugriffsprobleme, sondern KI-Halluzinationen gewesen seien, die bereits behoben worden seien.
Reuters konnte dabei nicht feststellen, ob Muse den Nutzern fremde Daten übermittelte oder sie erfand. Die Präsidentin von Signal, Meredith Whittaker, bezeichnete den Start des Agenten als «technologisch leichtsinnig».
In der Veröffentlichung heißt es außerdem, dass die irische Datenschutzkommission zuvor erreicht habe, dass das soziale Netzwerk Twitter (X) von Elon Musk aufhörte, KI mit Daten Dritter zu trainieren, die sein KI-Agent Grok Bot gesammelt hatte. Gemeint waren Informationen über Menschen, die andere Nutzer austauschen, etwa Urlaubsfotos, die an einen Freund mit verbundenem Agenten gesendet wurden.
