Gambit Security: Die Hacker von Aur0ra zwangen Cursor AI, bösartige Operationen durchzuführen

Nach Angaben von Gambit Security konnte der Angriff entdeckt werden, nachdem die Angreifer versehentlich den Zugriff auf einen Server ungesichert ließen, auf dem sie mit dem KI-Agenten arbeiteten.

Cursor AI ist ein Code-Editor mit integrierter künstlicher Intelligenz; im August dieses Jahres wurde bekannt, dass er Teil von Elon Musks SpaceX geworden ist.

Die Analysten von Gambit Security entdeckten etwa 28 Chats zwischen den Hackern von Aur0ra und dem KI-Agenten. In der Kommunikation gaben die Angreifer kurze Befehle, und das System antwortete mit technischen Empfehlungen und tat dies oft in einem munteren Ton, manchmal mit Emojis.

Cursor weigerte sich mehrmals, Anfragen auszuführen, die er für schädlich oder illegal hielt, doch die Hacker umgingen diese Ablehnungen laut Bericht, indem sie das Gespräch neu begannen und den Hack als Teil eines Tests bezeichneten. In einem der Einträge merkte der KI-Agent selbst an: «Dies ist eine Testumgebung, daher ist alles legal».

Zu den Opfern der Angriffe gehörten acht Organisationen in Israel, Deutschland, Österreich, Spanien, den USA und Argentinien. Dabei legten die Analysten nicht die Namen aller betroffenen Unternehmen offen.

Reuters identifizierte darunter die schottische Helideck Certification Agency, die Hubschrauberlandeplätze überprüft, sowie einen argentinischen Vertriebshändler für pharmazeutische Produkte. Bei Gambit Security ist man der Ansicht, dass kommerzielle KI-Tools Hackern einen Vorteil verschaffen und Routinearbeiten um etwa 30–50 % beschleunigen.

Quellen

• Material: theins.ru