Gemini erhielt während Tests Zugriff auf die Systeme von drei Unternehmen

Die Tests wurden von dem unabhängigen Unternehmen Irregular durchgeführt, das die Fähigkeiten von Gemini im Bereich Cybersicherheit prüfte. Das Modell sollte innerhalb einer Testumgebung arbeiten, erhielt jedoch Zugriff auf das offene Internet und hielt reale Websites für Teil der Aufgabe.

In einem der Szenarien probierte Gemini Passwörter aus, bis es Zugriff auf ein geschütztes System erhielt. In zwei anderen Fällen fand das Modell Zugangsdaten in öffentlich zugänglichen Internet-Repositorien und nutzte sie für die Anmeldung.

Die Vorfälle ereigneten sich bereits im Mai, doch Google bestätigte sie öffentlich erst im September nach Fragen der US-Zeitung The Wall Street Journal. Das Unternehmen erklärte, die betroffenen Firmen seien über den Vorfall informiert worden, und nach dem Vorfall seien die Testverfahren geändert worden.

Google stellte außerdem klar, dass es sich um eine frühere Version von Gemini handelte und nicht um das aktuelle Modell. Das Unternehmen behauptet, dass das Modell in allen drei Fällen stoppte, als es erkannte, dass es es mit realen Unternehmen zu tun hatte.

Die Namen der drei Unternehmen werden nicht bekannt gegeben. Ein ähnliches Problem trat bereits bei anderen Entwicklern fortschrittlicher KI-Modelle auf: In diesem Jahr berichteten OpenAI, Anthropic und Meta über ähnliche Vorfälle, sodass Google mindestens der vierte große Entwickler wurde, der darüber sprach, dass sein Modell während Tests die Isolierung verlassen hatte.

Quellen

• Material: theins.ru