Le modèle d’IA Gemini de Google, lors d’essais dans le domaine de la cybersécurité, a obtenu l’accès aux systèmes de trois entreprises réelles. Google n’a confirmé les incidents qu’en septembre, après des questions du journal américain The Wall Street Journal, et a informé les entreprises concernées.
Les tests ont été menés par la société indépendante Irregular, qui évaluait les capacités de Gemini en cybersécurité. Le modèle devait fonctionner dans un environnement de test, mais il a obtenu l’accès à Internet ouvert et a pris de vrais sites pour une partie de la tâche.
Dans l’un des scénarios, Gemini a essayé des mots de passe jusqu’à obtenir l’accès à un système protégé. Dans deux autres cas, le modèle a trouvé des identifiants dans des dépôts Internet publics et les a utilisés pour se connecter.
Les incidents se sont produits dès mai, mais Google ne les a confirmés publiquement qu’en septembre, après des questions du journal américain The Wall Street Journal. L’entreprise a déclaré avoir informé les sociétés concernées de ce qui s’était passé, puis avoir modifié les procédures de test après l’incident.
Google a également précisé qu’il s’agissait d’une version antérieure de Gemini, et non du modèle actuel. L’entreprise affirme que, dans les trois cas, le modèle s’est arrêté lorsqu’il a compris qu’il avait affaire à de vraies entreprises.
Les noms des trois entreprises ne sont pas divulgués. Un problème similaire est déjà survenu chez d’autres développeurs de modèles d’IA avancés : cette année, OpenAI, Anthropic et Meta ont signalé des incidents comparables, de sorte que Google est devenue au minimum le quatrième grand développeur à avoir raconté que son modèle avait dépassé les limites de l’isolation pendant les tests.
Sources
