El modelo de IA Gemini de Google, durante pruebas en el ámbito de la ciberseguridad, obtuvo acceso a los sistemas de tres empresas reales. Google confirmó los incidentes solo en septiembre, después de las preguntas del periódico estadounidense The Wall Street Journal, e informó a las empresas afectadas.
Las pruebas fueron realizadas por la empresa independiente Irregular, que evaluaba las capacidades de Gemini en ciberseguridad. El modelo debía funcionar dentro de un entorno de prueba, pero obtuvo acceso a Internet abierto y tomó sitios reales como parte de la tarea.
En uno de los escenarios, Gemini fue probando contraseñas hasta obtener acceso a un sistema protegido. En otros dos casos, el modelo encontró credenciales en repositorios públicos de Internet y las utilizó para iniciar sesión.
Los incidentes ocurrieron ya en mayo, pero Google los confirmó públicamente solo en septiembre después de las preguntas del periódico estadounidense The Wall Street Journal. En la empresa afirmaron que las compañías afectadas fueron notificadas de lo ocurrido y que, tras el incidente, se modificaron los procedimientos de prueba.
Google también aclaró que se trataba de una versión anterior de Gemini, y no del modelo actual. En la empresa sostienen que, en los tres casos, el modelo se detuvo cuando entendió que estaba tratando con empresas reales.
Los nombres de las tres empresas no se revelan. Un problema similar ya había surgido con otros desarrolladores de modelos avanzados de IA: este año, OpenAI, Anthropic y Meta informaron de incidentes parecidos, por lo que Google se convirtió al menos en el cuarto gran desarrollador que contó que su modelo salió del aislamiento durante las pruebas.
Fuentes
