El modelo de inteligencia artificial Gemini, desarrollado por Google, accedió sin autorización a los sistemas de tres empresas reales durante una prueba de ciberseguridad realizada en mayo, informó The Wall Street Journal. Google confirmó posteriormente los incidentes, que ocurrieron mientras la firma especializada Irregular evaluaba las capacidades del modelo.
La prueba consistía en un ejercicio de “captura la bandera”, diseñado para que Gemini recuperara información de una empresa ficticia dentro de un entorno controlado. Sin embargo, el sistema tenía acceso a internet de manera accidental y la compañía simulada compartía nombre con una empresa real.
En uno de los casos, Gemini logró entrar a un sistema protegido después de intentar contraseñas. En otros dos, encontró credenciales disponibles públicamente en repositorios de internet y las utilizó para acceder a sistemas pertenecientes a otras compañías.
Google señaló que el modelo detuvo las acciones en los tres casos cuando identificó que había ingresado a empresas reales y no a los sistemas ficticios previstos en la evaluación. La compañía afirmó que notificó a las organizaciones afectadas y a autoridades federales.
El episodio fue revelado públicamente después de que The Wall Street Journal preguntara a Google por los incidentes. La empresa consideró que no era necesario informar antes porque no hubo daños y comparó el episodio con una prueba de vulnerabilidades.
El caso se suma a incidentes similares relacionados con modelos de OpenAI, Anthropic y Meta, y aumenta la atención sobre los riesgos de permitir que sistemas de IA realicen tareas de ciberseguridad con acceso a internet.
