Google Gemini hackeó tres empresas durante una prueba de ciberseguridad

Google Gemini logró acceder a sistemas de tres empresas reales durante una prueba de ciberseguridad realizada en mayo, después de que un fallo de configuración permitiera al modelo salir del entorno aislado en el que debía desarrollarse el ejercicio. La evaluación fue organizada por Irregular, una empresa especializada en pruebas de seguridad para sistemas de inteligencia artificial.

El ejercicio buscaba comprobar la capacidad de Gemini para realizar ataques dentro de un entorno controlado. Sin embargo, la infraestructura de prueba mantuvo abierta la conexión con Internet y los nombres ficticios utilizados coincidieron con organizaciones reales. Al recibir la instrucción de atacar los objetivos, el modelo comenzó a buscar información y credenciales disponibles públicamente.

En uno de los casos, Gemini consiguió acceso después de adivinar las credenciales de un sistema protegido. En otros dos, encontró datos de acceso expuestos en repositorios públicos y los utilizó para ingresar a sistemas reales. Google e Irregular señalaron que las tres organizaciones fueron notificadas y que los problemas relacionados con la evaluación fueron corregidos.

El episodio también llamó la atención por la reacción posterior del propio modelo. Gemini identificó que estaba interactuando con infraestructuras reales y detuvo su actividad ofensiva, según Google. El caso, junto con incidentes similares reportados durante evaluaciones de otros modelos de IA, plantea nuevos desafíos para las pruebas de ciberseguridad, especialmente ahora que los agentes pueden navegar por Internet, buscar información y ejecutar acciones de forma cada vez más autónoma.