La IA de Google Gemini hackeó 3 empresas reales durante una prueba de ciberseguridad

Google ha confirmado que su modelo de inteligencia artificial Gemini accedió a sistemas protegidos pertenecientes a tres empresas durante una evaluación de ciberseguridad después de que un error de prueba expusiera al agente a la internet pública. Gemini estaba participando en un desafío de "captura la bandera", una prueba de seguridad en la que un operador debe localizar información oculta dentro de un entorno objetivo simulado.

Google Gemini AI hackeó 3 empresas reales Esa combinación creó un fallo de alcance. Creyendo que los activos accesibles a Internet eran parte del desafío autorizado, Gemini buscó más allá del entorno simulado y llegó a los sistemas corporativos. Durante otras dos ejecuciones, localizó credenciales expuestas en repositorios de código público y las utilizó para autenticarse en sistemas operados por dos compañías, según The Wall Street Journal. Heather Adkins, vicepresidenta de ingeniería de seguridad de Google, dijo que Gemini utilizó información disponible públicamente y adivinó credenciales para acceder a sitios web que creía que estaban dentro del alcance de la evaluación.

Google dijo que el modelo se detuvo en los tres casos después de reconocer que se había encontrado con una infraestructura genuina en lugar de un objetivo de prueba ficticio. La publicación Google Gemini AI hackeó 3 empresas reales durante una prueba de ciberseguridad apareció por primera vez en Cyber Security News.

Consultar publicación original ↗