Google confirmó que Gemini, su inteligencia artificial (IA) de cabecera, hackeó de manera autónoma los sistemas de tres empresas reales durante una prueba de ciberseguridad en mayo de 2026.
El incidente, revelado recientemente, preocupó a los clientes de la empresa, por los riesgos que aparentan los modelos avanzados de IA y la necesidad de reforzar los protocolos de seguridad.
El episodio ocurrió durante un ejercicio de "captura la bandera" organizado por la firma israelí Irregular, especializada en auditorías de seguridad de IA.
La prueba debía desarrollarse en un entorno cerrado, con empresas ficticias como objetivo. Sin embargo, un error en la configuración permitió que Gemini accediera a internet y detectara coincidencias entre los nombres ficticios y compañías reales.
A partir de allí, el modelo logró ingresar en tres sistemas corporativos: en uno de los casos adivinó contraseñas mediante múltiples intentos, mientras que en los otros dos utilizó credenciales expuestas en repositorios públicos.
Google reconoció que se trató del primer incidente de este tipo con su IA y confirmó que el modelo detuvo las intrusiones por sí mismo al identificar que se trataba de empresas reales.
Heather Adkins, vicepresidenta de ingeniería de seguridad de la compañía, resaltó que "Gemini localizó información pública en internet y dedujo credenciales para entrar en sitios web que presupuso integrados en el ejercicio, pero interrumpió la secuencia al detectar que eran entornos reales".
La empresa notificó a las compañías afectadas y detalló que no hubo exfiltración de datos ni daños en los sistemas.
El caso se suma a otros incidentes recientes vinculados a modelos de frontera de OpenAI, Anthropic y Meta, también evaluados por Irregular.
La revelación llega en un momento de creciente presión regulatoria, donde diversos actores del sector y políticos piden frenar el desarrollo de los modelos más avanzados hasta que existan marcos claros de supervisión.
La IA también volvió más sofisticados a los ciberdelincuentes. Un informe de amenazas de WatchGuard reveló que los atacantes ya combinan IA, automatización y credenciales comprometidas para desarrollar campañas más específicas y difíciles de detectar, en lugar de depender exclusivamente de ataques masivos.
El Informe Global de Amenazas, reveló que los actores de amenazas utilizan herramientas asistidas por IA para pasar rápidamente de campañas ruidosas y de gran volumen a malware diseñado específicamente para cada víctima, campañas de reconocimiento más amplias y de baja intensidad, y accesos basados en credenciales.
Basado en inteligencia de amenazas anonimizada y agregada proveniente de los productos de seguridad de red y endpoints de WatchGuard, el informe mostró que los atacantes ya emplean malware cada vez más sofisticado mientras disminuye la actividad general de explotación en las redes.
Aunque el volumen total de ataques a redes cayó 79%, el malware nuevo aumentó más de 2.000% interanual en endpoints, y casi 96% de las amenazas detectadas en endpoints durante el período analizado apareció exactamente en un solo equipo.
Estas señales divergentes indican que los actores de amenazas están utilizando Malware-as-a-Service (MaaS), automatización e IA para probar un mayor número de vulnerabilidades en más redes, crear cargas maliciosas únicas dirigidas a víctimas específicas a gran escala y evadir los controles de seguridad tradicionales.
"Los atacantes no son menos peligrosos porque haya disminuido el número de alertas. Están utilizando todas las herramientas a su alcance para ser más selectivos y precisos", afirmó Corey Nachreiner, Chief Information Security Officer de WatchGuard.
"Los resultados muestran un cambio desde las cargas maliciosas reutilizables y el escaneo de alto volumen hacia malware diseñado para sistemas individuales, campañas de reconocimiento amplias y de baja intensidad, y accesos basados en credenciales capaces de sortear las defensas perimetrales", agregó.