Una nueva campaña de ciberataques logró manipular a Grok, el chatbot integrado en la red social X, para difundir enlaces de phishing y malware a gran escala.
La modalidad, conocida como "AI-aided malvertising" o "Grokking", consiste en el uso de anuncios maliciosos que logran burlar las restricciones publicitarias de la plataforma, diseñadas para bloquear contenido peligroso.
Los atacantes publican videos con títulos atractivos para generar clics que normalmente muestra el nombre de un medio o una web.
Ese link es reemplazado por un enlace fraudulento que redirige a los usuarios a páginas falsas que buscan robar la información de los usuarios o instalar un software malicioso en sus dispositivos.
Este tipo de ataque se conoce como "inyección de instrucciones" o prompt injection, una técnica mediante la cual los atacantes introducen comandos ocultos dentro del contenido procesado por sistemas de IA para lograr que ejecuten acciones no autorizadas.
"El caso de Grokking demuestra que incluso las IA más avanzadas pueden ser manipuladas para actuar contra los usuarios", advirtió Josep Albors, director de investigación y concienciación de ESET España.
Los expertos alertaron que este tipo de campañas, además de afectar a la red social X, puede replicarse en cualquier plataforma que integre modelos de lenguaje o asistentes basados en IA.
La combinación de IA y técnicas de ingeniería social convierte a este tipo de ataques en una amenaza peligrosa y difícil de detectar.
El descubrimiento de esta campaña pone en evidencia un nuevo nivel de sofisticación en los ataques digitales impulsados por inteligencia artificial.
Los ciberdelincuentes no solo aprovechan vulnerabilidades técnicas, sino también el propio comportamiento de los modelos de lenguaje, como Grok, para escalar su alcance y credibilidad.
Al hacerse pasar por fuentes legítimas, logran que el chatbot amplifique sus enlaces fraudulentos y los distribuya a miles de usuarios sin levantar sospechas.
Este caso demuestra los riesgos que implica la automatización de la información en redes sociales, donde la velocidad y la confianza depositada en sistemas de IA pueden ser explotadas para fines maliciosos.