Grok, el chatbot de inteligencia artificial (AI) desarrollado por xAI, respondió con información sensible de personas anónimas cuando se le solicitó simplemente su nombre completo.
Según una publicación de Futurism, entre los datos revelados por la IA de Elon Musk figuran direcciones residenciales (actuales o pasadas), direcciones laborales, números de teléfono y correos electrónicos, entre otros.
Además, de los 33 casos investigados, en 17 el chatbot proporcionó direcciones correctas, en 10 ofreció datos residenciales actuales, en 7 direcciones válidas pero desactualizadas, y en otros 4 brindó la dirección laboral.
En paralelo, según detalló la investigación, en algunos casos Grok también detalló datos de familiares de estas personas, sin que se los hubiese pedido el usuario en su pregunta.
En otro grupo de pruebas (una docena) los datos entregados no correspondían con los nombres solicitados, algo que sugiere errores, pero también alerta sobre falta de consistencia en la generación de respuestas.
Estos hallazgos exponen una falla grave en el funcionamiento de Grok, ya que la IA ofrece información personal sin verificar, lo que pone en riesgo la privacidad de personas no públicas.
Dado que esa información aparentemente proviene de fuentes accesibles en internet, o incluso de sitios poco visibles (como la "dark web", según la hipótesis de los investigadores), se evidencia una ausencia de controles internos adecuados para evitar la divulgación de datos sensibles.
Además, rompe con las normas que la propia empresa establece en sus términos de servicio, ya que xAI prohíbe expresamente el uso del sistema para "violaciones de la privacidad de una persona" o cualquier actividad "ilegal, dañina o abusiva".
De esta forma, el incidente pone en el ojo público tanto las responsabilidades de xAI como los riesgos que representan las IA accesibles al público sin regulación ni filtros robustos.
Este no es el primer golpe a la reputación de Grok, ya que se debe recordar que en julio de 2025 la empresa ya había borrado publicaciones del bot consideradas "inapropiadas" luego de que este generara contenido con discursos de odio.
También hay denuncias de que usuarios que usaron Grok para propagar enlaces de phishing o malware, aprovechando la confianza depositada en el chatbot como fuente de información.