La adopción acelerada de la inteligencia artificial en las empresas está generando riesgos que todavía no se controlan adecuadamente.
Uno de los fenómenos más preocupantes es el shadow AI, es decir, el uso de herramientas de IA por parte de empleados sin supervisión del área de sistemas, lo que puede derivar en filtraciones de datos o decisiones sesgadas.
La IA "entró por la ventana" en las organizaciones, ya que fue adoptada antes de que existieran políticas claras para regularla.
Ejemplos comunes incluyen empleados que cargan bases de datos de clientes en chatbots gratuitos, exponiendo información crítica fuera del perímetro de seguridad corporativo.
El punto de partida no es prohibir la IA, sino establecer reglas claras de gobernanza de datos, clasificando qué información es crítica, sensible o pública.
También hay que estar alerta sobre riesgos en desarrollos internos, como chatbots corporativos mal diseñados que pueden dejar puertas traseras abiertas o ser vulnerables a ataques de prompt injection.
Otro fenómeno creciente es el uso de texto oculto en documentos para manipular sistemas de IA, especialmente en procesos de selección de personal o cotizaciones comerciales. Esto puede sesgar resultados si no hay supervisión humana ni herramientas capaces de detectar ese contenido.
El especialista enfatiza que la preocupación principal no es la tecnología en sí, sino la velocidad con la que se delegan decisiones críticas —como aprobaciones de créditos, selección de candidatos o gestión de accesos— sin mantener un control humano efectivo.
A la inteligencia artificial le dimos un poder enorme, pero todavía no le pusimos el mismo nivel de responsabilidad.
En el sector público, la vara debería ser más alta, con auditorías independientes, trazabilidad completa y soberanía sobre los datos. Y frente al riesgo de plataformas gratuitas, existen soluciones empresariales como Microsoft Copilot, que operan bajo entornos seguros y con gobernanza definida.
La transformación digital avanza más rápido que la maduración en seguridad de las organizaciones. El rol de los integradores tecnológicos será clave para cerrar esa brecha y evitar que la innovación se convierta en la puerta de entrada al próximo incidente.
*Por Facundo Balmaceda, especialista en Ciberseguridad de SONDA Argentina.