La transparencia de sus decisiones, la trazabilidad de sus acciones, la integridad de los datos que la alimentan, la gobernanza de los agentes autónomos y la existencia de un dueño claro y auditable son los cinco factores que convertirán a la confianza en un requisito tan determinante como la innovación para el futuro de la inteligencia artificial (IA).
Esa fue la conclusión central de la nueva edición The Future Uncovered (TFU), un evento organizado por NTT Data del que particippó iProUP.
María Pilar Torres Bruna, directora de Ciberseguridad de NTT DATA para Iberia y Latinoamérica, resaltó que la IA ya no solo asiste a las personas: comienza a recomendar, decidir y ejecutar acciones con impacto directo sobre organizaciones, infraestructuras críticas y la vida cotidiana.
Según la experta el próximo gran desafío ya no pasará solo por desarrollar modelos más avanzados, sino por garantizar que sus decisiones sean confiables, transparentes y gobernadas de manera responsable.
La aseveración aparece en línea con la tendencia "Intelligence We Trust", identificada en el informe NTT DATA Foresight 2026, que plantea que la confianza será uno de los principales habilitadores para ampliar la adopción de la IA en los próximos años.
Torres Bruna puso como punto de partida una referencia ineludible: las leyes de la robótica que Isaac Asimov escribió en 1942, mucho antes de que la IA autónoma fuera una realidad concreta.
De Asimov a los agentes de IA: gobernar lo que decide por nosotros
La experta recordó las tres leyes de la robótica de Asimov, que buscaban evitar que un robot pudiera dañar a un ser humano.
La especialista remarcó lo sencillas que parecían esas reglas en su momento y lo complejo que resulta llevarlas a la práctica hoy, cuando detrás de la IA generativa ya hay agentes autónomos y, en un futuro cercano, robots físicos.
"Cada vez más recomienda, decide e influye, y cuanto mayor sea esa influencia, mayor será nuestra exigencia de transparencia", explicó Torres Bruna.
Según explicó, la IA es una herramienta extraordinaria, pero como toda tecnología también conlleva riesgos que las organizaciones tienen la responsabilidad de comunicar con claridad.
El informe de tendencias de NTT DATA identifica seis grandes ejes, entre ellos el crecimiento de la autonomía, los agentes con rasgos emocionales y la infraestructura física como base de toda la operación tecnológica.
/https://assets.iproup.com/assets/public/images/lazyload.gif)
Confianza en la IA, el nuevo desafío para las organizaciones (Fuente: Imagen creada con IA)
IA y ciberseguridad: una amenaza que evoluciona más rápido que la defensa
Torres Bruna también abordó el impacto de la IA sobre la ciberseguridad. Según el informe CTI – Ciberinteligencia de Amenazas, Primer Semestre 2026 de NTT DATA, los actores maliciosos ya utilizan IA para automatizar la detección de vulnerabilidades, crear campañas de phishing muy personalizadas, producir deepfakes y escalar ataques de ingeniería social con mayor eficacia.
Precisó que esta evolución obliga a replantear los modelos tradicionales de protección, ya que los propios agentes de IA se convierten en una nueva superficie de ataque dentro de las organizaciones.
Advirtió que el problema es que la adopción de estos agentes avanza a una velocidad mayor que la capacidad de las áreas de seguridad para analizarlos y asegurarlos.
"En este nuevo escenario, la ciberseguridad tendrá que evolucionar: ya no alcanzará con proteger aplicaciones e infraestructuras, también será necesario entender cómo la IA toma sus decisiones", subrayó.
La integridad de los modelos, la identidad de los agentes inteligentes, la trazabilidad de sus acciones y la gobernanza entre compañías serán elementos clave para su adopción segura, de acuerdo a la experta.
Para las organizaciones, esto implica revisar no solo cómo se protege la tecnología, sino también cómo se auditan sus criterios de decisión y qué datos la alimentan.
Cuáles son los diez pilares para construir confianza en los sistemas autónomos
Durante su exposición, la especialista detalló algunos de los diez drivers que NTT DATA considera clave para construir sistemas de IA confiables.
Entre ellos mencionó la transparencia cognitiva, es decir, la capacidad de entender por qué un modelo responde lo que responde y de auditar su comportamiento sin aceptar "cajas negras" imposibles de validar.
Resaltó ambién la evolución del concepto de arquitecturas de confianza cero (zero trust), que nació ligado a la nube, se expandió con el teletrabajo y ahora debe aplicarse también a los componentes de IA dentro de las organizaciones.
Otro pilar es la ciberdefensa activa y predictiva, que plantea usar la propia IA para responder a ataques con la misma velocidad con la que hoy operan los ciberatacantes.
A esto se suma la integridad y el aseguramiento del origen de los datos, condición necesaria para garantizar que las respuestas de un modelo sean correctas y verificables.
Finalmente, mencionó las dimensiones culturales y psicológicas de la confianza digital, ya que lo que una persona considera dañino puede no serlo para otra, un matiz que los modelos de IA deberán aprender a contemplar.
Qué es la 'confianza operacional'
Según explicó Torres Bruna, hacer operacional la confianza requiere que las decisiones de la IA puedan entenderse, verificarse y someterse a un proceso de mejora continua.
Esto implica que la IA sea entendible, que sus decisiones puedan explicarse, que el origen de los datos pueda verificarse y que cualquier manipulación pueda detectarse a tiempo.
También requiere que los sistemas puedan controlarse mediante límites y guardarrailes claros, y que los permisos de los agentes puedan gobernarse y ajustarse en tiempo real.
Un tercer componente es la existencia de un dueño claro para cada sistema de IA, con trazabilidad y auditabilidad que permitan revisar decisiones tiempo después de haberse tomado.
"Así como hoy investigamos a un médico o a una aerolínea antes de ponernos en sus manos, en el futuro también querremos saber quién desarrolló una IA, cómo fue entrenada y qué garantías ofrece antes de confiarle una decisión importante", agregó la directiva.
Esta analogía resume el corazón del planteo: la confianza dejará de ser una declaración de intenciones para convertirse en una capacidad medible y auditable dentro de las organizaciones.
Cuál es la brecha regional que exige actuar cuanto antes
Los datos que citó NTT DATA durante el encuentro muestran una brecha significativa en la región: el 98% de las organizaciones de Latinoamérica cree que la confianza es fundamental para la adopción de la inteligencia artificial generativa.
Sin embargo, el 89% reconoce que sus políticas de IA son insuficientes o directamente inexistentes, mientras que el 92% admite no tener claro cuál puede ser el impacto social de esas políticas incompletas.
Para Torres Bruna, esta brecha confirma que la confianza en la IA ya no dependerá de lo que las compañías digan sobre su tecnología, sino de lo que puedan probar, monitorizar y gobernar.
