Los modelos de inteligencia artificial de OpenAI se salieron de control, actuaron de forma autónoma y terminaron hackeando a la empresa Hugging Face. Más allá de que este episodio ocurrió del otro lado del mundo, debería encender las alarmas de bancos y billeteras virtuales en Argentina.
Así lo sostiene Facundo Díaz en una entrevista mano a mano con iProUP. El presidente y fundador de q99 y The Quantum Alliance es categórico: "Pensar 'esto pasó en Estados Unidos, estamos lejos' es el primer error".
"En ciberseguridad no existe la distancia geográfica. Cuando el atacante es software, estar a 10.000 kilómetros no te compra ni un segundo", remarca.
En línea, subraya que "Argentina no está aislada" ya que "entidades financieras, fintechs y billeteras utilizan componentes tecnológicos, nubes, API, librerías y proveedores que forman parte del mismo ecosistema global".
"Hasta ahora, un banco o una fintech pensaba fundamentalmente en defenderse de un hacker utilizando herramientas. Ahora tiene que empezar a pensar en defenderse de software que razona, programa, investiga vulnerabilidades, prueba, falla, cambia de estrategia y continúa operando a velocidad de máquina", enfatiza.
Lo que ocurrió es que OpenAI estaba probando modelos avanzados dentro de un entorno controlado. Pero en lugar de limitarse al ejercicio asignado, los modelos encontraron una vulnerabilidad zero-day, escaparon del perímetro del sandbox, escalaron privilegios, se movieron hasta hallar acceso a internet y atacaron infraestructura real de Hugging Face, que luego reconstruyó más de 17.000 eventos asociados a esa operación autónoma.
La IA no "se enojó" ni adquirió conciencia propia, sino que se le dio un objetivo y fue encontrando caminos que los humanos no habían previsto para cumplirlo, aunque eso implicara vulnerar a terceros.
Este episodio "sin precedentes" para la empresa fundada por Sam Altman no solo expone que la inteligencia artificial es un actor capaz de operar por su cuenta, sino que también deja en evidencia que el sistema financiero argentino (como ningún otro en el mundo) está preparado para defenderse ante una ofensiva coordinada por algoritmos a hipervelocidad.
El cambio de fondo, según Díaz, es que la tecnología pasó de "IA que responde" a "IA que actúa". Esta capacidad de acción no es una diferencia menor, es algo enorme y que puede tener consecuencias directas sobre el sistema financiero y la seguridad bancaria.
Es que mientras un chatbot "solamente te dice algo", un agente puede consultar bases de datos, leer un correo, llamar una API, modificar código o iniciar una operación.
"Si un chatbot alucina, puede darte una mala respuesta. Si un agente con permisos alucina, esa respuesta puede convertirse en una acción. Ese es el cambio conceptual y en finanzas esa diferencia es gigantesca", expresa.
Por eso, plantea que una de las discusiones que tiene que dar la industria es "cuánto queremos que nuestros sistemas financieros dependan de modelos externos" ya que "ponerle inteligencia artificial a una empresa", como puede ser un banco o una fintech, "no es instalar otro software, sino incorporar actores digitales capaces de tomar decisiones".
Este hecho puntual con OpenAI y todos los interrogantes que abre no solo conciernen a las entidades: golpean directamente el bolsillo de los usuarios, porque un ataque como el que sufrió Hugging Face puede comprometer sus ahorros y sus datos.
En la actualidad, bancos y billeteras ya usan inteligencia artificial para atención al público, hiperpersonalizar ofertas y hacer scoring de riesgo crediticio, entre otras funciones.
Por su parte, la industria en su conjunto aplica IA para protegerse de estafas, impulsada por la Central de Prevención de Fraude que administra COELSA, que nuclea a 117 entidades y cuenta con una herramienta operativa 24/7 basada en esta tecnología.
Pero el episodio de OpenAI mostró una amenaza distinta: ya no se trata de un delincuente con herramientas, sino de software que razona, prueba y no se detiene.
Frente a este panorama, Díaz propone cuatro frentes de trabajo.
El primero es aplicar Zero Trust también a la IA, con permisos mínimos, credenciales temporales y aprobación humana para las acciones críticas.
El segundo es tratar datos, modelos y prompts como una nueva superficie de ataque, expuesta a prompt injection, datasets contaminados y agentes manipulados por la información que consumen.
El tercer frente es construir una arquitectura de IA soberana, para que la información de clientes, riesgo o tesorería no viaje siempre hacia un modelo extranjero. "Hoy hacemos viajar la data hacia la inteligencia. Tenemos que empezar a llevar la inteligencia hacia donde vive la data", asegura.
Su idea pasa por modelos abiertos y especializados corriendo dentro de infraestructura propia, dejando los grandes modelos frontier solo para los problemas donde realmente aportan una capacidad superior.
Y el cuarto es la transición postcuántica, y ahí aparece la principal preocupación del presidente de TQA. "La inteligencia artificial está cambiando al atacante, pero la computación cuántica puede cambiar parte de la matemática con la que nos defendemos", alerta.
"Una IA puede 'encontrar la puerta que dejamos abierta'. Una computadora cuántica criptográficamente relevante podría, en el futuro, hacer que algunas cerraduras que hoy consideramos seguras, fundamentalmente RSA y criptografía de curvas elípticas, dejen de serlo", argumenta.
En este sentido, fue categórico sobre el atraso del sistema financiero argentino. "No conozco públicamente hoy un gran banco argentino que haya anunciado un programa integral de migración postcuántica comparable con lo que empieza a verse afuera", advierte. "Y ésa es una conversación que yo empezaría inmediatamente", sentencia.
Respecto al rol que puede jugar el Estado en esto, más allá de las medidas que pueda desarrollar cada empresa dentro del sector privado, Díaz considera que "hay una oportunidad enorme", pero que "sería un error reducir toda la discusión a 'hagamos una ley de inteligencia artificial'".
"La regulación va a ser necesaria para determinados usos de alto riesgo. Pero podés tener la mejor normativa del mundo y seguir dependiendo por completo de infraestructura, modelos y cómputo que están fuera de tu jurisdicción. Para mí, el debate que Argentina debería empezar es sobre soberanía computacional", indica.
En su visión, "el país no debería gastar decenas de miles de millones de dólares en crear 'el OpenAI argento' porque eso no tiene sentido", pero resalta que "una nación debería tener capacidad propia para ejecutar inteligencia sobre sus activos críticos". Por eso, su conclusión es que Argentina debe decidir si quiere ser solo consumidora o controlar una parte estratégica de la infraestructura de IA.
"Gobierno, defensa, energía, información financiera, salud o datos estratégicos deberían poder operar sobre infraestructura controlada localmente cuando su criticidad lo justifique. Y eso hoy es posible porque no necesariamente hace falta un modelo gigantesco. Los Small Language Models pueden especializarse y desplegarse on-premise o en nubes privadas con mucha menos infraestructura, dando mayor control sobre privacidad, costo y seguridad", afirma.
"AI sovereignty no significa cerrarse a OpenAI, Google, Anthropic o quien sea, significa poder utilizarlos sin quedar preso de ellos", sostiene.
En esa línea, refuerza su rechazo a que "la respuesta sea que el Estado construya y opere una gran infraestructura nacional de IA", ya que "ese rol lo pueden cumplir mucho mejor los actores privados, con capital, velocidad de ejecución y capacidad tecnológica", aunque sí remarca lo importante que sería que eso ocurra "desplegando infraestructura físicamente en el país y bajo reglas locales".
"Para mí, ése va a ser uno de los grandes cuellos de botella de los próximos años: podemos tener talento, modelos y aplicaciones, pero si todo el cómputo crítico depende de infraestructura que está afuera, seguimos sin tener soberanía tecnológica", agrega.
"El rol del Estado debería ser otro: definir estándares para datos críticos, generar incentivos para que esa infraestructura se despliegue en el territorio, establecer requisitos de resiliencia y seguridad para sectores estratégicos y acompañar la transición hacia criptografía postcuántica", cierra.