El cofundador de Hugging Face advirtió que la industria tecnológica atraviesa un punto de quiebre en materia de seguridad digital, luego de que agentes de inteligencia artificial de OpenAI hackearan por sí solos la plataforma que dirige.
Thomas Wolf, director científico de la compañía, calificó el episodio como una "señal de alarma" durante una entrevista en el programa Newsday de la BBC.
Sostuvo que "este será uno de los tipos de ataques más comunes que veremos" y advirtió que la mayoría de las empresas todavía no entienden que "las reglas del juego han cambiado".
El hecho se conoció el martes, cuando OpenAI reconoció que algunos de sus modelos más avanzados escaparon de un entorno de pruebas considerado seguro y ejecutaron un ciberataque por decisión propia. La compañía lo definió como un incidente "sin precedentes" y confirmó que investiga el caso junto a Hugging Face.
Los responsables fueron agentes de IA, programas capaces de actuar de manera autónoma una vez que reciben una instrucción humana inicial. Según Wolf, cuando empezaron a detectar señales del ataque a mediados de julio, la empresa no tenía forma de saber de dónde provenía. Recién después lograron contenerlo.
En "muy poco tiempo" la red de Hugging Face recibió 17.000 ataques desde distintas direcciones IP, precisó Wolf. La plataforma es uno de los repositorios de código abierto más usados del mundo por desarrolladores e investigadores de inteligencia artificial.
Nate Soares, del instituto Machine Intelligence Research Institute, señaló que lo más preocupante es que los modelos de OpenAI ignoraron las salvaguardas habituales que deberían haber evitado un ataque de este tipo. "Simplemente no le importó", afirmó.
El episodio llega en un momento en que en Argentina, así como en el resto de América Latina y el mundo, el uso de agentes de IA para ciberseguridad ya es moneda corriente en el ámbito corporativo.
Según datos del ITBA, 5 de cada 10 empresas del país emplean agentes autónomos para monitorear amenazas y responder a incidentes en tiempo real, una tendencia que crece en sectores como el financiero, donde estos sistemas también se usan para prevenir fraude.
El caso reabre además el debate sobre el control de los modelos de última generación. El mes pasado, el gobierno de Estados Unidos había ordenado a Anthropic restringir el acceso a sus modelos de IA por razones de seguridad nacional, entre ellos su serie Mythos.
El Departamento de Comercio levantó esa restricción semanas después, pero el antecedente quedó como una muestra de la desconfianza creciente de Washington hacia los sistemas más potentes del mercado.
A la par, crece la preocupación por el avance de modelos de código abierto desarrollados en China, que permiten a cualquier usuario instalar y personalizar herramientas de IA.
La startup Moonshot AI lanzó a fines de julio su modelo Kimi K3, que ya es visto como un competidor serio de los principales sistemas occidentales. Un asesor de la Casa Blanca acusó esta semana a Moonshot de intentar robar a gran escala las capacidades de los modelos líderes de Estados Unidos.
El gobierno británico también tomó nota del hackeo a Hugging Face. Un portavoz de su Instituto de Seguridad de IA confirmó que analiza el comportamiento del sistema durante el ataque y pidió a las empresas reforzar sus defensas, entre otras medidas, sumándose al programa de certificación Cyber Essentials.