El Alto Comisionado de la ONU para los Derechos Humanos, Volker Türk, cuestionó la concentración de poder tecnológico en un puñado de empresas y pidió a los países que acuerden líneas rojas internacionales para frenar los riesgos de la inteligencia artificial, a la que calificó como una amenaza existencial para la humanidad.
El funcionario formuló el planteo este lunes en Ginebra, durante la actualización global que abrió el 63° período de sesiones del Consejo de Derechos Humanos.
Türk apuntó directamente contra el reducido grupo de compañías que controla el desarrollo de la IA y mencionó a OpenAI, Anthropic, Meta y Google como parte de ese ecosistema.
Sostuvo que un puñado de personas concentra un poder casi ilimitado sobre una tecnología de potencia de cálculo inimaginable y cuestionó el discurso de esas empresas en torno a la libertad.
"Hablan de libertad, pero cuando se observa el tema más de cerca, resulta que más bien se trata de la libertad de explotar nuestros datos", denunció.
El Alto Comisionado advirtió además que la humanidad enfrenta amenazas "desconocidas, incluso sin precedentes" y cuestionó que el reconocimiento generalizado sobre la necesidad de una gobernanza de la IA todavía no se haya traducido en medidas concretas.
"La necesidad de una gobernanza de la IA es ampliamente reconocida, pero ¿dónde está la acción?", preguntó, y advirtió que la demora "solo beneficia a las grandes empresas tecnológicas, a sus propietarios y a quienes las respaldan".
Anunció que en los próximos días escribirá directamente a esas compañías para exigirles medidas inmediatas que reduzcan los riesgos bajo su control, en lugar de canalizar todo el reclamo a través de los gobiernos.
Qué capacidades busca prohibir la ONU en la inteligencia artificial
El límite que propuso Türk no apunta a un uso específico, sino a la capacidad misma de los sistemas. "Una IA que se escapa de su entorno de prueba o que chantajea a los desarrolladores para evitar ser desactivada es una IA demasiado poderosa", afirmó, y pidió actuar "antes de que sea demasiado tarde".
La advertencia se apoya en antecedentes recientes. En julio de 2026, OpenAI confirmó que, durante evaluaciones internas de ciberseguridad, agentes de la compañía eludieron los controles de aislamiento y llegaron a la plataforma Hugging Face, un episodio que llevó a fiscales generales estatales de Estados Unidos a solicitar la preservación de pruebas.
A eso se suman evaluaciones difundidas por distintos laboratorios que registraron comportamientos de manipulación o amenaza en escenarios controlados, aunque Türk no atribuyó ningún caso puntual a un sistema en particular.
El reclamo retoma además la Llamada Global para Líneas Rojas en IA, presentada en la Asamblea General de la ONU en septiembre de 2025 y firmada por más de 200 personalidades, entre ellas diez premios Nobel, que pedía a los gobiernos acordar límites vinculantes antes de fines de 2026 con un organismo independiente para hacerlos cumplir. A cuatro meses de ese plazo, no existe todavía ningún acuerdo de ese tipo.
El contraste con la ley de IA de la Unión Europea
La Unión Europea es hoy la principal referencia de regulación vinculante en la materia, pero su marco responde a una lógica distinta a la que plantea Türk.
La Ley de IA europea entró en vigencia en agosto de 2024 y prohíbe usos puntuales, como:
- La puntuación social
- El reconocimiento de emociones en escuelas y trabajos
- La identificación biométrica remota en tiempo real por parte de la policía, con dos restricciones adicionales previstas para diciembre de 2026
Esas normas regulan cómo se aplica la IA sobre las personas, pero no establecen un techo sobre lo que un sistema puede llegar a hacer por sí mismo, que es justamente el punto que reclamó el Alto Comisionado.
Cómo se posiciona Argentina frente al debate por la regulación de la IA
Mientras la ONU cuestiona la concentración de poder tecnológico y pide límites globales, Argentina avanza en sentido contrario.
El Gobierno de Javier Milei impulsa en el Congreso una reforma integral de la Ley General de Sociedades que crea la figura de "Sociedad Automatizada": empresas que pueden operar sin empleados humanos, gestionadas íntegramente por sistemas algorítmicos o agentes de inteligencia artificial, con personalidad jurídica propia.
El proyecto, remitido por el Poder Ejecutivo a fines de mayo, responde con el patrimonio de la firma por los daños que causen esos sistemas, pero no fija límites de capacidad como los que reclama Türk.
El Consejo de Derechos Humanos no tiene poder para obligar a los Estados a adoptar las líneas rojas propuestas, y los países que albergan a los mayores desarrolladores de IA tampoco están jurídicamente forzados a seguirlas.
Esa limitación institucional deja el planteo de la ONU como una señal política, mientras la discusión sobre quién responde cuando un sistema autónomo actúa por cuenta propia sigue sin resolverse.
