El pasado 5 de diciembre tuvimos el honor de recibir en nuestras oficinas de Buenos Aires a Milagros Miceli, la investigadora argentina que fue reconocida por la revista Time como una de las 100 personas más influyentes del mundo en materia de inteligencia artificial.
Milagros es muy crítica de las empresas que desarrollan IA, y eso es justamente lo que a nosotros nos interesa y desafía ya que nos provoca a hacernos nuevas preguntas para seguir mejorando y ampliando la perspectiva.
Su exposición y el conversatorio que se generó luego dejó muchas reflexiones interesantes. Milagros abre una mirada alejándose del discurso dominante de hiper entusiasmo por el desarrollo y consumo exagerado de IA; también conocido como "hype".
Es más preciso hablar de tecnologías de automatización, ya que el término IA tiende a ocultar su funcionamiento real, su materialidad y sus impactos sociales, laborales y ambientales.
Milagros sostiene que la IA (especialmente la generativa, que está al alcance de todo el mundo) no es inmaterial ni neutral; sino que se basa en tres formas centrales de explotación:
También se cuestionó la idea de que la IA sea objetiva o neutral. Por el contrario, se la define como una tecnología epistémica, capaz de imponer clasificaciones, visiones del mundo y "verdades", que reflejan los intereses e ideologías de quienes la diseñan. Esto se ve, por ejemplo, en clasificaciones rígidas de género o en la ausencia de diversidad en los criterios de entrenamiento.
También se analizó la concentración de poder económico, político y simbólico en pocas empresas tecnológicas, que no solo obtienen ganancias extraordinarias sino que influyen en la forma en que se produce conocimiento y se toman decisiones sociales.
Frente a este panorama, se propone no caer ni en el tecno-optimismo ingenuo ni en la distopía paralizante. Se plantea la necesidad de recuperar la pregunta "para qué y para quién" antes de aplicar IA, promover regulaciones, fortalecer el pensamiento crítico y diseñar tecnologías desde las necesidades reales de las comunidades, especialmente desde el sur global.
La conclusión general del conversatorio invita a no resignarse, a imaginar alternativas posibles y a discutir colectivamente qué tipo de tecnologías se quieren desarrollar, bajo qué condiciones y con qué impacto social, ambiental y humano.
Nosotros, como compañía que fabrica tecnología, nos encontramos en una posición en la cual tenemos una responsabilidad enorme. Esta dejó de ser una conversación técnica y pasó a ser una conversación ética.
La IA abre un nuevo paradigma, en el que lo que está en juego no es una tecnología sino el posicionamiento humano, individual y colectivo, y la necesidad de que cada uno de nosotros defina si lo que queremos perpetuar es una lógica extractivista, que destruye y genera solo para pocos, o ecosistémica, donde ganemos todos.
*Por Juan Santiago, CEO y Founder de Santex y miembro del board de la Liga del Bien de IA