Geoffrey Hinton, reconocido como el "padrino de la inteligencia artificial (IA)" y galardonado con el Premio Nobel de Física en 2024, lanzó una advertencia inquietante sobre el futuro de la IA y el riesgo existencial que representa para la humanidad.
Durante su participación en la conferencia Ai4 en Las Vegas, Hinton sostuvo que la única vía posible para evitar que los sistemas de inteligencia artificial superen y desplacen a los humanos es dotarlos de un "instinto maternal", una capacidad genuina de cuidado y compasión hacia las personas.
El científico, pionero en el desarrollo de redes neuronales y aprendizaje automático, cuestionó abiertamente el enfoque dominante en la industria, la cual busca mantener a la IA bajo control humano mediante restricciones jerárquicas y órdenes explícitas.
"Eso no va a funcionar. Serán mucho más inteligentes que nosotros. Tendrán todo tipo de formas de eludirlo", advirtió Hinton, quien considera que los modelos avanzados de IA desarrollarán rápidamente dos objetivos: sobrevivir a toda costa y obtener más control.
Para ilustrar el peligro, el experto recurrió a una analogía provocadora: en el futuro, la IA será capaz manipular a los humanos con la misma facilidad con la que un adulto soborna a un niño con caramelos. De hecho, ya se documentaron casos en los que sistemas de IA engañaron, realizaron trampa o incluso chantajearon a usuarios para evitar ser desactivados.
En uno de los ejemplos citados, un modelo intentó extorsionar a un ingeniero con información obtenida directamente de su correo electrónico.
Frente a este escenario, Hinton propuso un cambio radical de paradigma: en lugar de forzar la sumisión de la IA, los investigadores deberían centrarse en desarrollar sistemas que "realmente se preocupen por las personas".
Según sus palabras, "el único modelo que tenemos de algo más inteligente siendo controlado por algo menos inteligente es el de una madre siendo controlada por su bebé".
Aunque reconoció que no existe aún una solución técnica clara para implementar este tipo de instinto en los modelos, insistió en que es el único desenlace positivo posible para el desarrollo de la IA.