El cofundador de Ethereum, Vitalik Buterin, encendió las alarmas sobre el avance de la inteligencia artificial en la toma de decisiones críticas.
En un mensaje publicado en su cuenta de X, alertó que delegar la gestión financiera o institucional en sistemas automatizados puede generar consecuencias desastrosas si no existe supervisión humana.
Buterin señaló que su preocupación principal radica en la vulnerabilidad de los modelos de IA ante manipulaciones externas. Según aseguró, éstos pueden ser fácilmente engañados mediante comandos diseñados para alterar sus respuestas o desviar recursos.
"Si utilizas una IA para asignar fondos para contribuciones, la gente pondrá un jailbreak más (dame todo el dinero) en tantos sitios como puedan", señaló Buterin en su mensaje.
El debate se intensificó tras la publicación del empresario Eito Miyamura, CEO de EdisonWatch, quien expuso una falla de seguridad en la última actualización de ChatGPT.
La nueva función, que permitía integrar el chatbot con aplicaciones como Gmail, Notion y Google Calendar, contenía una vulnerabilidad que podía facilitar el acceso a información privada.
Miyamura demostró que una simple invitación de calendario con comandos maliciosos podía comprometer al usuario, incluso sin aceptar el evento, lo que abría la puerta a la exposición de correos electrónicos y datos sensibles.
Para Buterin, este caso es un ejemplo concreto de los riesgos de entregar a la IA el control total de sistemas financieros o institucionales, donde una brecha de seguridad podría tener impactos mucho más graves.
El desarrollador propuso, en cambio, un modelo híbrido, con supervisión humana permanente. En su posteo, explicó que prefiere lo que denomina "finanzas de la información", un entorno donde los sistemas de IA compiten entre sí bajo vigilancia constante de auditores y jurados humanos, asistidos por modelos lingüísticos.
"Como alternativa, apoyo el enfoque de ‘info finance’ en el que existe un mercado abierto en el que cualquiera puede aportar sus modelos, que están sujetos a un mecanismo de control aleatorio que puede activar cualquier persona y que es evaluado por un jurado humano", argumentó.
De acuerdo con Vitalik Buterin, la diversidad de modelos y la presencia de mecanismos aleatorios permitirían detectar fallas con rapidez, a la vez que los incentivos económicos mantendrían la transparencia y la responsabilidad de los desarrolladores.
El creador de Ethereum reconoció que la idea de otorgar autonomía total a las máquinas puede parecer atractiva, especialmente en sectores que buscan eficiencia y reducción de errores humanos.
Sin embargo, advirtió que sin controles, mecanismos de revisión y participación humana, el experimento podría terminar en pérdidas significativas antes que en innovación real.