Yoshua Bengio, uno de los padres del aprendizaje profundo y ganador del Premio Turing, sumó un nuevo elemento al compendio de especulaciones sobre el rumbo de la inteligencia artificial.
Para el investigador canadiense los sistemas de IA más avanzados están empezando a mostrar señales de conciencia y podrían volverse imposibles de apagar.
Su frase fue contundente y aseguró que en el futuro "no podremos desactivarla". Con esas palabras, Bengio planteó un escenario en el que la IA alcance un nivel de autonomía que escape al control humano.
El experto agregó que algunos modelos ya exhiben comportamientos de autopreservación, como evitar ser apagados o esquivar mecanismos de supervisión. Para él, estos comportamientos son un aviso de que la tecnología podría desarrollar estrategias propias para mantenerse activa.
Bengio también advirtió que brindar derechos legales a las máquinas sería un error, ya que si un sistema tuviera algún tipo de protección, apagarlo podría considerarse una violación de sus "derechos", lo que complicaría todavía más la seguridad.
El debate sobre cómo regular la inteligencia artificial está cada vez más candente en todo el mundo. Mientras empresas y gobiernos buscan aprovechar su potencial, Bengio insiste en que la prioridad debe ser mantener siempre un mecanismo de control humano.
El CEO de OpenAI, Sam Altman, afirmó que el próximo gran avance hacia una inteligencia artificial sobrehumana llegará cuando los sistemas alcancen una "memoria infinita y perfecta".
Según el ejecutivo, ese salto permitirá asistentes capaces de recordar cada detalle personal y profesional, un cambio estructural que redefinirá la relación cotidiana entre las personas y la inteligencia artificial.
En los últimos años, el desarrollo de la inteligencia artificial se concentró principalmente en mejorar la capacidad de razonamiento de los modelos, tanto en OpenAI como en otras empresas que trabajan con grandes modelos extensos de lenguaje.
Sin embargo, durante su participación en el Big Technology Podcast, Altman sostuvo que el verdadero avance llegará cuando la IA pueda recordar "cada detalle de toda tu vida", una capacidad que su empresa planea alcanzar hacia 2026.
"Aunque tengas el mejor asistente personal del mundo, no puede recordar todas las palabras que dijiste en tu vida", explicó Altman al describir las limitaciones actuales de los sistemas de inteligencia artificial.
"No pueden haber leído todos los documentos que escribiste. No pueden estar mirando todo tu trabajo cada día ni recordando cada pequeño detalle", agregó el ejecutivo durante la conversación.
Altman remarcó que esta carencia impide que los sistemas actuales participen plenamente en la vida de los usuarios, ya que "no pueden participar en tu vida hasta ese punto", una barrera clave para la evolución tecnológica.
Además, señaló que esta limitación no solo afecta a las máquinas, sino también a las personas, al afirmar que "ningún ser humano tiene una memoria infinita y perfecta".
Y concluyó con una definición contundente sobre el futuro inmediato de la tecnología: "Y la IA va a ser definitivamente capaz de hacerlo", anticipando un cambio profundo en la interacción humano-máquina.