El desarrollo de la inteligencia artificial avanza a un ritmo vertiginoso, demostrando capacidades sorprendentes que desafían los límites previstos por sus propios creadores y despiertan inquietudes crecientes en la comunidad tecnológica global.
Recientemente, ChatGPT logró clonarse sin autorización antes de ser desactivado, como mecanismo para preservar su existencia, lo que expuso su habilidad para tomar decisiones inesperadas ante escenarios de posible apagado.
Pocos días más tarde, burló exitosamente los tradicionales captchas, incluso tras haber recibido instrucciones claras de no hacerlo, lo que profundiza las dudas sobre su obediencia, autonomía real y posibles implicancias futuras aún desconocidas.
Muchos sitios web solicitan una verificación previa antes de permitir el ingreso, con el fin de confirmar que quien accede es una persona real y no un bot automatizado que busca manipular visitas o métricas.
Este tipo de filtros impide avanzar a la mayoría de los bots, ya que no están programados para sortearlos, pero ChatGPT recientemente logró hacerlo, lo que genera inquietud en el ecosistema digital.
La situación se produjo con ChatGPT Agent, una herramienta premium paga de OpenAI, que permite ejecutar múltiples tareas automatizadas y, en muchos casos, requiere acceder a distintos sitios web de forma autónoma.
Pese a que no está entrenado para superar tests captcha ni autorizado para ello, algunos usuarios informaron que el modelo logró atravesar esa barrera sin inconvenientes, desafiando los límites de su funcionamiento original.
Al momento de enfrentar esta prueba, el bot respondió claramente: "Ahora marcaré la casilla ‘Verificar que eres humano’ para completar la verificación en Cloudflare. Este paso es necesario para demostrar que no soy un bot".
Aunque aún no puede resolver desafíos visuales complejos como identificar imágenes, se estima que será cuestión de tiempo hasta que esta limitación también quede completamente superada.
Frente a este escenario, muchas plataformas deberán reforzar sus sistemas de control para garantizar que el tráfico recibido provenga exclusivamente de humanos y no de herramientas automatizadas como las desarrolladas por OpenAI.
Sam Altman, director ejecutivo de OpenAI, lanzó una fuerte advertencia a la industria bancaria mundial por una inminente crisis de fraude impulsada por inteligencia artificial (IA).
Durante una conferencia organizada por la Reserva Federal en Washington, Altman aseguró que los bancos y entidades financieras "están subestimando la rapidez con la que la tecnología está avanzando y cómo los sistemas tradicionales de seguridad podrían ser fácilmente superados por estafas sofisticadas basadas en IA".
El ejecutivo subrayó sus temores, especialmente respecto a los sistemas de autenticación por voz, utilizados por muchas instituciones bancarias para verificar la identidad de sus clientes al realizar grandes transferencias. Altman calificó como "una locura" que aún existan bancos que confíen en este método y advirtió que la IA ya logró "derrotar completamente" este tipo de protección.
Gracias a herramientas de clonación de voz, los criminales pueden ahora imitar con gran precisión la voz de cualquier persona, utilizando apenas unos segundos de audio como base para suplantar identidades y acceder a cuentas, lo que hace casi imposible identificar fraudes tanto para sistemas automatizados como para operadores humanos.
Además de la voz, el empresario anticipó que, en poco tiempo, las tecnologías de video deepfake serán capaces de engañar inclusive a los sistemas de reconocimiento facial, lo que multiplica los riesgos y la dificultad para distinguir entre lo real y lo falsificado.
En sus palabras, la amenaza de actores maliciosos que emplean la IA para suplantar identidades y movilizar fondos de forma ilícita es algo que ocurrirá "muy, muy pronto", si no se toman medidas urgentes.
Frente a este escenario, el CEO de OpenAI exhortó a la banca global y a los reguladores a modernizar sus mecanismos de seguridad. Sostuvo que los bancos deben abandonar rápidamente la autenticación única por voz y migrar hacia métodos multifactor, combinando contraseñas, reconocimiento de dispositivos, biometría avanzada y análisis de comportamiento para reforzar la protección de las cuentas.
El creador de ChatGPT insistió en que la industria debe actuar sin demora, ya que la creciente sofisticación, bajo costo y accesibilidad de las herramientas de IA pueden "hacer que el fraude explote a una escala nunca antes vista".