Puntos importantes
Coinbase informó que su sistema de defensa contra estafas basado en inteligencia artificial (IA) impidió que u$s4,7 millones salieran de las cuentas de sus clientes durante una campaña fraudulenta que utilizó un deepfake de Elon Musk.
La estafa se difundió en una transmisión en vivo falsa de una demostración de Tesla y prometía duplicar las criptomonedas enviadas por los usuarios.
La exchange explicó que, en aproximadamente dos horas, cientos de clientes intentaron enviar millones de dólares a las direcciones de billetera que aparecían en pantalla.
La IA bloqueó cerca del 91% de esas transferencias, sin intervención humana. La empresa no precisó cuánto dinero efectivamente llegó a los estafadores ni cuántos clientes lograron completar el envío.
La campaña se difundió durante la demostración del "auto volador" de Tesla. Los estafadores crearon una transmisión en YouTube que imitaba la señal oficial del evento y utilizaron un video generado con IA de Elon Musk, direcciones de billetera y un código QR. El mensaje ofrecía duplicar cualquier criptomoneda enviada a esas cuentas.
Más de 500.000 personas vieron la transmisión, según datos difundidos por Coinbase. La compañía aclaró que no hubo cuentas comprometidas, contraseñas robadas ni phishing de credenciales: los clientes iniciaron sesión, aprobaron las transferencias y actuaron convencidos de que estaban participando en una promoción legítima.
Coinbase detectó una estafa cripto con un deepfake de Elon Musk
La dificultad de este tipo de fraude radica en que la transferencia es autorizada por el propio usuario. Los sistemas tradicionales de prevención están diseñados para detectar operaciones no autorizadas, pero en este caso el cliente estaba autenticado, presionó confirmar y creyó estar frente a una oportunidad de inversión.
Coinbase desarrolló un agente de prevención de estafas que combina tres componentes. Primero, modelos de machine learning analizan las transferencias salientes en tiempo real y asignan una puntuación de riesgo a operaciones vinculadas con patrones de giveaways, suplantación de marcas y billeteras recién creadas.
Cuando una operación es marcada como sospechosa, un agente de IA toma el control y mantiene una conversación breve con el cliente. El sistema identifica el patrón de la estafa, explica cómo funciona el supuesto sorteo y formula preguntas orientadas a que el usuario reconozca las señales de fraude antes de confirmar el envío.
Cada respuesta generada por el agente recibe una puntuación de confianza antes de ser enviada al usuario. Ese mecanismo permite al sistema determinar cuándo la situación requiere mayor fricción o controles adicionales.
Lo más destacado del caso, según Coinbase, es que el agente no había sido entrenado específicamente para detectar esta campaña. Los giveaways con deepfakes vinculados a lanzamientos de productos en vivo no formaban parte de su base de entrenamiento.
Aun así, el sistema reconoció la estructura del esquema:
- La promesa de multiplicar los fondos
- La urgencia asociada a un evento que finalizaría en horas
- La irreversibilidad de la transferencia
Cómo los deepfakes cambiaron la ecuación del fraude
Esos elementos permitieron que la IA actuara desde la primera operación marcada hasta la última, sin intervención humana.
La empresa sostuvo que los deepfakes cambiaron la ecuación del fraude.
Antes, montar una campaña de este tipo requería un equipo, un estudio y semanas de preparación.
Ahora –según Coinbase– basta con un espacio en una transmisión en vivo y un modelo de IA para generar contenido convincente y relanzar la estafa bajo otro nombre apenas una es detectada.
Las barreras de seguridad de la IA también dejan sin herramientas a quien se defiende. Cuando Hugging Face, una plataforma donde se publican modelos de IA, quiso investigar un ataque que sufrió en julio, los modelos comerciales se negaron a analizar la evidencia y la firma debió recurrir a uno abierto, instalado en sus propios servidores", detalló Benjamín Cordero, cofundador de Imperio Agéntico.
"El mismo candado que te protege le amarra las manos a quien te defiende", precisó Cordero, quien advirtió que la IA también hace cada vez más fácil encontrar fallas de seguridad de bancos, hospitales y organismos públicos".
Coinbase anuncia inversión en IA para detección de deepfakes
Coinbase anunció que invertirá en IA para que sus modelos de detección evolucionen al mismo ritmo que las nuevas formas de fraude.
La estrategia incluye agentes que revisen transferencias riesgosas en todo tipo de estafas y etiquetado automatizado de casos nuevos, de modo que los sistemas aprendan de cada ataque en horas en lugar de semanas.
Elon Musk y sus empresas han sido objetivos recurrentes de estafas cripto. Fraudsters secuestraron cuentas verificadas de Twitter, enviaron promociones falsas por correo electrónico y utilizaron deepfakes del CEO de Tesla para impulsar plataformas de inversión fraudulentas.
Coinbase recomendó a los usuarios verificar cualquier promoción a través de los canales oficiales de la empresa, en lugar de confiar en enlaces, códigos QR o direcciones de billetera que aparezcan en videos o transmisiones.
La compañía aclaró que nunca pedirá enviar criptomonedas para reclamar un premio, participar en un sorteo o verificar una billetera.
"Estos episodios evidencian un desafío estructural del sistema financiero moderno: la interconexión y la dependencia de terceros. Hoy la seguridad de una institución no depende únicamente de sus propios sistemas centrales, sino de la solidez de toda su cadena de proveedores y puntos de integración", analizó Mariquena Otermin, Brand Specialist de Bitwage by Paystand.