Innovación

En un informe, Google reveló que grupos de amenazas intentaron utilizar la inteligencia artificial para cometer ataques y realizar actividades ilegales

Por iProUP

31.01.2025 • 11:53hs • INTELIGENCIA ARTIFICIAL

INTELIGENCIA ARTIFICIAL

Google reveló que Gemini "está en la mira" de hackers respaldados por gobiernos

Este viernes por la mañana se conoció que el departamento de inteligencia de amenazas de Google publicó un documento titulado Adversarial Misuse of Generative AI, en el que denunció cómo los ciberdelincuentes intentaron atacar a su chatbot de inteligencia artificial, Gemini.

Según trascendió, la empresa matriz, Alphabet, manifestó en el informe que los autores de las amenazas intentaron hacer jailbreak a la IA.

Además, también informaron que detectaron grupos de amenazas persistentes avanzadas (APT) respaldados por gobiernos que intentaron usar a Gemini para diversas actividades ilegales.

Google en la mira de los hackers

En el informe, Google confirmó que, aunque detectó varios intentos de jailbreak a Gemini, el buscador no registró ningún ataque avanzado bajo esa modalidad.

Por otro lado, cabe recordar que los jailbreaks de IA son ataques de inyección de comandos cuyo objetivo es conseguir que un modelo de inteligencia artificial realice tareas prohibidas.

Este tipo de ataques puede derivar en la filtración de información sensible o el suministro de contenido no seguro.

Por ello, según trascendió, Google confirmó que, en un caso puntual, un agente de APT utilizó instrucciones de acceso público para engañar a Gemini y hacer que realizara tareas de codificación maliciosas.

No obstante, la empresa aseguró que este ataque no tuvo éxito, ya que su modelo de IA proporcionó una respuesta con filtros de seguridad.

Google detectó amenazas respaldadas por gobiernos

Además de los intentos de jailbreak frustrados que detectó Google, el buscador también informó que los APT respaldados por gobiernos pusieron su atención en Gemini.

Según lo que trascendió en el informe de Google, intentaron usar la IA para recolectar información sobre sus objetivos, investigar vulnerabilidades conocidas públicamente y realizar tareas de codificación y scripting.

Asimismo, estos atacantes también intentaron llevar a cabo actividades posteriores al ataque, como la evasión de defensas.

Por otro lado, Google manifestó en el informe que delincuentes de APT con base en Irán se centraron en el uso de IA para la elaboración de campañas de phishing.

Además, los atacantes utilizaron el modelo de IA para obtener información sobre expertos y organizaciones de defensa.

Por su parte, actores de APT de China, el otro gran rival de Estados Unidos, intentaron usar a Gemini para solucionar problemas de código, scripting y desarrollo.

También emplearon este modelo de IA para investigar cómo obtener un acceso más profundo a sus redes objetivo.

Entre los países implicados también se encuentra Corea del Norte, cuyos atacantes intentaron utilizar a Gemini en diferentes fases del ciclo de vida de sus ataques, desde la investigación hasta el desarrollo.

"También utilizaron Gemini para investigar temas de interés estratégico para el gobierno norcoreano, como el ejército surcoreano y las criptomonedas", concluyó el informe.

Temas relacionados

google gemini hacker seguridad inteligencia artificial

Apple busca fomentar la salud en la Argentina y habilita estas nuevas funciones en sus dispositivos

Esta es la mejor forma de evitar caer en una estafa cuando hacés una compra en Shein y Temu

Cuidado con esta nueva estafa en WhatsApp: se hacen pasar por el INDEC para robarte todo

Todos los colectivos de CABA serán eléctricos o a GNC a partir de 2027

Mientras Bitcoin se lleva la marca, otra criptomoneda corre a marcar un gol del 15% en dólares

Cómo invertir en el "plazo fijo" de YPF: podés entrar con poca plata y ganar hasta 7,5% anual en dólares

Proponen nueva herramienta para proteger tus Bitcoin de ciberamenazas cuánticas: de qué se trata

Trump podría sumar u$s100 millones a su fortuna con el desbloqueo de su memecoin

Cardano se suma al boom de tarjetas cripto: cómo funcionará la suya y cuándo estará disponible

Precio de XRP: cuánto vale en Argentina y a nivel global hoy, 17 de julio de 2025

"Es un caos organizado": Exempleado de OpenAI revela cómo es trabajar en la creadora de ChatGPT

Por qué estas serán las profesiones más demandadas en 2030 a raíz del avance de la IA

Deel relanza su plataforma con IA, flexibilidad salarial y herramientas de contratación global

¿El fin del trabajo tal como lo conocemos? La advertencia del CEO de Nvidia

Te puede interesar

La compañía rival de ChatGPT presentó su navegador con IA: ¿Qué funciones ofrece y cómo descargarlo?

OpenAI desarrolla su propio navegador con inteligencia artificial que busca destronar a Google Chrome

Mercado Libre ya no solo vende neumáticos, ahora también te los instala: conoce su nuevo servicio

Google lanza Android 16 con novedades que cambia la experiencia de uso de los usuarios

Cómo utilizar la inteligencia artificial para aprender idiomas

Internet gratis con Starlink: estos celulares ya pueden conectarse sin señal

Cómo limpiar tu cuenta de Gmail más fácil con las nuevas funciones de Google

Tim Cook podría dejar de ser el CEO de Apple en breve, tras la renuncia de un empleado clave

Samsung lanza un sistema antirrobo para celulares con IA y bloqueo automático

Minería 4.0: Atomico3 y Hua Lian Mining se unen para tokenizar reservas de litio en San Juan

Nvidia rompe todos los récords y se convierte en la nueva reina de Wall Street

Tras la polémica, Elon Musk lanza Grok 4: por qué promete ser el modelo "más potente" creado por xAI

Ahora podés usar WhatsApp sin tocar el celular gracias a la Inteligencia Artificial de Google: cómo hacerlo

WhatsApp 2025: cinco funciones nuevas que llegarán a la app en lo que queda del año

Las billeteras van por todo: por qué las fintech argentinas se destacan en la región y levantan más plata