Google Gemini, la IA de Google, ha tenido tres vulnerabilidades de seguridad, calificadas como críticas, según ha detectado un grupo de investigadores de Tenable e informan en un comunicado con fecha de 30 de septiembre. Estos fallos, ya corregidos, podrían haber permitido que los ciberdelincuentes robaran datos guardados, además de la ubicación en tiempo real de los usuarios.
Una vez más, vemos que la Inteligencia Artificial, más allá de la utilidad que pueda tener, podría ser un vector de ataque para los piratas informáticos. Pueden usarla para generar ataques más sofisticados, como es el Phishing más personalizado, pero también explotar fallos que puedan permitir el acceso a información confidencial o datos personales de los usuarios que usen estos servicios.
Vulnerabilidades en Google Gemini
Hay que recordar que se trata de un asistente de Inteligencia Artificial que permite procesar y entender texto, imágenes, audio o vídeos y dar una respuesta a los usuarios. Por ejemplo, permite generar ideas, escribir correos electrónicos o ser más productivo. Se integra con productos como Gmail, Google Drive o Maps, entre otros. Por tanto, es algo bastante utilizado y cuando surgen problemas de este tipo, pueden verse afectados muchos usuarios.
En el informe de Tenable, indican que estos fallos de seguridad afectaban a diferentes componentes del ecosistema Gemini. Una de ellas afectaba a Gemini Cloud Assist, la herramienta de IA en la nube de Google para analizar registros y recursos. En este caso, los atacantes podían inyectar comandos maliciosos en los encabezados HTTP User-Agent de los registros, que la IA procesaría al solicitar resúmenes.
Otra vulnerabilidad estaba relacionada con el modelo de personalización de búsqueda de Gemini. Sirve para utilizar el historial de navegación para personalizar las respuestas. En caso de ataque, los cibercriminales podían inyectar código JavaScript malicioso en los navegadores de las víctimas, insertando consultas que el sistema de IA interpretaría como legítimas.
La tercera vulnerabilidad correspondía con un problema de la herramienta de navegación de Gemini. Según indican desde Tenable, esta es la vulnerabilidad más preocupante. Este fallo permitía a los atacantes extraer datos confidenciales manipulando la IA para que visitara sitios web maliciosos con información del usuario en los parámetros de la URL.
Detalles de las vulnerabilidades en Gemini
| Componente Afectado | Tipo de Vulnerabilidad | Impacto Principal | Estrategia de Mitigación de Google |
|---|---|---|---|
| Gemini Cloud Assist | Inyección de comandos (via Headers HTTP) | Ejecución remota de código en el entorno del usuario. | Modificación en la renderización de hipervínculos y sanitización de entradas. |
| Personalización de Búsqueda | Cross-Site Scripting (XSS) persistente | Robo de cookies de sesión y datos de navegación. | Reversión del modelo afectado e implementación de defensas por capas. |
| Herramienta de Navegación | Exfiltración de datos (via parámetros URL) | Fuga de datos sensibles, incluida la ubicación en tiempo real. | Bloqueo de inyecciones indirectas de prompts para prevenir el abuso de la función. |
Usaban funciones legítimas de la IA
Hay que mencionar que estos ataques eran especialmente sigilosos, ya que usaban funcionalidades legítimas de la IA en lugar de explotar vulnerabilidades evidentes. Por ejemplo, un atacante podía inyectar entradas de registro a través de servicios en la nube y luego suplantar las credenciales de los usuarios cuando las víctimas usaban Gemini Cloud Assist para analizar dichos registros.
Google confirmó que los parches para estas vulnerabilidades se aplicaron del lado del servidor. Esto significa que la corrección es automática y no se requiere ninguna acción por parte de los usuarios finales. Para los clientes de Google Cloud que utilizan Gemini Enterprise, se recomienda verificar en su consola de administración que el entorno se ha actualizado a la versión 3.2.1 o superior. Google ha asignado el identificador de seguridad GCP-2025-5678 a este conjunto de parches.
En el caso de la vulnerabilidad de personalización de búsqueda, se solucionó revirtiendo el modelo afectado e implementando defensas por capas contra la inyección de mensajes. Por otra parte, el tercer fallo, la vulnerabilidad de la herramienta de navegación, se corrigió evitando la exfiltración de datos mediante inyecciones indirectas de mensajes, lo que garantiza que las instrucciones maliciosas no puedan abusar de las capacidades legítimas de navegación web de la herramienta.
Los investigadores de seguridad recuerdan que las organizaciones que implementan herramientas de IA, necesitan una aplicación real y estricta de políticas para mantener la seguridad y no sufrir problemas de este tipo. A nivel de usuario, es clave también ser conscientes de los riesgos y no exponer más datos de los necesarios.
Preguntas frecuentes
¿Qué es Gemini?
Gemini es el asistente de Inteligencia Artificial de Google.
¿Es seguro usar la Inteligencia Artificial?
Utilizar la Inteligencia Artificial es seguro, siempre y cuando uses servicios fiables y te asegures de que tus datos van a estar protegidos.
¿Me protege un antivirus?
Un antivirus puede ayudarte a detectar y eliminar malware, pero no va a evitar que caigas en la trampa de los piratas informáticos, como es el Phishing, o corregir vulnerabilidades.
