Además, se identificaron riesgos en la forma en que Gemini maneja entradas multimodales (texto, imágenes, audio), lo que podría permitir a actores maliciosos ocultar comandos dentro de archivos aparentemente inofensivos. Esta técnica, conocida como "covert prompt encoding", representa una nueva frontera en los ataques a modelos de lenguaje.

Google ha sido notificado de los hallazgos y se encuentra evaluando medidas de mitigación. Sin embargo, los investigadores advierten que estas vulnerabilidades son inherentes a la arquitectura de los modelos generativos actuales, lo que exige una revisión profunda de los mecanismos de control y validación.

Este caso subraya la necesidad urgente de establecer estándares de seguridad para sistemas de IA, especialmente aquellos que interactúan directamente con usuarios y manejan grandes volúmenes de datos. La transparencia, la auditoría independiente y el diseño responsable deben ser pilares fundamentales en el desarrollo de estas tecnologías.