Descubre cómo las aplicaciones de Gemini protegen a los usuarios frente al contenido malicioso y los ataques de inyección de peticiones.
Contenido malicioso e inyección de peticiones en la IA generativa
Del mismo modo que ocurre con las amenazas en correos electrónicos y contenido, como los ataques de malware y de phishing, las amenazas de seguridad pueden dirigirse a las herramientas de IA generativa. La inyección de peticiones es un intento de provocar una respuesta no deseada o perjudicial de las herramientas de IA generativa. Es posible que los atacantes lleven a cabo la inyección de peticiones no solo al enviar consultas directamente, sino también al compartir contenido malicioso con un usuario, quien luego hace referencia por error a este contenido malicioso en las peticiones a herramientas de IA generativa, como las aplicaciones de Gemini o Gemini para Workspace.
Para proteger a los usuarios de Gemini, Google utiliza medidas de seguridad avanzadas para identificar contenido peligroso y sospechoso.
Cómo ayuda Google a detectar contenido malicioso e inyección de peticiones
Para protegerte frente al contenido malicioso y la inyección de peticiones, las aplicaciones de Gemini pueden bloquear algunas entradas en el caso de detectar actividad sospechosa.
Si Gemini identifica actividad relacionada con una petición que podría ser sospechosa
- Las aplicaciones de Gemini muestran una notificación de advertencia que indica que el contenido tiene riesgos de seguridad
- A veces nada del contenido se puede utilizar para generar una respuesta
- A veces únicamente se utiliza parte del contenido para generar una respuesta, y Gemini excluye el contenido sospechoso
Por ejemplo, si pides a las aplicaciones de Gemini que hagan un resumen de los mensajes de correo y uno de esos mensajes incluye contenido malicioso, es posible que Gemini no responda a la petición por motivos de seguridad.
Evita contenido que no sea seguro
Presta atención al interactuar con el contenido de personas que no conoces
- Ten presente las advertencias de Google sobre el contenido que recibes en otras herramientas como Gmail
- No hagas clic en enlaces procedentes de fuentes que no son de fiar
- Ve con cuidado al interactuar con contenido compartido, como chats públicos en aplicaciones de Gemini o aplicaciones web de Gemini Canvas, de proveedores desconocidos
Contenido malicioso e inyecciones de peticiones en la IA generativa
Si obtienes una respuesta errónea o si crees que no es segura, puedes informarnos desde la propia respuesta.
Descubre cómo informar de un problema con las aplicaciones de Gemini.