Descubre cómo las Apps con Gemini protegen a los usuarios del contenido malicioso y los ataques de inyección de instrucciones.
Inyección de instrucciones y contenido malicioso en la IA generativa
Al igual que las amenazas en correos electrónicos y contenidos, como los ataques de malware y phishing, las amenazas de seguridad pueden orientarse a las herramientas de IA generativa. La inyección de instrucciones es un intento de provocar que las herramientas de IA generativa produzcan una respuesta involuntaria o perjudicial. Los atacantes podrían ocasionar una inyección de instrucciones no solo si envían consultas directamente, sino también si comparten contenido malicioso con un usuario, quien luego hará referencia a ese contenido de manera involuntaria en instrucciones en herramientas de IA generativa como las Apps con Gemini o Gemini para Workspace.
Para ayudar a proteger a los usuarios de Gemini, Google usa medidas de seguridad avanzadas con las que identifica contenido riesgoso y sospechoso.
Cómo Google ayuda a detectar la inyección de instrucciones y el contenido malicioso
Para protegerte de la inyección de instrucciones y el contenido malicioso, las Apps con Gemini podrían bloquear ciertas entradas si se detecta actividad sospechosa.
Cuando Gemini identifica actividad potencialmente sospechosa relacionada con una instrucción
- Las Apps con Gemini proporcionan una notificación para advertir que el contenido presenta riesgos de seguridad.
- En ocasiones, ninguna parte del contenido se puede usar para generar una respuesta.
- A veces solo parte del contenido se utiliza para generar una respuesta, y Gemini excluye el contenido sospechoso.
Por ejemplo, si les pides a las Apps con Gemini que resuman mensajes de correo electrónico, y uno de esos mensajes tiene contenido malicioso, es posible que Gemini no responda a tu instrucción por motivos de seguridad.
Ayuda a prevenir el contenido no seguro
Ten cuidado cuando interactúes con contenido de alguien que no conoces
- Presta atención a las advertencias de Google sobre el contenido que recibes en otras herramientas, como Gmail.
- No hagas clic en vínculos de fuentes no confiables.
- Ten cuidado cuando interactúes con contenido compartido, como chats públicos de las Apps con Gemini o apps web de Canvas de Gemini, de proveedores desconocidos.
Inyecciones de instrucciones y contenido malicioso en la IA generativa
Si recibes una respuesta que no es precisa o que crees que no es segura, puedes enviarnos tus comentarios para informarnos al respecto.
Consulta cómo denunciar un problema relacionado con las Apps con Gemini.