Découvrez comment les applications Gemini contribuent à protéger les utilisateurs contre les contenus malveillants et les attaques par injection de requête.
Contenus malveillants et injection de requête dans l'IA générative
Tout comme il existe des menaces liées aux e-mails ou au contenu, telles que les logiciels malveillants ou les attaques par hameçonnage, les outils d'IA générative peuvent être la cible de menaces de sécurité. L'injection de requête est une technique visant à provoquer une réponse imprévue ou dangereuse de la part des outils d'IA générative. Les pirates informatiques peuvent injecter des requêtes non seulement en envoyant directement des requêtes, mais aussi en partageant du contenu malveillant avec un utilisateur, qui fait ensuite référence à ce contenu malveillant sans le savoir dans des requêtes à des outils d'IA générative, comme les applications Gemini ou Gemini pour Workspace.
Pour contribuer à protéger les utilisateurs de Gemini, Google applique des mesures de sécurité avancées afin d'identifier les contenus risqués et suspects.
Comment Google participe à la détection des contenus malveillants et de l'injection de requête
Pour contribuer à vous protéger contre les contenus malveillants et l'injection de requête, les applications Gemini peuvent bloquer certaines entrées si une activité suspecte est détectée.
Quand Gemini identifie une activité liée à une requête potentiellement suspecte
- Les applications Gemini affichent un avertissement indiquant que le contenu représente un risque de sécurité.
- Parfois, aucune partie du contenu ne peut être utilisée pour générer une réponse.
- Parfois, seule une partie du contenu est utilisée pour générer une réponse, et Gemini exclut le contenu suspect.
Par exemple, si vous demandez aux applications Gemini de résumer des e-mails, et que l'un d'eux présente du contenu malveillant, il est possible que Gemini ne réponde pas à votre requête, pour des raisons de sécurité.
Contribuer à éviter le contenu dangereux
Faites attention lorsque vous interagissez avec du contenu d'une personne que vous ne connaissez pas.
- Tenez compte des avertissements de Google concernant le contenu que vous recevez dans d'autres outils, comme Gmail.
- Évitez de cliquer sur des liens provenant de sources non fiables.
- Faites preuve de prudence lorsque vous interagissez avec du contenu partagé provenant de fournisseurs inconnus, comme des discussions publiques avec les applications Gemini ou des applications Web Gemini Canvas.
Contenus malveillants et injections de requête dans l'IA générative
Si vous recevez une réponse inexacte ou qui vous semble peu sûre, vous pouvez nous le signaler en envoyant un commentaire.
Découvrez comment signaler un problème concernant les applications Gemini.