Saiba como os apps do Gemini protegem os usuários contra conteúdos maliciosos e injeções de comandos
Conteúdo malicioso e injeção de comando na IA generativa
Semelhante a ameaças de e-mails e de conteúdos, como malware e ataques de phishing, ameaças de segurança podem atacar ferramentas de IA generativa. A injeção de comando é a tentativa de gerar uma resposta não intencional ou nociva das ferramentas de IA generativa. Os invasores podem fazer isso ao enviar diretamente as consultas ou compartilhar conteúdo malicioso com um usuário, que depois usa esse conteúdo inadvertidamente em comandos nas ferramentas de IA generativa, como os apps do Gemini ou o Gemini para Workspace.
Para ajudar a proteger os usuários do Gemini, o Google usa medidas de segurança avançadas para identificar conteúdo arriscado e suspeito.
Como o Google ajuda a detectar conteúdo malicioso e injeção de comando
Para proteger você contra conteúdos maliciosos e injeções de comandos, os apps do Gemini podem bloquear algumas entradas ao detectar atividade suspeita.
Quando o Gemini identifica atividade suspeita relacionada a um comando
- Os apps do Gemini mostram uma notificação avisando que o conteúdo tem riscos de segurança
- Às vezes, nenhuma parte do conteúdo pode ser usada para gerar uma resposta
- Em outras vezes, somente parte do conteúdo pode ser usada para gerar uma resposta, e o conteúdo suspeito é excluído pelo Gemini
Por exemplo, se você pedir aos apps do Gemini para resumir e-mails, e uma dessas mensagens tiver conteúdo malicioso, o Gemini pode não responder ao comando por motivos de segurança.
Ajude a evitar conteúdo perigoso
Preste atenção ao interagir com o conteúdo de quem você não conhece
- Preste atenção nos avisos do Google no conteúdo que você recebe em outras ferramentas, como o Gmail
- Evite clicar em links de fontes não confiáveis
- Tome cuidado ao interagir com conteúdo compartilhado, como conversas públicas dos apps do Gemini ou web apps criados no Gemini Canvas, de fornecedores desconhecidos
Conteúdo malicioso e injeções de comandos na IA generativa
Se você receber uma resposta imprecisa ou achar que ela não é segura, envie feedback para nos informar.