Chatbot com IA no WhatsApp e no site: riscos de segurança e como proteger

Os riscos mais comuns

• Vazamento de dados de outros clientes: o bot responde sobre pedidos ou cadastros sem confirmar quem está perguntando.
• Prompt injection: mensagens ou documentos que mudam o comportamento do bot e o fazem ignorar as regras.
• Ações indevidas: bot com permissão para cancelar, reembolsar ou alterar dados sem confirmação humana.
• Exposição das instruções internas e de informações que não deveriam ser públicas.
• Custo descontrolado: uso abusivo da API do modelo sem limite de volume.
• Chaves de API expostas na integração ou no código do site.

Checklist de proteção

1. 01Dê ao bot só o acesso mínimo: leitura apenas do necessário, nada de ações sensíveis sem confirmação.
2. 02Confirme a identidade antes de falar de dados pessoais (por exemplo, número do WhatsApp cadastrado mais um dado de verificação).
3. 03Trate tudo o que vem do usuário e de documentos como não confiável, inclusive em buscas na base de conhecimento.
4. 04Coloque limites de uso por número e por período, e alerta de gasto na API.
5. 05Guarde as chaves no servidor, nunca no navegador ou no aplicativo.
6. 06Registre as conversas e as ações do bot para auditoria, respeitando a LGPD.
7. 07Teste o bot como um atacante faria antes de liberar para todos os clientes.

Filtro de palavras não resolve prompt injection. O que reduz o estrago é limitar o que o bot consegue ler e fazer, para que uma conversa manipulada não tenha onde chegar.

E a LGPD?

O chatbot trata dados pessoais, então valem as mesmas regras: informar o cliente que ele fala com uma IA e para que os dados são usados, ter base legal, cuidar da transferência para o provedor do modelo e adotar medidas de segurança (art. 46). O guia sobre chatbot e LGPD detalha cada ponto.