Uma vulnerabilidade crítica em chatbots de IA populares permite que hackers interceptem mensagens apesar da criptografia, levantando sérias preocupações de privacidade. Pesquisadores de segurança cibernética da Microsoft descobriram um método, denominado “Whisper Leak”, que explora metadados para inferir o conteúdo de conversas entre usuários e grandes modelos de linguagem (LLMs). Isso significa que discussões confidenciais podem ser monitoradas sem quebrar diretamente a criptografia.
Como funciona o ataque
O ataque Whisper Leak é uma exploração sofisticada do tipo “man-in-the-middle”. Em vez de descriptografar o conteúdo real da mensagem, os hackers interceptam e analisam os metadados associados às comunicações LLM. Os metadados incluem detalhes como tamanho e tempo do pacote, que, quando analisados corretamente, podem revelar padrões que sugerem o tema da conversa.
A chave é a previsibilidade. Os LLMs geram respostas com base em prompts, resultando em comprimentos de token e tempos de resposta consistentes. Ao observar esses padrões, os pesquisadores conseguiram reconstruir sentenças plausíveis a partir dos dados criptografados, sem nunca contornar a criptografia em si. Esta técnica é uma versão refinada dos métodos de vigilância utilizados pelos governos, como a Lei de Poderes de Investigação do Reino Unido, que infere conteúdo a partir de metadados sem ler mensagens diretamente.
Resposta da indústria: um saco misto
A Microsoft e a OpenAI, desenvolvedora do ChatGPT, foram informadas da vulnerabilidade em junho de 2025 e desde então tomaram medidas para avaliar o risco e implementar correções. No entanto, nem todos os fornecedores de LLM responderam de forma semelhante. Alguns recusaram-se a aplicar patches, enquanto outros nem responderam. Os pesquisadores ocultaram intencionalmente os nomes das plataformas que não respondiam para evitar vergonha pública, mas confirmaram que a falha permanece sem solução em vários serviços.
“Os LLMs são uma mina de ouro de informações”, diz o analista de segurança cibernética Dave Lear. “As pessoas colocam tudo neles, incluindo dados médicos, à medida que os hospitais começam a usá-los. Era inevitável que alguém encontrasse uma maneira de exfiltrar essas informações”.
Por que isso é importante
A vulnerabilidade destaca uma fraqueza fundamental na forma como os LLMs são atualmente implantados. Embora a criptografia ponta a ponta proteja o conteúdo das mensagens, os metadados continuam sendo um vazamento potencial. As implicações são significativas, especialmente à medida que os LLMs se tornam cada vez mais integrados em áreas sensíveis como cuidados de saúde, finanças e serviços jurídicos.
Governos ou atores mal-intencionados poderiam explorar esta falha para identificar usuários que discutem tópicos específicos – como lavagem de dinheiro ou dissidência política – mesmo que as comunicações sejam criptografadas. Isso mina a própria noção de conversas privadas com assistentes de IA.
Mitigação e Proteção
Os provedores de LLM podem implementar várias contramedidas:
- Preenchimento aleatório: Adicionar bytes aleatórios às respostas para distorcer o tamanho dos pacotes e tornar a análise de metadados menos precisa.
- Comprimentos de resposta variáveis: introdução de imprevisibilidade no comprimento das respostas geradas para interromper o reconhecimento de padrões.
- Protocolos de criptografia aprimorados: exploram métodos de comunicação mais seguros que minimizam o vazamento de metadados.
Para os usuários, a recomendação imediata é cautela. Evite discutir tópicos delicados em redes não confiáveis e verifique se o seu provedor de LLM implementou mitigações. O uso de uma rede privada virtual (VPN) pode fornecer uma camada adicional de proteção, ofuscando sua identidade e localização.
A falha Whisper Leak sublinha a tensão contínua entre a inovação e a segurança da IA. Embora os LLMs ofereçam um potencial incrível, as suas vulnerabilidades expõem os utilizadores a riscos do mundo real que exigem atenção imediata tanto dos fornecedores como dos indivíduos.
