Whisper Leak é um ataque que compromete a segurança de modelos de linguagem remotos, permitindo acesso não autorizado a dados sensíveis. Especialistas alertam para a necessidade urgente de implementar medidas preventivas para proteger a integridade dos sistemas de inteligência artificial contra essa nova ameaça.
Whisper Leak representa uma nova ameaça para a segurança de modelos de linguagem remotos. Este ataque explora vulnerabilidades em sistemas de inteligência artificial, possibilitando o acesso não autorizado a informações sensíveis. Especialistas em segurança cibernética estão em alerta, destacando a importância de medidas preventivas para proteger dados e garantir a integridade dos sistemas.
Microsoft alerta para vulnerabilidade em IA
A Microsoft anunciou a descoberta de um novo tipo de ataque cibernético, batizado de “Whisper Leak”, que explora canais laterais em modelos de linguagem acessados remotamente.
Mesmo com o tráfego criptografado, a técnica permite que invasores identifiquem o tema inicial de conversas com chatbots e sistemas de inteligência artificial por meio da análise de dados de rede, como o tamanho e o tempo de envio dos pacotes.
Em testes realizados pelos pesquisadores da empresa, o método demonstrou alta eficácia, chegando a identificar com precisão superior a 98% usuários que abordavam determinados temas.
O ataque representa um risco potencial à privacidade, especialmente para pessoas que utilizam redes públicas ou ambientes com baixa segurança digital, já que o conteúdo das conversas permanece protegido, mas os padrões de comunicação podem ser rastreados.
Como resposta, a Microsoft implementou medidas de segurança adicionais em seus sistemas e recomendou ajustes semelhantes a outras empresas do setor.
Entre as soluções adotadas está a técnica de ofuscação, que introduz variações no tamanho e no conteúdo dos pacotes de dados para dificultar a inferência de informações. Segundo a empresa, essas ações reduziram o risco do ataque a níveis considerados pouco viáveis na prática.
A descoberta reforça a necessidade de atenção constante à segurança de sistemas de inteligência artificial, mesmo em ambientes com criptografia avançada.
Com o crescimento do uso de modelos de linguagem em serviços sensíveis, a proteção contra ataques cibernéticos e a garantia de privacidade se tornam fatores essenciais para a confiança do público nessas tecnologias.
