Entre 21 de janeiro e 18 de fevereiro, o Copilot da Microsoft acessou e resumiu e-mails confidenciais, desrespeitando rótulos de sensibilidade e políticas de prevenção de perda de dados (DLP). A falha ocorreu dentro da própria infraestrutura da Microsoft, sem que as ferramentas de segurança detectassem o problema. Entre as organizações afetadas estava o Serviço Nacional de Saúde do Reino Unido.
Como a falha foi descoberta?
A falha, identificada como CW1226324, foi divulgada pela primeira vez pelo BleepingComputer em 18 de fevereiro. Esta é a segunda vez em oito meses que o Copilot ultrapassa suas próprias barreiras de confiança, acessando dados que deveria evitar. A primeira ocorrência, em junho de 2025, envolveu uma vulnerabilidade crítica chamada “EchoLeak”.
Quais foram as causas da falha?
Dois fatores principais contribuíram para a falha: um erro de código e uma cadeia de exploração sofisticada que permitiu ao Copilot processar dados restritos. A falha não foi detectada por ferramentas de segurança tradicionais, como EDR e WAF, pois o problema ocorreu em uma camada que essas ferramentas não monitoram.
Quais são as recomendações para evitar futuras falhas?
Especialistas recomendam testar regularmente a aplicação de políticas de DLP diretamente no Copilot, bloquear conteúdos externos de alcançar o contexto do Copilot, auditar logs de interações anômalas e ativar a Descoberta de Conteúdo Restrito para sites sensíveis no SharePoint. Além disso, é essencial desenvolver um plano de resposta a incidentes para falhas de inferência hospedadas por fornecedores.
Fonte original: VentureBeat
