Pesquisadores introduziram o conceito de desaprendizado agente, uma técnica que visa remover informações específicas tanto dos parâmetros do modelo quanto da memória persistente em agentes com interação em loop fechado. De acordo com informações do arXiv, métodos de desaprendizado existentes focam apenas nos parâmetros, deixando lacunas críticas como o retorno de fluxo entre parâmetros e memória, onde a recuperação pode reativar remanescentes paramétricos ou artefatos de memória podem reintroduzir conteúdo sensível.
Como o SBU aborda essas lacunas?
O Synchronized Backflow Unlearning (SBU) é um framework que desaprende conjuntamente através dos caminhos de parâmetros e memória. No caminho da memória, realiza-se um desaprendizado baseado em fechamento de dependência que poda entidades isoladas enquanto invalida logicamente artefatos compartilhados. Já o caminho dos parâmetros utiliza o alinhamento estocástico de referência para guiar as saídas do modelo em direção a um prior de alta entropia. Esses caminhos são integrados por meio de um protocolo de atualização dupla sincronizada, formando um mecanismo de loop fechado onde o desaprendizado de memória e a supressão paramétrica se reforçam mutuamente para evitar a recontaminação entre caminhos.
Quais são os resultados dos experimentos?
Experimentos realizados em benchmarks de perguntas e respostas médicas mostram que o SBU reduz traços de informações privadas direcionadas em ambos os caminhos com degradação limitada nos dados retidos. Este avanço representa um passo significativo na proteção de dados sensíveis em modelos de inteligência artificial, garantindo que informações privadas possam ser removidas de forma eficaz sem comprometer a integridade dos dados restantes.
“O SBU representa uma abordagem inovadora na proteção de dados sensíveis, integrando desaprendizado de memória e supressão paramétrica em um mecanismo de loop fechado”, afirmam os pesquisadores.
— Publicidade —Google AdSense • Slot in-article
Fonte original: arXiv
