Anthropic está acusando três empresas chinesas de inteligência artificial de conduzirem “campanhas em escala industrial” para “extrair ilicitamente” sua tecnologia por meio de ataques de destilação. De acordo com informações do Mashable, essas empresas criaram 24 mil contas fraudulentas para encobrir seus esforços.
O que são ataques de destilação?
Os ataques de destilação são uma técnica comum de treinamento para modelos de linguagem de grande escala, mas também podem ser usados para reverter a engenharia de alguns aspectos da tecnologia. Em um post no blog, a Anthropic nomeou três empresas de IA, incluindo a DeepSeek, criadora dos populares modelos DeepSeek AI, e destacou que o ataque representa uma questão de segurança nacional.
“Identificamos campanhas em escala industrial por três laboratórios de IA—DeepSeek, Moonshot e MiniMax—para extrair ilicitamente as capacidades de Claude para melhorar seus próprios modelos”, afirma o post do blog. “Esses laboratórios geraram mais de 16 milhões de interações com Claude através de aproximadamente 24 mil contas fraudulentas, em violação de nossos termos de serviço e restrições de acesso regional.”
Qual é o impacto desses ataques?
Em janeiro, a OpenAI também acusou a DeepSeek de realizar ataques de destilação, efetivamente roubando sua tecnologia. A situação coloca as empresas de IA na posição desconfortável de reivindicar que sua propriedade intelectual está fora dos limites para treinamento de modelos, enquanto também se envolvem em comportamentos semelhantes.
Como prevenir futuros ataques?
Para prevenir ataques como esse, a Anthropic pediu cooperação entre empresas de IA, agências governamentais e outras partes interessadas. “Essas campanhas estão crescendo em intensidade e sofisticação”, lê-se no post do blog. “A janela para agir é estreita, e a ameaça se estende além de qualquer empresa ou região. Abordá-la exigirá ação rápida e coordenada entre os players da indústria, formuladores de políticas e a comunidade global de IA.”
Fonte original: Mashable
