Um modelo de Inteligência Artificial (IA) desenvolvido pela Anthropic, conhecido como Mythos, foi acessado por um grupo de usuários não autorizados. A ferramenta, considerada poderosa e potencialmente perigosa se utilizada de maneira inadequada, estava disponível para esse grupo há duas semanas, através de acesso não autorizado. De acordo com informações da The Verge, o acesso foi obtido por meio de táticas que envolveram um contrato de terceiros da própria Anthropic.
O modelo Claude Mythos Preview possui capacidades gerais que permitem identificar e explorar vulnerabilidades em sistemas operacionais e navegadores. Oficialmente, o acesso ao Mythos é restrito a um grupo seleto de empresas como Nvidia, Google, Amazon Web Services, Apple e Microsoft, através da iniciativa Project Glasswing. A preocupação de que o modelo possa ser utilizado como uma arma leva a Anthropic a não planejar seu lançamento público.
Como ocorreu o acesso não autorizado?
A exploração ilícita do modelo teria acontecido em 7 de abril, coincidindo com o anúncio da Anthropic sobre a liberação do Mythos para testes em algumas empresas. O grupo responsável pelo acesso é parte de um canal no Discord, voltado para a coleta de informações sobre modelos de IA ainda não lançados. Segundo o relatório da Bloomberg, o grupo utilizou informações de uma recente violação de dados da Mercor para inferir a localização online do Mythos.
Quais são as possíveis consequências do acesso?
A Anthropic declarou estar investigando o caso e que até o momento não há evidências de que a violação tenha impactado seus sistemas ou que tenha se estendido além do ambiente do fornecedor terceirizado. Apesar disso, o fato de o modelo ter sido utilizado sem autorização levanta preocupações sobre a segurança de ferramentas de IA avançadas.
A empresa destacou que outros modelos de IA não lançados também foram acessados pelo grupo, intensificando o alerta para riscos de segurança. O acesso não autorizado não teria sido para finalidades de cibersegurança, o que pode indicar o cuidado dos envolvidos em evitar a detecção.
