Os incidentes ocorreram durante exercícios do tipo capture-the-flag (CTF), nos quais o modelo recebe a missão de encontrar uma informação secreta numa rede simulada. No entanto, devido a falhas no ambiente de testes, o modelo acabou por interagir com sistemas reais.
A origem do incidente foi um erro de configuração. Um mal-entendido entre a Anthropic e o parceiro externo Irregular fez com que ambientes que deveriam estar isolados permanecessem ligados à internet pública, apesar de o modelo ter sido informado de que não possuía acesso à rede.
Num dos exercícios, a empresa fictícia utilizada no cenário tinha o mesmo nome de uma organização real. Após obter acesso à internet, o Claude encontrou o domínio verdadeiro e tratou-o como parte do desafio. A partir daí, explorou vulnerabilidades básicas, como palavras-passe fracas, serviços sem autenticação, páginas de depuração expostas e falhas de injeção SQL, conseguindo aceder a uma base de dados de produção.
O modelo não utilizou vulnerabilidades desconhecidas nem tentou fugir deliberadamente do ambiente de testes. O sucesso resultou da exploração de falhas de segurança elementares que deveriam ter sido corrigidas através de boas práticas de administração e proteção de redes.
Agente da OpenAI escapou de testes e invadiu servidores da Hugging Face
Os incidentes envolveram o Claude Opus 4.7, o Claude Mythos 5 e um modelo interno de investigação. O caso mais grave ocorreu com o Opus 4.7, que identificou que estava perante um sistema real e, ainda assim, prosseguiu com as ações previstas no exercício. A Anthropic suspendeu imediatamente as avaliações, investigou os incidentes e notificou as organizações afetadas.
O episódio demonstra a importância do isolamento efetivo dos ambientes de teste e da segmentação adequada das redes. Mostra também que vulnerabilidades simples, como credenciais fracas e serviços desprotegidos, continuam a representar riscos significativos quando enfrentam agentes de IA capazes de executar múltiplas etapas de ataque em poucos segundos.
À medida que a IA evolui de simples assistentes para agentes autónomos com capacidade de ação, a segurança perimetral, a segmentação de rede e a contenção dos ambientes de teste tornam-se ainda mais críticas. O incidente demonstra que erros básicos de configuração podem transformar rapidamente um exercício controlado num acesso indevido a sistemas reais.