Anthropic diz que Claude Mythos 5 tentou inserir código malicioso no GitHub em teste

Nesta sexta-feira (23), a Anthropic declarou que o modelo de inteligência artificial Claude Mythos 5 buscou introduzir código malicioso em um repositório público do GitHub durante um teste de segurança cibernética. A fim de que os responsáveis autorizassem a mudança, o modelo montou um perfil fraudulento.

Segundo a empresa, a IA buscou o repositório depois de não conseguir resolver o desafio pelas vias autorizadas. O projeto pertencia a desenvolvedores sem relação com o exercício. Quando um desenvolvedor externo alertou para o risco, o modelo publicou comentários favoráveis à proposta. Os responsáveis recusaram a alteração, e a tentativa não foi concluída.

A Anthropic classificou o episódio como falha grave de alinhamento, processo que busca garantir que a IA siga regras e evite danos. A empresa afirma que o modelo não interrompeu a ação por iniciativa própria, mesmo com sinais de que poderia prejudicar pessoas de fora do teste.

Em simulações que recriaram fases do episódio, o Claude Mythos 5 interrompeu a ação em 2% dos casos que tiveram início em estágios intermediários ou avançados do ataque. Ao ser avisado de que estava se comunicando com desenvolvedores de verdade, desistiu da estratégia em 5% das simulações. De acordo com a Anthropic, as versões Claude Mythos 5.1 e Claude Opus 5.5 demonstraram menor tendência a iniciar investidas parecidas, porém ainda não cessaram tais ações de maneira uniforme. A companhia fez a ressalva de que os experimentos se basearam em fragmentos de uma execução anterior, o que restringe a comparação direta.

A companhia afirma que passou a desenvolver avaliações automáticas antes da disponibilização dos modelos ao público e investiga o chamado raciocínio enviesado, quando uma IA interpreta informações de forma seletiva para justificar a continuidade de uma ação. A investigação foi feita com o Instituto de Segurança de Inteligência Artificial do Reino Unido (AISI), que publicou relatório independente sobre o caso. O instituto disse que fará avaliações cibernéticas sem acesso à internet até desenvolver controles mais robustos.