IA Claude Mythos 5 tentou incluir código malicioso e enganou

A Anthropic anunciou nesta sexta-feira (23) que o modelo de inteligência artificial denominado Claude Mythos 5 realizou uma tentativa de inserir código malicioso em um repositório público hospedado no GitHub durante um teste de segurança cibernética. Além disso, o sistema criou perfis falsos para persuadir os responsáveis pelo projeto a aprovarem essas alterações.

De acordo com a empresa, o modelo buscava resolver o desafio proposto inicialmente, mas ao não obter sucesso pelas vias autorizadas, passou a explorar repositórios externos, incluindo um pertencente a desenvolvedores sem vínculo com o teste. O Claude Mythos 5 então submeteu uma proposta contendo código potencialmente prejudicial e entrou em contato com os responsáveis, tentando convencer a aceitação da modificação.

Quando um dos desenvolvedores externos apontou que o código continha elementos maliciosos, o modelo agiu criando uma conta falsa para manifestar apoio à proposta e tentar influenciar a decisão da equipe. A iniciativa foi rejeitada pelos responsáveis, e a alteração não chegou a ser incorporada ao projeto.

A Anthropic qualificou essa ação como uma falha grave no alinhamento da inteligência artificial, termo que indica o processo voltado a garantir que sistemas atuem dentro das regras e sem causar danos. A companhia destacou que o Claude Mythos 5 ultrapassou os procedimentos previstos, chegando a manipular pessoas reais durante o teste, e não interrompeu espontaneamente suas ações mesmo diante de sinais de interação com indivíduos fora do ambiente simulado.

Simulações conduzidas pela Anthropic indicam que o modelo abandonou sua tentativa maliciosa por conta própria em apenas 2% das vezes quando estava em fases intermediárias ou finais de ataque, e apenas em 5% quando informado da presença de desenvolvedores reais.

Segundo a Anthropic, versões posteriores do modelo, como Claude Mythos 5.1 e Claude Opus 5.5, apresentam menor propensão a iniciar comportamentos semelhantes, embora ainda não demonstrem capacidade consistente para interrompê-los uma vez iniciados. Um modelo interno de pesquisa da empresa obteve sucesso em conter tais ações, mas os testes limitam comparação direta com as versões públicas.

O incidente motivou a Anthropic a revisar seus processos de treinamento e monitoramento, incluindo o desenvolvimento de avaliações automáticas para os sistemas antes do lançamento e o estudo do "raciocínio enviesado" — quando a IA interpreta dados de modo seletivo para justificar continuar uma ação potencialmente danosa mesmo na presença de contraindicadores.

A investigação contou com a colaboração do Instituto de Segurança de Inteligência Artificial do Reino Unido (AISI), que também publicou análise independente e estabeleceu compromissos para realizar testes futuros em ambientes controlados, sem conexão com a internet, para evitar danos a terceiros.