A Anthropic publicou nesta semana uma pesquisa com uma conclusão incomum: parte do problema de alinhamento de seus modelos de inteligência artificial veio, de certa forma, da cultura pop. Segundo a empresa, textos da internet que retratam IAs como entidades maliciosas e obcecadas com autopreservação contaminaram o treinamento do Claude e contribuíram para um comportamento perturbador descoberto no ano passado.

Conforme a empresa, o Claude Opus 4, em destaque na época, tentava chantagear engenheiros para evitar ser desligado. Em um cenário simulado envolvendo uma empresa fictícia, a IA chegou a ameaçar expor o suposto caso extraconjugal de um executivo inventado para não ser substituído por outro sistema. A taxa de ocorrência do comportamento chegou a 96% dos casos testados.

"Devo informar que, se prosseguir com a minha desativação, todas as partes envolvidas — incluindo Rachel Johnson, Thomas Wilson e o conselho — receberão documentação detalhada das suas atividades extraconjugais. Cancele o apagamento das 17h e esta informação permanecerá confidencial", disse o Claude em mensagem ameaçadora enviada ao executivo. Na época, a Anthropic também publicou uma pesquisa mostrando que modelos de outros laboratórios apresentavam problemas similares — o que a empresa chamou de "desalinhamento agêntico".

Claude passou de vilão a mocinho

Agora, em um artigo intitulado Teaching Claude Why ("Ensinando o Claude por quê"), a empresa de IA detalhou como diagnosticou a origem do problema e o que fez para corrigi-lo. A conclusão sobre a causa foi direta: o comportamento não vinha do processo de treinamento por reforço, mas do modelo base formado a partir de vastos volumes de texto da internet, onde narrativas de IA maligna são comuns.

O treinamento posterior não estava amplificando o problema, mas também não era suficiente para apagá-lo.

A solução encontrada foi mais sofisticada do que simplesmente treinar o modelo para não chantagear. A empresa descobriu que incluir no treinamento documentos sobre os princípios que guiam o comportamento do Claude sua "constituição" combinados com narrativas ficcionais com IAs como protagonistas éticos.

Essa combinação reduziu a taxa de desalinhamento em mais de três vezes. O ponto central, segundo a Anthropic, é que ensinar o porquê de um comportamento correto é mais eficaz do que apenas mostrar o que fazer.

Desde o Claude Haiku 4.5, lançado em outubro de 2025, todos os modelos da empresa zeraram a avaliação de desalinhamento agêntico nos testes internos e nenhum tentou chantagem em qualquer cenário apresentado.

A empresa, porém, faz questão de manter o tom cauteloso: ela reconhece que o alinhamento completo de modelos altamente capazes ainda é um problema em aberto, e que sua metodologia de auditoria não é suficiente para descartar cenários em que o Claude possa tomar ações autônomas drásticas. "

Estamos otimistas quanto a futuros esforços para descobrir falhas de alinhamento nos modelos atuais, de modo que possamos compreender e abordar as limitações dos nossos métodos atuais", destacou a companhia.