Para a Anthropic, dona do Claude, é preciso haver uma pausa no desenvolvimento de inteligência artificial (IA).

Em postagem publicada no blog oficial da empresa, o Anthropic Institute afirmou que "seria bom para o mundo ter a opção de desacelerar ou pausar temporariamente o desenvolvimento de IA para que as estruturas sociais e a pesquisa de alinhamento consigam acompanhar o avanço da tecnologia".

A declaração faz parte de um relatório no qual a companhia argumenta que a própria inteligência artificial já está acelerando o desenvolvimento de novos sistemas de IA.

Segundo a Anthropic, mais de 80% do código atualmente incorporado à sua base de desenvolvimento é escrito pelo Claude, seu principal modelo de inteligência artificial.

A empresa afirma que essa transformação aproxima a indústria de um cenário conhecido como autoaperfeiçoamento recursivo, no qual sistemas de IA passam a desenvolver seus próprios sucessores com cada vez menos intervenção humana.

Embora reconheça que esse estágio ainda não foi alcançado, a Anthropic avalia que ele pode chegar mais rápido que governos, empresas e instituições estão preparados para lidar.

IA já acelera a criação de novas IAs

Segundo a Anthropic, o desenvolvimento de inteligência artificial deixou de depender exclusivamente de pesquisadores e engenheiros humanos.

A empresa afirma que agentes baseados no Claude já escrevem código, executam tarefas, realizam testes e auxiliam em etapas relevantes do desenvolvimento de novos modelos.

O relatório cita dados internos que mostram uma mudança significativa na produtividade da companhia.

De acordo com a Anthropic, engenheiros entregam atualmente cerca de oito vezes mais código por dia do que produziam em 2024.

A empresa atribui esse crescimento ao uso crescente de sistemas de IA capazes de executar tarefas de programação de forma autônoma, reduzindo a necessidade de trabalho manual em atividades rotineiras.

O que é o autoaperfeiçoamento recursivo

O conceito de autoaperfeiçoamento recursivo descreve um cenário em que um sistema de inteligência artificial se torna capaz de projetar, desenvolver e treinar novas versões de si próprio.

Segundo a Anthropic, a indústria ainda está distante desse ponto, mas alguns sinais já começaram a aparecer.

A empresa cita avanços em benchmarks de programação, pesquisa científica e resolução de tarefas complexas como evidências de que os sistemas atuais conseguem assumir responsabilidades cada vez maiores.

O documento argumenta que a principal limitação continua sendo a capacidade de definir objetivos estratégicos e decidir quais problemas merecem atenção. Hoje, essa função permanece sob responsabilidade humana.

O papel dos humanos está mudando

Na avaliação da Anthropic, a contribuição humana tende a migrar gradualmente da execução para a supervisão.

Segundo o relatório, atividades como escrever código, realizar testes e executar experimentos estão se tornando cada vez mais automatizadas.

Em contrapartida, pesquisadores e engenheiros permanecem responsáveis por definir prioridades, interpretar resultados e estabelecer direções de pesquisa.

Os riscos de uma IA que desenvolve IA

A Anthropic afirma que sistemas capazes de desenvolver seus próprios sucessores poderiam acelerar descobertas científicas, avanços médicos e inovações tecnológicas.

Ao mesmo tempo, a empresa alerta que esse cenário ampliaria desafios relacionados ao controle e à segurança da inteligência artificial.

Segundo o relatório, se modelos avançados passarem a desempenhar papel central no desenvolvimento de futuras gerações de IA, será necessário fortalecer mecanismos de monitoramento, validação e alinhamento para garantir que esses sistemas continuem operando de acordo com objetivos definidos por humanos.

Por que a Anthropic defende uma pausa

A empresa argumenta que uma desaceleração coordenada do desenvolvimento de modelos de fronteira poderia criar tempo para que governos, reguladores e pesquisadores desenvolvessem mecanismos de governança adequados.

Segundo a Anthropic, uma pausa efetiva exigiria cooperação entre laboratórios líderes do setor e mecanismos confiáveis de verificação para impedir que empresas ou governos continuassem avançando secretamente enquanto outros interrompiam suas pesquisas.

A companhia reconhece que implementar esse tipo de coordenação seria um desafio técnico e geopolítico significativo.

Ainda assim, afirma que pretende participar de discussões com pesquisadores, formuladores de políticas públicas, organizações da sociedade civil e outras empresas de inteligência artificial para avaliar formas de lidar com a possibilidade de sistemas cada vez mais autônomos desenvolverem as próximas gerações da tecnologia.