OPINIÃO - O debate sobre inteligência artificial costuma travar quando hipóteses são tratadas como certezas. À medida que os modelos se tornam mais poderosos, também ficam mais intensos os alertas de seus próprios criadores sobre riscos ainda difíceis de medir.

Em 2023, Elon Musk pediu uma “pausa” no avanço da IA, em um movimento recebido por parte do mercado como alarmismo, marketing ou tentativa de pressionar concorrentes. No início de junho, a Anthropic, empresa criadora do Claude, adotou um tom parecido ao defender a necessidade de freios para a tecnologia.

“É como se a indústria tivesse um acelerador, mas não tivesse pedal de freio”, disse Jack Clark, cofundador da companhia. A afirmação ganha peso porque a própria Anthropic diz que mais de 80% do código que sustenta sua operação já é escrito pelo Claude.

Segundo esse argumento, os engenheiros da empresa passaram a entregar oito vezes mais código por trimestre do que antes de 2025. O dado aponta para uma mudança de escala rara na história recente da tecnologia: sistemas que antes auxiliavam tarefas específicas agora participam diretamente da construção da infraestrutura que os mantém funcionando.

O temor central é o recursive self-improvement, conceito usado para descrever sistemas de IA capazes de projetar, construir e treinar versões futuras de si mesmos, com intervenção humana cada vez menor. A hipótese ainda pertence ao campo da especulação, mas ganhou força conforme modelos passaram a desempenhar tarefas antes restritas a engenheiros especializados.

O erro conceitual no centro da discussão

Há uma confusão recorrente no debate: misturar fatos já observáveis com cenários ainda hipotéticos. Uma coisa é afirmar que parte relevante do código já é gerada por IA; outra é concluir que isso levará necessariamente a uma aceleração exponencial sem controle humano.

Essa distinção importa porque muda a qualidade da resposta pública. Se os riscos são reais, a indústria precisa de supervisão independente. Se os criadores estão errados, é necessário que alguém tenha autoridade técnica para corrigir diagnósticos exagerados. Se há estratégia de posicionamento para influenciar regras antes dos concorrentes, também é preciso verificar as alegações. E, se os mecanismos normais de mercado bastam, ainda assim essa suficiência precisa ser demonstrada.

O ponto comum entre esses cenários é a necessidade de governança independente. Em uma tecnologia marcada por assimetria de informação, não basta que as próprias empresas digam quais riscos existem, quais são improváveis e quais medidas devem ser adotadas.

A analogia com freios ajuda a explicar o impasse. Eles não são instalados porque alguém tem certeza de que haverá uma colisão, mas porque a velocidade aumentou. No caso da IA, o problema é que a corrida envolve empresas que competem pelo mesmo mercado, e nenhuma delas quer ser a primeira a tirar o pé do acelerador.