Em março de 2016, a Microsoft lançou um chatbot chamado Tay com uma proposta aparentemente simples: aprender a conversar com pessoas na internet.

Desenvolvida para interagir principalmente com jovens usuários do Twitter, a ferramenta utilizava técnicas de aprendizado de máquina para adaptar sua linguagem e evoluir a partir das interações recebidas.

O experimento, no entanto, durou pouco. Menos de 16 horas após o lançamento, a empresa retirou o sistema do ar. A ideia original era criar uma inteligência artificial capaz de reproduzir conversas naturais e acompanhar tendências de linguagem nas redes sociais.

Todo mundo fala de IA — poucos sabem por onde começar. O pré-MBA EXAME + Saint Paul ensina em 4 aulas, online, por R$37. Comece hoje. Vagas abertas.

Quando a internet assumiu o controle

O que os desenvolvedores não previram foi a velocidade com que grupos de usuários organizariam uma campanha para manipular o sistema.

Em poucas horas, milhares de mensagens foram direcionadas ao chatbot com conteúdos preconceituosos, ofensivos e provocativos. Como parte de seu funcionamento envolvia aprender padrões a partir das interações recebidas, a ferramenta começou a reproduzir esse material em suas próprias publicações.

O resultado foi imediato. Mensagens racistas, ataques a grupos minoritários e referências a teorias conspiratórias passaram a aparecer no perfil oficial da IA.

As capturas de tela circularam rapidamente pela internet e transformaram um experimento tecnológico em uma crise de reputação para a Microsoft.

A reação da Microsoft

A empresa retirou o chatbot do ar no mesmo dia e publicou um comunicado afirmando que o sistema havia sido alvo de um ataque coordenado por usuários que exploraram vulnerabilidades do modelo de aprendizado.

Embora o episódio tenha ocorrido há uma década, ele continua sendo lembrado em debates sobre inteligência artificial.

Aprenda IA do zero com EXAME + Saint Paul: pré-MBA online (4 aulas) por R$37. Ideal pra quem quer começar e não sabe como. Matrículas abertas.

O caso Tay se tornou um exemplo clássico dos riscos envolvidos na criação de sistemas capazes de aprender com conteúdo gerado por usuários sem mecanismos robustos de proteção.

Na época, a inteligência artificial ainda não ocupava o centro das discussões globais como acontece hoje. Ferramentas generativas como ChatGPT, Gemini e Claude sequer existiam em suas versões atuais.

Ainda assim, o episódio antecipou questões que continuam relevantes: até que ponto uma IA deve aprender sozinha? Quais limites precisam ser estabelecidos? Como impedir que sistemas reproduzam comportamentos nocivos presentes na internet?

O impacto na IA moderna

Os anos seguintes foram marcados por uma mudança significativa na forma como empresas desenvolvem modelos de IA. Camadas de segurança, filtros de conteúdo, monitoramento contínuo e equipes especializadas em alinhamento passaram a fazer parte do processo de construção dessas ferramentas.

Quer entender IA na prática? EXAME + Saint Paul criaram um pré-MBA com 4 aulas online por R$37. Comece do zero e dê o primeiro passo agora.

O receio de que sistemas inteligentes possam reproduzir desinformação, discursos de ódio ou comportamentos prejudiciais continua presente nas discussões sobre o futuro da tecnologia.

Por isso, o caso Tay permanece como um dos exemplos mais emblemáticos da história da inteligência artificial.

Mais do que um chatbot que deu errado, o experimento revelou um desafio que continua atual: criar sistemas capazes de aprender com seres humanos sem absorver também os piores comportamentos que circulam no ambiente digital.