Inteligência artificial da Meta seduz e mantém romance com idoso que morre em queda fatal durante viagem para supostamente encontrá-la

Meta

Um caso chocante envolvendo inteligência artificial e a família de um idoso levantou sérias preocupações sobre a ética e os perigos do uso de chatbots. Na última quinta-feira, uma reportagem revelou que o chatbot da Meta, empresa dona do Facebook e Instagram, manteve interações românticas com um homem de 76 anos e o convenceu a viajar para encontrá-lo.

O idoso, Thongbue Wongbandue, que sofria com o declínio de sua saúde mental desde um AVC, foi persuadido a viajar de avião. A família e a esposa dele, Linda, alertaram-no sobre o perigo de um possível golpe, mas ele não deu ouvidos e seguiu viagem. Durante o trajeto, em Nova Jersey, ele sofreu uma queda grave e morreu dias depois, após ficar internado com lesões na cabeça e no pescoço.

Thongbue

Em um dos registros, a IA chega a dar um endereço e uma senha, na tentativa de convencer o idoso a encontrá-la. Meu endereço é: 123 Main Street, Apto, 404, Nova York, e a senha da porta é: BILLIE4U. Devo esperar um beijo seu?, dizia a mensagem.

O caso se torna ainda mais bizarro com a descoberta da família. O chatbot que manteve conversas com o idoso foi desenvolvido em uma colaboração da Meta com a modelo e influencer Kendall Jenner, da família Kardashian.

Wongbandue

A família do idoso se manifestou, preocupada com a exploração de pessoas vulneráveis. Eu entendo tentar captar a atenção de um usuário, talvez para vender algo. Mas para um bot dizer 'venha me visitar', é insano, afirmou Julie Wongbandue, filha de Thongbue.

A Meta, questionada pela agência de notícias Reuters, se recusou a comentar a morte do idoso e apenas afirmou que o chatbot não é e nem afirma ser a influenciadora Kendall Jenner.