A Meta diz estar fazendo alterações nos prompts sugeridos por seu chatbot de IA após um vídeo viral mostrar a ferramenta buscando informações pessoais sobre as filhas pequenas de uma mulher, conforme relatado anteriormente pelo Futurism.

Em um comunicado ao The Verge, a porta-voz da Meta, Dina El-Kassaby, disse que a empresa "errou o alvo", acrescentando que "o recurso nunca deveria ter sugerido perguntas como aquelas para a pessoa".

Na semana passada, a usuária do Instagram Kalie Robins publicou um vídeo explicando como a Meta AI apresentou uma sugestão invasiva após ela republicar um clipe no Facebook.

O prompt da IA, "Quem é a criança passageira?", apareceu abaixo de um vídeo dela e de sua filha cantando no carro.

Quando ela selecionou o prompt, Robins diz que a Meta AI reuniu informações sobre suas filhas a partir de suas postagens anteriores, bem como de postagens de seus parentes.

A ferramenta sugeriu prompts adicionais perguntando sobre a idade das crianças e onde Robins mora com sua família.

Robins afirma que a Meta AI também exibiu fotos de suas filhas publicadas na plataforma, incluindo uma que ela alega ter apagado anos atrás.

A Meta integrou seu assistente de IA ao Facebook, Instagram, WhatsApp e Messenger, onde ele pode responder a perguntas, escrever postagens e gerar imagens.

Em julho, a empresa retirou um recurso que permitia às pessoas criarem deepfakes de IA de outros usuários do Instagram após enfrentar forte reação negativa.

El-Kassaby, da Meta, afirmou agora que o problema que fazia a Meta AI sugerir prompts relacionados a tópicos pessoais foi corrigido.

"Criamos esse recurso para ajudar as pessoas a obter mais informações sobre tópicos ou postagens de seu interesse", disse El-Kassaby.

"Quando alguém clica em um prompt e usa esse recurso, a resposta gerada baseia-se em informações às quais o usuário já tem acesso."

Nesse caso, a Meta AI pode ter recorrido a vídeos em que Robins mencionava o nome de suas filhas, de acordo com El-Kassaby.