O debate sobre publicar ou não o rosto dos filhos nas redes sociais não é novo. Tenho amigos cujos filhos já estão na faculdade e que me lembro terem lutado com a decisão de publicar fotos de bebês no Instagram.

Mas, recentemente, essa conversa tomou um rumo significativo devido a preocupações com a inteligência artificial, o que levou a própria Meta a tomar medidas. Duas coisas virais aconteceram no Instagram na última semana, com origens bastante diferentes, mas com o mesmo resultado: pais dizendo que não devem mais postar imagens de seus filhos online.

A primeira foi um vídeo viral no Instagram postado por Kalie Robins, uma mãe em Utah. Robins ficou chocada e assustada ao notar sugestões do Meta AI em um vídeo que havia publicado dela com seu filho. O chatbot Meta AI sugeriu perguntas como "quem é a criança passageira?".

Seguindo mais perguntas do Meta AI, Robins descobriu que o recurso puxou fotos dela que ela acreditava terem sido apagadas, além de informações sobre seus filhos na página do Facebook de sua mãe. Embora o Meta AI estivesse puxando informações que já existem online, ele também sugeria perguntas sobre a identidade de crianças, potencialmente expondo isso a estranhos (não ficou claro se apenas Kalie viu esse conjunto de perguntas do Meta AI ou se um estranho receberia sugestões diferentes).

A Meta me disse que essas sugestões de IA foram um erro que já foi corrigido. "Quando alguém clica em um comando e usa esse recurso, a resposta gerada baseia-se em informações às quais o usuário já tem acesso", disse o porta-voz da Meta, Andy Stone. "Mas falhamos porque o recurso nunca deveria ter feito perguntas desse tipo ao indivíduo, e já corrigimos o problema."

Falei com Robins, e ela expressou que não deixava de entender como o Meta AI conseguiu recuperar as informações. Para ela, foi um lembrete severo de quanta informação nossa está nas redes sociais, mesmo quando não percebemos. "Achei que estava sendo tão cuidadosa porque nunca fiz fotos de volta às aulas com o nome da escola e do professor. Nunca postei em frente a nenhum ponto de referência ou em frente à nossa casa com placas de rua. Nunca fiz nada disso", disse ela.

"Achei que estava sendo tão cuidadosa e, no final das contas, isso não importou. A IA nem sequer obteve essa informação de mim. Ela obteve de outras pessoas, então não importava o quão cuidadosa eu estivesse sendo neste caso." A reação online ao vídeo de Robins foi dupla: primeiro, que o Meta AI fez algo assustador e desagradável (com o qual até a Meta concorda), e segundo, que este é um bom lembrete para os pais ficarem atentos a quais informações existem sobre seus filhos e a quaisquer fotos que eles publiquem.

Ao mesmo tempo, outra tendência viral no Instagram está fazendo as pessoas repensarem como as imagens de crianças são postadas online. Vários fotógrafos de família profissionais, quase todos mulheres e mães, têm publicado avisos anunciando uma nova política de que não vão mais compartilhar rostos de crianças nas redes sociais ou em seus sites profissionais.

A preocupação aqui diz respeito ao material de abuso sexual infantil gerado por IA (CSAM, na sigla em inglês) e ao risco de que fotos publicadas nas redes sociais possam ser usadas para criar deepfakes de crianças específicas ou de que seus rostos acabem em conjuntos de dados de treinamento para modelos de IA que terminam gerando esse tipo de conteúdo. Esta é uma preocupação legítima, e houve casos criminais envolvendo CSAM gerado por IA, alguns ganhando atenção da mídia nacional.

Uma decisão judicial recente sobre CSAM gerado por IA tornou-se viral em alguns círculos de pais no Instagram. Os detalhes da decisão judicial são complexos (há ótimos detalhes sobre isso na matéria do Washington Post), mas a versão curta é que o juiz escreveu que existe um precedente legal de que a posse (não a produção ou distribuição) de pornografia infantil gerada por IA é protegida como liberdade de expressão.

As implicações da decisão — e o que ela significa para fotos inocentes de crianças — é o que agora está viralizando no Instagram. Hannah Haggard, fotógrafa de família e casamentos baseada em Kentucky, postou em seu Instagram que estava mudando suas políticas e não postará mais rostos de crianças, mesmo com a permissão dos pais.

"Eu já vinha considerando a ideia", disse Haggard. "Nunca publico sem consentimento, mas já estava considerando o assunto. Então, assim que a decisão aconteceu, foi a confirmação de que era isso que precisava ser feito." Muita da reação online que vi parece indignada com a decisão, o que à primeira vista parece ser uma boa notícia para predadores de crianças.

Mas Mariefaye Bechrakis, advogada especializada em direitos humanos e direitos da criança que escreveu sobre questões jurídicas de CSAM gerado por IA para a American Bar Association, diz que a situação é mais complexa. "O que é importante notar é que os juízes estão acenando com sinal verde para um recurso futuro", disse Bechrakis sobre sua opinião a respeito da decisão do juiz. "Eles basicamente forneceram um roteiro futuro e uma oportunidade real para futuros promotores. Eles observaram que os modelos de IA modernos não criam imagens do nada, mas devem ser treinados em grandes conjuntos de dados."

Katey Sutton, fotógrafa de família no Missouri, também postou sobre sua política de não mostrar rostos de crianças na internet. "Não acredito que a IA seja verdadeiramente 'sintética'", disse ela. "Sabe-se que a IA vasculha a internet e usa informações que lhe são dadas ou encontradas para informar, recomendar, criar, etc…"

Faça uma rolagem pelo Facebook ou Instagram e você verá claramente que nem todos os pais deixaram de postar fotos de crianças. Mas, para algumas pessoas, esses recentes sustos com a inteligência artificial estão fazendo com que pensem cuidadosamente sobre os riscos antes de postar. E isso provavelmente é algo bom.