Uma fabricante de joias infantis decidiu anunciar seus produtos no Instagram e direcionou o algoritmo de suas campanhas para um público interessado em criação de filhos, crianças, balé, identificado pela Meta como majoritariamente feminino.
No entanto, os resultados mostraram que os anúncios tinham sido vistos quase exclusivamente por homens adultos.
O comerciante, preocupado com essa distribuição, contatou o jornal americano The New York Times, que já havia feito diversas reportagens sobre pedofilia em redes sociais. Em fevereiro, a publicação investigou contas de crianças menores administradas pelos pais no Instagram, e o submundo sombrio dos homens que interagem com essas contas.
Com a denúncia do comerciando, o Times realizou testes com as mesmas imagens dos anúncios, que também atraíram criminosos sexuais e homens com interesse explícito em crianças.
O jornal criou perfis no Instagram para promover imagens de uma menina de cinco anos, tanto com ela visível quanto oculta, e observou que, apesar de direcionar os anúncios para um público feminino, uma grande parte dos espectadores era homens.
Os anúncios geraram interações preocupantes, incluindo telefonemas de dois acusados, ofertas de pagamento à criança por atos sexuais e declarações de amor, sugerindo que os algoritmos da plataforma facilitam o contato de homens com perfis de menores de idade.
O procurador-geral do novo México, Raúl Torrez, destacou a eficácia dos algoritmos da Meta em direcionar homens para perfis falsos de menores, usados em operações policiais, que resultou na prisão de três indivíduos.
Com o nome de “Operação MetaPhile” (referência à Meta e a pedofilia), Torrez disse que os algoritmos da empresa de tecnologia desempenharam um papel fundamental no direcionamento desses homens para os perfis “iscas” criados pela polícia.
O Times também descobriu que muitas contas de meninas gerenciadas pelos pais recebiam comentários sexuais, e que alguns desses homens também seguiam contas de pornografia, o que é proibido no Instagram.
Além disso, a reportagem identificou criminosos sexuais que interagiram com os anúncios e continuavam ativos na plataforma, apesar das políticas do Instagram. A reportagem levantou questões sobre a eficácia das medidas de segurança da Meta e a responsabilidade das plataformas em proteger crianças e outros usuários vulneráveis.
Empresários também relataram experiências negativas com a distribuição de seus anúncios, com alguns decidindo direcionar suas campanhas exclusivamente para mulheres para evitar interações indesejadas.
A situação ilustra os desafios enfrentados pelas empresas ao usar redes sociais para publicidade e a complexidade dos algoritmos que influenciam quem vê os anúncios.
Meta diz que teste com algoritmos é ‘falho e insensato’
O porta-voz da Meta, Dani Lever, considerou os testes da reportagem como uma “experiência fabricada”, que não levou em conta “os muitos fatores que contribuem para quem vê um anúncio”, e sugeriu que é “falho e insensato” tirar conclusões a partir de dados limitados.
Questionada sobre as prisões no Novo México, a Meta declarou em comunicado que “a exploração infantil é um crime horrível e passamos anos desenvolvendo tecnologia para combatê-lo”. A empresa descreveu seus esforços como “uma luta contínua” contra “determinados criminosos”.
