O Instagram anunciou, na semana passada, uma mudança que poderia ter consequências terríveis: ele iria permitir que qualquer pessoa usasse o rosto de outra em fotos geradas por IA. Bastaria digitar o nome de usuário dela no Instagram; a partir daí, poderia manipular com IA as fotos da vítima e republicar os resultados.
Pior: a novidade seria automaticamente habilitada para todas as contas públicas do app. Para desativá-la, seria necessário procurar uma opção específica nos menus de configuração do app – que ficava bem escondida, e nem aparecia para boa parte das pessoas. A outra saída seria definir a conta do Instagram como privada, o que impedia a geração dos deepfakes.
Aparentemente, o objetivo da medida era estimular o uso do Muse Image, o novo algoritmo de geração de imagens desenvolvido pela divisão de IA da Meta. Mas até para os padrões da empresa, conhecida por transgredir limites de privacidade, isso foi longe demais. Na noite de sexta-feira (10), a Meta acabou decidindo recuar, e cancelou o lançamento da nova função.
“Nosso objetivo era fornecer uma ferramenta criativa útil, e dar às pessoas controle de decidir se seu conteúdo público poderia ser referenciado [usado] dessa forma. Ouvimos o feedback de que essa função errou o alvo, então ela não está mais disponível”, disse a empresa em nota.
Não é a primeira vez que a Meta decide ativar automaticamente funções invasivas, seja forçando os usuários a aceitá-las ou escondendo os detalhes no contrato de uso de produtos e apps. O escândalo mais recente ocorreu em fevereiro, quando funcionários da empresa Sama, no Quênia, contaram que recebiam vídeos capturados pelos óculos Meta Glasses – as gravações mostravam dados bancários, pessoas fazendo sexo ou usando o banheiro, entre outras situações privadas.
Após a revelação do caso, que gerou escândalo internacional, a Meta rescindiu seu contrato com a Sama, que prestava serviços de “anotação de dados”: a empresa africana empregava mais de 1.000 pessoas, que recebiam conteúdo capturado pelos apps e dispositivos da Meta. No caso dos óculos, a função deles era legendar manualmente as coisas que apareciam nos vídeos – informação que era usada para treinar as IAs de reconhecimento de imagem da Meta.
Fonte: abril
