Pouco mais de um ano após o lançamento público do ChatGPT, estamos começando a ver uma previsão se concretizar sobre como ele poderia afetar a internet: o spam de IA está se espalhando pela web.
Apenas na semana passada, tivemos três exemplos de como isso se desenrolou.
Primeiro, o blog de tecnologia 404 Media relatou que teve que modificar seu site por causa do spam gerado por inteligência artificial.
Recentemente, eles perceberam que versões geradas por IA de suas notícias começaram a aparecer em sites de spam que favorecem a otimização para mecanismos de busca — às vezes até aparecendo acima dos artigos reais do 404 Media nos resultados de pesquisa do Google. Os golpistas, é claro, estão ganhando dinheiro exibindo anúncios nas páginas geradas por IA.
A partir da investigação do 404 Media sobre a indústria de roubo de artigos:
Nas últimas semanas, Jason tem pesquisado e experimentado uma série de ferramentas de inteligência artificial que prometem “reformular” artigos para seus usuários. Uma delas, chamada SpinRewriter, permite que os usuários criem 1.000 versões ligeiramente diferentes do mesmo artigo com um único clique e as publiquem automaticamente em tantos sites do WordPress quanto desejarem usando um plugin pago. Ele também oferece uma ferramenta que permite aos usuários gerenciar quantos sites desejarem a partir de um único painel.
Uma empresa chamada Byword anuncia alegremente o “roubo de SEO” que “roubou 3,6 milhões de tráfego total de um concorrente” com este Truque Estranho (exportando o sitemap do concorrente e criando versões geradas por IA de 1.800 de seus artigos).
Essas versões geradas por IA de artigos prejudicam o setor de notícias, efetivamente roubando cliques (e receita) das fontes que dedicam tempo e dinheiro reais para fazer a reportagem.
Em segundo lugar, a Wired escreveu que o The Hairpin, um blog independente popular nos anos 2010, foi assumido por um agricultor de cliques de IA que deixou alguns dos artigos populares, mas substituiu os nomes das mulheres que os escreveram por nomes masculinos — desagradável.
Por fim, no extremo mais tóxico do espectro de spam de IA, existem obituários gerados por IA, cheios de erros, que causam dor real às famílias enlutadas. Em 2021, muito antes do ChatGPT, a Wired informou que “piratas de obituários” estavam vasculhando e copiando sites de funerárias. Agora, eles estão usando a IA para uma nova e lucrativa tática de criar vídeos no YouTube e sites de spam a partir dos obituários, capturando o tráfego de busca de pessoas em busca de informações sobre os recentemente falecidos.
O New York Times recentemente relatou a dor que esses vídeos gerados por IA causaram a uma família enlutada real. Após a morte acidental de um estudante universitário ao cair nos trilhos do metrô de Nova York, vídeos no YouTube e artigos gerados por IA apareceram rapidamente.
Esses obituários foram uma resposta aos golpistas percebendo um aumento no interesse de busca em torno do nome do jovem e da palavra “metrô”. Os golpistas rapidamente inseriram esses termos-chave, pediram à IA para escrever um obituário em tom conversacional e o publicaram em um site, relatou o Times. (A maioria dos detalhes estava incorreta, mas isso não impediu o site de aparecer nas pesquisas do Google.)
Os três exemplos – imitadores do 404 Media, o usurpador do The Hairpin e os piratas de obituários – diferem nos detalhes, mas têm algo em comum: maus atores, golpistas e spammers estão tentando ganhar dinheiro usando a IA para produzir grandes quantidades de conteúdo e chegar ao topo dos resultados de busca do Google.
No final, este não é apenas um problema para jornalistas que têm seu conteúdo roubado ou para famílias enlutadas legitimamente chateadas com o roubo digital de túmulos. Isso é um grande problema para o Google. Acaba entregando resultados ruins aos usuários, que têm cada vez mais opções atraentes — também graças à IA — para buscas.
O Google disse ao The New York Times que está ciente desses obituários spam e estava trabalhando para resolvê-los (e removeu alguns, já que violavam suas políticas).
Mas os maus atores muitas vezes estão um passo à frente das plataformas — como aconteceu com as imagens indecentes geradas por IA de Taylor Swift que proliferaram na semana passada.
A IA vai mudar radicalmente a internet, para melhor ou para pior. Cabe ao Google e às empresas que desenvolvem essas ferramentas de IA minimizar o dano real.
Fonte: Andre Lug
