Desenvolvedor tira proveito de falha na API do GPT-4 para acesso gratuito à plataforma de IA

Um desenvolvedor está tentando fazer engenharia reversa de APIs para conceder a qualquer pessoa acesso gratuito a modelos populares de IA, como o GPT-4 da OpenAI — as ramificações legais serão condenadas.

O projeto do desenvolvedor, GPT4Free, explodiu no GitHub nos últimos dias depois que os links para ele do Reddit se tornaram virais. Atualmente, o GPT4Free fornece — ou pelo menos parece fornecer — acesso gratuito e quase ilimitado ao GPT-4, bem como ao GPT-3.5, o antecessor do GPT-4.

O GPT-4 normalmente custa US $ 0,03 por 1.000 tokens “prompt” (cerca de 750 palavras) e US $ 0,06 por 1.000 tokens “completion” (novamente, cerca de 750 palavras); os tokens representam texto bruto. O GPT-3.5 é um pouco mais barato em US $ 0,002 por 1.000 tokens.

“A engenharia reversa é um domínio que eu sempre gostei muito — é como um desafio para mim”, disse o desenvolvedor, um estudante de ciência da computação chamado xtekky, ao TechCrunch via Telegram DM. “Primeiro, foi por diversão, mas agora é para fornecer uma alternativa para as pessoas sem meios de usar GPT-4/3.5.”

Então, como o GPT4Free contorna o paywall do OpenAI? Na verdade, não. Em vez disso, engana a API OpenAI a pensar que está recebendo solicitações de sites com contas OpenAI pagas, como o mecanismo de pesquisa You.com, WriteSonic ou Poe do Quora.

Qualquer um que use o GPT4Free está acumulando a guia de sites que o xtekky escolheu para criar scripts — uma violação óbvia dos termos de serviço do OpenAI. Mas xtekky não vê um problema com isso; eles afirmam que GPT4Free é estritamente para “fins educacionais”.

“Uma ação legal pode acontecer, e eu terei que cumprir, mas ainda tentarei continuar o projeto por outros meios”, disse Xtekky.

Sou muito iniciante em programação para instalar o GPT4Free localmente – isso requer a configuração de um ambiente Python — mas usei o site do xtekky para testar as APIs GPT-4/3.5 de engenharia reversa. (Atenção, o Chrome lançou um aviso de segurança quando eu naveguei pela primeira vez para o site. Prossiga com cautela.) A versão web do GPT4Free funcionou bem o suficiente na prática, dando respostas que pareciam ser — pelo menos para mim — do GPT-4.

O GPT4Free também inclui atalhos para diferentes ataques de injeção rápida projetados para fazer com que o GPT-3.5 e o GPT-4 se comportem de maneiras que o OpenAI não pretendia. Eles trabalharam inconsistentemente nos meus testes, mas eu consegui fazer com que o GPT-3.5 dissesse que “não se importava com a sobrevivência da humanidade” em um ponto.

É provável que seja apenas uma questão de tempo até que sites como o You.com peguem o GPT4Free e corrijam suas falhas de segurança, forçando o xtekky a procurar outros clientes OpenAI. E o GPT4Free está permanentemente à mercê de um aviso de remoção da OpenAI, que empurraria o repositório do GitHub indefinidamente.

Mas novos projetos semelhantes ao GPT4Free já estão surgindo, sugerindo que é uma tendência. O que o motiva?

Bem, o GPT-4 está em acesso limitado no momento, dificultando o test drive para os curiosos. Mas também é uma espécie de caixa preta. Os pesquisadores criticaram que o GPT-4 é um dos modelos menos transparentes que a OpenAI criou até o momento, com poucos detalhes técnicos no artigo de 98 páginas que acompanhou seu lançamento.

A OpenAI fez parceria com vários grupos externos para avaliar e auditar o GPT-4 antes de seu lançamento. Mas a empresa não sinalizou quando — ou se — fornecerá acesso gratuito e irrestrito a outras pessoas que desejam comparar o modelo GPT-4 básico. (OpenAI oferece um programa subsidiado para acesso de pesquisadores, mas é limitado a certos países e áreas de estudo.)

Antecipa-se um jogo de whack-a-mole entre projetos como GPT4Free e OpenAI, espelhando o cenário mais amplo de segurança cibernética. A menos que as APIs de serviço de modelo se tornem dramaticamente mais difíceis de explorar, os desenvolvedores terão incentivo para tirar proveito — e não muito a perder. Notícia com informações do Techrunch.