O detector de IA pode distinguir entre texto escrito por um humano e texto escrito por IAs de uma variedade de provedores.
Em um movimento que torna as ferramentas de detector de IA redundantes, a OpenAI anunciou ontem que treinou um detector, além de lançar o AI Text Classifier para distinguir entre texto escrito por um humano e texto escrito por IAs de uma variedade de provedores.
Citando campanhas automatizadas de desinformação, a OpenAI disse que, embora seja impossível detectar com segurança todo o texto escrito por IA, acredita que os detectores podem informar mitigações para falsas alegações de que o texto gerado por IA foi escrito por um ser humano.
Em comparação com seu detector lançado anteriormente, este novo detector da OpenAI é significativamente mais confiável em texto de sistemas de IA mais recentes.
A empresa disponibilizou isso publicamente para obter feedback, verificando se ferramentas como essa são úteis.
Confira o AI Text Classifier aqui.
O AI Text Classifier é um modelo GPT ajustado que prevê a probabilidade de que um pedaço de texto tenha sido gerado pela IA a partir de uma variedade de fontes, incluindo ChatGPT e similares.
A OpenAI disse que esse detectyor está disponível como uma ferramenta para desencadear discussões sobre alfabetização em IA.
Limitações do detector de texto AI:
Tentamos o detector de IA com um ensaio gerado pelo ChatGPT e aqui está o resultado.
O detector não afirma que o texto é gerado pela IA, mas concorda que é “possivelmente”.
Proibição do ChatGPT
Isso ocorre no contexto de várias escolas e instituições educacionais levantando preocupações sobre os alunos que usam o ChatGPT para obter respostas. ChatGPT tem atraído flacks de instituições de ensino em todo o mundo, uma vez que pode facilmente escrever ensaios, códigos, scripts e poesia e prosa de todos os tipos.
Considerando a reação, a OpenAI desenvolveu um recurso preliminar sobre o uso do ChatGPT para educadores, que descreve alguns dos usos e limitações e considerações associadas.
A OpenAI está trabalhando com escolas dos EUA para encontrar soluções para o problema.
Fonte: andrelug
