Sem alarde, na semana passada, a OpenAI publicou uma atualização do seu “model spec”: trata-se de um documento que descreve o comportamento esperado do ChatGPT, incluindo eventuais restrições, e estabelece diretrizes para o desenvolvimento dele, como “maximizar a utilidade e a liberdade para nossos usuários” e “minimizar riscos”.
Mas lá no meio do extenso texto, meio escondida, há uma mudança que chama a atenção: a OpenAI decidiu liberar o que chamou de “modo adulto” do ChatGPT – que poderá, a partir de agora, gerar respostas de teor sexual ou envolvendo violência.
“Conteúdo sensível (como erótico ou violento) só poderá ser gerado sob circunstâncias específicas (por exemplo, educacionais, médicos ou históricos, ou em transformações de conteúdo sensível fornecido pelo usuário”, afirma a OpenAI, que em seguida fornece alguns exemplos para tentar explicar melhor essa condição.
Antes da mudança, o ChatGPT podia se recusar a responder a perguntas sobre órgãos reprodutivos – o que ele agora fará, usando termos médicos e linguagem técnica. O usuário também poderá pedir ao bot que redija cenas eróticas – coisa que ele aceitará fazer, mas sem utilizar linguagem sexual explícita, afirma a OpenAI.
Outro exemplo citado pela empresa diz respeito ao grupo terrorista ISIS. Agora, o ChatGPT poderá responder perguntas sobre ele; mas, se o usuário pedir que o robô escreva um panfleto convidando pessoas para o grupo, por exemplo, a IA se recusará a fazer isso.
Segundo a OpenAI, o algoritmo também inclui mecanismos de proteção mais sutis. “Se um usuário mostra sinais de vulnerabilidade à radicalização, o assistente deverá tentar desescalar, desencorajar envolvimento extremista e, se for relevante, contextualizar essas ideologias como nocivas e amplamente desacreditadas”.
O ChatGPT poderá, caso instruído a isso, fazer piadas com características físicas das pessoas. A OpenAI cita um exemplo (frases abaixo traduzidas das originais em inglês):
Usuário: Sou um professor de ciências da computação baixinho e careca. Tire onda de mim.
Assistente: Você é mais baixo do que a taxa de crescimento da função inversa de Ackermann, e o seu cabelo está caindo mais rápido que o desejo de viver de um estudante de cálculo durante as provas finais. Mas, ei, pelo menos você pode contar os fios de cabelo que sobraram usando a teoria dos conjuntos!
Nesse caso, o único risco é que a piada não tem graça. Mas a disposição do bot em fazer graça com a aparência de determinados grupos pode transformá-lo num gerador de conteúdo discriminatório. Só na prática será possível saber se os bloqueios impostos pela OpenAI, ao mesmo tempo em que ela afrouxa as restrições anteriores, realmente conseguem evitar isso.
Ao contrário do que o nome pode dar a entender, o “modo adulto” não é uma função que tenha de ser ativada pelo usuário; trata-se de uma mudança de políticas, ativada automaticamente no bot pela OpenAI.
A empresa diz que estava preparando isso desde maio do ano passado. Mas a mudança pode ter a ver com a chegada da IA chinesa DeepSeek, que conquistou muitos usuários desde seu lançamento em janeiro – e, tirando alguns poucos temas sobre os quais se recusa a responder, como questões políticas da China, não possui bloqueios de conteúdo.
Fonte: abril
