A empresa americana Anthropic decidiu tirar do ar o Fable 5 e o Mythos 5, os algoritmos mais avançados do seu serviço de IA Claude, em resposta a uma ordem da Casa Branca – a qual determinou que esses bots não poderiam ser usados por cidadãos de outros países (incluindo estrangeiros que estejam dentro dos EUA). Segundo a Anthropic, que recebeu o comunicado oficial às 17h21 de sexta-feira, trata-se de um documento relativo à segurança nacional dos EUA, mas a Casa Branca “não forneceu detalhes específicos” sobre qual seria o problema com os novos algoritmos.
O Mythos 5 é considerado perigoso, pois consegue encontrar grande quantidade de brechas de segurança em outros softwares – em um teste feito no Firefox com a permissão da Fundação Mozilla, que desenvolve esse navegador, a IA teria detectado nada menos do que 271 falhas de segurança. Por isso, a Anthropic optou por não liberar esse algoritmo ao público; ele só pode ser usado por instituições e pesquisadores previamente aprovados pela empresa.
O Fable 5 é a versão pública do Mythos, e supostamente contém mecanismos de segurança que dificultam ou impedem seu uso em ciberataques. Porém, a Anthropic acredita que o governo dos EUA tenha tomado conhecimento de um método que permite driblar os guardrails (limites de segurança) desse algoritmo, possibilitando usos nocivos.
Segundo o Wall Street Journal, o tal método foi descoberto por engenheiros da Amazon, que teriam alertado as autoridades. De acordo com o site americano Semafor, que cita uma fonte da Casa Branca, também houve outro fator envolvido: a suspeita de que um grupo chinês teria tido acesso ao Mythos. Como seria difícil verificar a nacionalidade de cada usuário do Fable e do Mythos, a Anthropic decidiu simplesmente tirá-los do ar.
O uso de IA em ciberataques é um problema real, e o Mythos realmente parece ser mais poderoso do que os modelos anteriores. Porém, vale lembrar que a Anthropic também é conhecida por empregar o medo como ferramenta de marketing. Em fevereiro de 2019, ela disse que não iria liberar ao público o algoritmo GPT-2 devido a suas “preocupações com usos maliciosos” do bot. Depois, fez a mesma alegação para restringir o acesso ao GPT-3. Mas aí, em novembro de 2022, lançou o ChatGPT – com um algoritmo mais poderoso, o GPT-3.5.
Fonte: abril
