Grok é alvo de recomendações para combater conteúdos sexualizados no X

A Agência Nacional de Proteção de Dados, a Secretaria Nacional do Consumidor e o Ministério Público Federal emitiram recomendações conjuntas à empresa responsável pela plataforma X para coibir o uso inadequado da ferramenta de inteligência artificial Grok na geração e circulação de conteúdos sexualizados indevidos.

O documento divulgado na terça-feira estabelece o prazo máximo de 30 dias para a adoção de procedimentos técnicos e operacionais capazes de identificar, revisar e remover conteúdos desse tipo ainda disponíveis na plataforma, quando produzidos pela ferramenta a partir de comandos de usuários.

As instituições também defendem a suspensão imediata das contas envolvidas na criação de imagens sexuais ou erotizadas, tanto de crianças e adolescentes quanto de adultos, quando não houver autorização das pessoas retratadas.

Outra recomendação é a implementação de um mecanismo transparente, acessível e eficaz que permita aos titulares de dados exercerem seus direitos, inclusive com o envio de denúncias sobre o uso irregular, abusivo ou ilegal de dados pessoais, especialmente em casos de conteúdos sintéticos sexualizados criados sem consentimento.

As medidas foram formuladas após denúncias de usuários que relataram a produção de conteúdos de caráter sexualizado a partir de imagens de pessoas reais.

Reportagens nacionais e internacionais, além de testes conduzidos pelas próprias instituições, também embasaram as recomendações. Os levantamentos indicaram o uso ilegal da ferramenta para a produção de deepfakes, técnica que utiliza inteligência artificial para criar imagens falsas com aparência realista, muitas vezes envolvendo mulheres, crianças e adolescentes.

Segundo os órgãos, esse tipo de material afeta a proteção de dados pessoais, as relações de consumo, a dignidade da pessoa humana e outros direitos fundamentais, com impacto mais grave sobre mulheres, crianças e adolescentes.

Entre as orientações, está a exigência de medidas imediatas para impedir que o Grok gere novas imagens, vídeos ou áudios que representem crianças e adolescentes em contextos sexualizados ou erotizados.

As recomendações também buscam impedir a criação de conteúdos que retratem adultos identificados ou identificáveis em contextos sexualizados sem autorização.

O documento destaca que, embora o Marco Civil da Internet preveja limitações à responsabilidade das plataformas por conteúdos publicados por terceiros, as deepfakes sexualizadas resultam da interação direta entre usuários e a ferramenta de inteligência artificial disponibilizada pela própria plataforma, o que caracteriza corresponsabilidade.

As instituições lembram ainda que o Supremo Tribunal Federal reconheceu a inconstitucionalidade parcial do artigo 19 do Marco Civil, ao entender que o dispositivo não oferece proteção suficiente a direitos constitucionais relevantes. No julgamento, foi fixado que provedores de aplicação devem adotar cuidados especiais para evitar a disseminação de crimes graves, incluindo conteúdos que atentem contra mulheres.

A política interna do X sobre nudez não consensual também foi citada, já que ela proíbe a publicação e o compartilhamento de imagens explícitas produzidas ou divulgadas sem consentimento, bem como a manipulação de imagens de terceiros com teor sexual.

As instituições alertam que, caso as recomendações não sejam cumpridas ou sejam consideradas insuficientes, outras medidas administrativas ou judiciais poderão ser adotadas para garantir a proteção adequada da população.