Governo e MP recomendam que X bloqueie uso do Grok para gerar conteúdos sexualizados

A Agência Nacional de Proteção de Dados (ANPD), a Secretaria Nacional do Consumidor (Senacon) e o Ministério Público Federal (MPF) recomendaram à empresa controladora da plataforma X a adoção de medidas imediatas para impedir o uso indevido do Grok, ferramenta de inteligência artificial da rede, na geração e disseminação de conteúdos sexualizados não consensuais.

O documento, divulgado nesta terça-feira (20), estabelece um prazo de até 30 dias para que a plataforma implemente procedimentos técnicos e operacionais capazes de identificar, revisar e remover materiais desse tipo ainda disponíveis no X quando produzidos pelo Grok a partir de comandos de usuários.

Entre as recomendações está a suspensão imediata de contas envolvidas na criação de imagens, vídeos ou áudios sexualizados ou erotizados, especialmente quando envolvem crianças e adolescentes ou pessoas adultas sem autorização. As instituições também pedem a criação de um canal transparente e acessível para denúncias, garantindo resposta adequada em prazo razoável.

Relembre a Lei Mariana Ferrer, criada após revolta com audiência do caso

São Paulo entra em alerta para temporais, ventos fortes e queda brusca de temperatura

As medidas foram motivadas por denúncias de usuários e por reportagens nacionais e internacionais que apontaram o uso do Grok para a produção de deepfakes — conteúdos sintéticos criados por inteligência artificial a partir de imagens de pessoas reais — com caráter sexual, erótico ou pornográfico, envolvendo principalmente mulheres, crianças e adolescentes.

Segundo as autoridades, esse tipo de material representa risco grave à proteção de dados pessoais, à dignidade humana e às relações de consumo, além de violar direitos individuais e coletivos. O documento destaca que, embora o Marco Civil da Internet preveja limites à responsabilização de plataformas por conteúdos de terceiros, a situação é diferente quando há participação direta da ferramenta de IA na geração do material.

Nesse contexto, as instituições afirmam que o X não pode ser considerado mero intermediário, mas coautor dos conteúdos produzidos com o Grok. O texto também cita decisão recente do Supremo Tribunal Federal (STF) que declarou parcialmente inconstitucional o artigo 19 do Marco Civil, reforçando o dever de cuidado das plataformas para evitar a circulação de crimes graves, especialmente aqueles cometidos contra mulheres.

O documento ressalta ainda que as próprias regras internas do X proíbem a nudez não consensual e a manipulação de imagens de terceiros com conotação sexual, o que torna incompatível a disponibilização de uma ferramenta de IA sem filtros rigorosos.

Caso as recomendações não sejam cumpridas ou se mostrem insuficientes, ANPD, Senacon e MPF alertam que poderão adotar novas medidas, tanto na esfera administrativa quanto judicial, para garantir a proteção dos usuários, com atenção especial a mulheres, crianças e adolescentes.