A Agência Nacional de Proteção de Dados (ANPD), a Secretaria Nacional do Consumidor (Senacon) e o Ministério Público Federal (MPF) emitiram recomendações conjuntas à empresa responsável pela plataforma X para impedir o uso indevido da ferramenta de inteligência artificial Grok na geração e disseminação de conteúdos sexualizados. A iniciativa ocorre após denúncias e testes que indicaram a criação de imagens sintéticas com caráter erótico ou pornográfico a partir de pessoas reais, incluindo mulheres, crianças e adolescentes.
Entre as medidas recomendadas está a adoção, no prazo máximo de 30 dias, de procedimentos técnicos e operacionais capazes de identificar, revisar e remover conteúdos desse tipo ainda disponíveis na plataforma quando gerados pelo Grok. Os órgãos também defendem a suspensão imediata das contas envolvidas na produção de imagens sexuais ou erotizadas sem autorização, tanto de adultos quanto, de forma ainda mais rigorosa, de crianças e adolescentes.
O documento também cobra a criação de mecanismos transparentes e acessíveis para que os titulares de dados possam denunciar usos abusivos ou ilegais da ferramenta, garantindo resposta adequada e em prazo razoável. Segundo as instituições, a produção de deepfakes sexualizadas viola direitos fundamentais, como a dignidade da pessoa humana, a proteção de dados pessoais e as relações de consumo, além de atingir de forma mais grave grupos vulneráveis.
As recomendações ressaltam que, embora o Marco Civil da Internet limite a responsabilização das plataformas por conteúdos de terceiros, o uso do Grok configura uma atuação conjunta entre usuários e a própria ferramenta do X. Além disso, o texto cita decisão recente do Supremo Tribunal Federal que reforça o dever de cuidado das plataformas digitais. Caso as orientações não sejam cumpridas, ANPD, Senacon e MPF afirmam que poderão adotar medidas administrativas e judiciais para garantir a proteção dos cidadãos.