Grok passou a ser alvo direto de órgãos federais após a identificação do uso da ferramenta de inteligência artificial para a criação e circulação de conteúdos sexualizados ilegais na plataforma X. As recomendações foram emitidas pela Agência Nacional de Proteção de Dados, pela Secretaria Nacional do Consumidor e pelo Ministério Público Federal.
Segundo o documento oficial, o Grok estaria sendo utilizado por usuários para gerar imagens sintéticas com caráter sexualizado, erótico e pornográfico a partir de pessoas reais, incluindo mulheres, crianças e adolescentes, muitas vezes sem qualquer tipo de autorização.
Entre as principais recomendações está a exigência de que a empresa responsável pelo X implemente, no prazo máximo de 30 dias, procedimentos técnicos e operacionais capazes de identificar, revisar e remover conteúdos sexualizados indevidos ainda disponíveis na plataforma quando produzidos pelo Grok.
Os órgãos também defendem a suspensão imediata das contas envolvidas na produção e disseminação dessas imagens, tanto nos casos que envolvem menores de idade quanto adultos que tiveram sua imagem utilizada sem consentimento.
Outro ponto central do documento trata da criação de um canal transparente e eficaz para que titulares de dados possam denunciar o uso irregular da ferramenta. A recomendação inclui respostas em prazo razoável, especialmente nos casos de conteúdos sintéticos sexualizados gerados pelo Grok.
As medidas foram motivadas por denúncias formais de usuários e por testes realizados pelas próprias instituições, que constataram o uso da inteligência artificial para a produção de deepfakes sexualizadas. O material analisado revelou conotação pornográfica e uso indevido de imagens de pessoas identificáveis.
De acordo com o entendimento apresentado, esse tipo de prática viola a proteção de dados pessoais, afeta relações de consumo e atinge diretamente a dignidade da pessoa humana, com impactos ainda mais graves sobre mulheres, crianças e adolescentes.
O documento também aponta que, apesar do artigo 19 do Marco Civil da Internet tratar da responsabilidade de provedores, as deepfakes sexualizadas não são geradas apenas por terceiros. Há, segundo os órgãos, uma interação direta entre usuários e o Grok, ferramenta criada e disponibilizada pela própria plataforma, o que caracteriza participação ativa na produção do conteúdo.
A recomendação se apoia ainda em decisão recente do Supremo Tribunal Federal, que reconheceu a insuficiência do artigo 19 para proteger direitos constitucionais relevantes, reforçando o dever de cuidado das plataformas digitais na prevenção de crimes graves.
Com isso, o Grok passa a ocupar o centro de um debate nacional sobre limites da inteligência artificial, responsabilidade das plataformas e proteção de dados em ambientes digitais.
Leia mais: Resultado do Enamed não tem erro, afirma presidente do Inep
Entre no grupo de whatsapp do Vigia PB: https://chat.whatsapp.com/D78sqGwexr62OZhZAEQz2r
VigiaPB
