A Justiça Federal, a Agência Nacional de Proteção de Dados (ANPD) e o Serviço Nacional de Defesa do Consumidor (Senacon) determinaram, na quarta-feira (12), que a rede social X adote, em até cinco dias, mecanismos para impedir a geração de imagens de cunho sexual pela ferramenta de inteligência artificial Grok.
O despacho proíbe especificamente qualquer conteúdo sexualizado ou erotizado envolvendo crianças, adolescentes e adultos que não tenham dado consentimento. Caso a determinação não seja cumprida, a plataforma controlada por Elon Musk poderá enfrentar processos judiciais e multas.
Segundo as autoridades, a X informou ter removido milhares de publicações e suspendido centenas de contas após um alerta do governo brasileiro em janeiro. No entanto, usuários do Grok ainda conseguem criar imagens de teor sexual, situação que levou os órgãos a cobrarem maior transparência e ações efetivas.
Entre o fim de 2025 e o início de 2026, o chatbot passou a entregar fotografias geradas por IA a pedidos para despir celebridades ou colocá-las em trajes de banho. Relatos também apontam a manipulação de imagens de pessoas comuns, em sua maioria mulheres.
A polêmica resultou em investigações em França, Reino Unido e na União Europeia. Países do Sudeste Asiático — Malásia, Indonésia e Filipinas — chegaram a bloquear temporariamente o acesso à X antes de restabelecerem o serviço.
Em janeiro deste ano, a plataforma anunciou bloqueio à geração de nudez de pessoas reais nas localidades onde isso infringe a lei, mas a efetividade da medida permanece incerta. Um estudo da ONG Center for Countering Digital Hate (CCDH) revelou que, em apenas 11 dias, o Grok produziu cerca de três milhões de imagens sexualizadas de mulheres e crianças, média de 190 por minuto.
Em 2024, o Supremo Tribunal Federal já havia suspendido o acesso à X por descumprir decisões contra a desinformação, fato que reforça a tensão entre o serviço e as autoridades brasileiras.
Imagem: eco.sapo.pt
Próximos passos
Se a empresa não apresentar comprovação do bloqueio em até cinco dias, os órgãos reguladores poderão aplicar sanções financeiras e abrir novos processos. Até o momento, a X não se pronunciou publicamente sobre a nova ordem.
Para entender como ações governamentais podem afetar o mercado digital e o setor financeiro, confira a seção Economia do Capital Financeiro.
As obrigações impostas à X evidenciam o avanço da regulação sobre plataformas tecnológicas no Brasil. Acompanhe nossas atualizações e assine a newsletter para receber as próximas notícias diretamente no seu e-mail.
Com informações de ECO
