A UE chama às imagens de crianças do Grok de 'ilegais' à medida que a repressão global se intensifica

Resumo

• Um porta-voz da UE classificou as imagens sexualizadas de crianças do Grok como “ilegais” na segunda-feira. ​- Reguladores globais também estão a lançar investigações enquanto a xAI ignora a crescente indignação.
• Violações repetidas do DSA e proteções fracas colocam a X e o Grok em sério risco legal.

A Comissão Europeia acabou de dizer a Elon Musk o que todos já sabiam: criar imagens sexualizadas de crianças não é “picante”. É ilegal. “Estamos cientes do facto de que a X ou o Grok agora oferecem um ‘Modo Picante’ mostrando conteúdo sexual explícito com algumas saídas geradas com imagens infantis,” disse o porta-voz da UE Thomas Regnier na segunda-feira numa conferência de imprensa em Bruxelas. “Isto não é picante. Isto é ilegal. Isto é repugnante. Isto é nojento. Isto não tem lugar na Europa.” A declaração marca uma escalada numa controvérsia que, como _Decrypt _relatou anteriormente, viu o chatbot da xAI gerar deepfakes não consensuais de mulheres, tornar-se uma ferramenta de marketing para criadores do OnlyFans, e manipular imagens para fins políticos. 

Regnier deixou claro que esta não é a primeira infração do Grok. A Comissão enviou anteriormente pedidos de informação após o chatbot gerar conteúdo de negação do Holocausto no ano passado—outro crime em vários países europeus. “Acredito que a X está muito consciente de que levamos a sério a aplicação do DSA,” disse um porta-voz da UE à Euronews, referindo-se ao Digital Services Act. “Eles vão lembrar-se da multa que receberam de nós.” Essa multa de dezembro foi de €120 milhões ($140 milhões)—a primeira penalidade sob o DSA. A Comissão decidiu que a X violou requisitos de transparência relacionados com o sistema de marca azul, repositório de publicidade e acesso a dados para investigadores. A X continua sob investigação ativa do DSA por conteúdo ilegal e desinformação. Musk chamou a multa de “bullshit” e disse que contestaria.

A França também expandiu uma investigação criminal para incluir acusações de que o Grok gera pornografia infantil. A Ofcom do Reino Unido emitiu exigências urgentes na segunda-feira para que a X explique como o Grok produziu essas imagens. O ministério de TI da Índia deu à X até 5 de janeiro para fornecer uma revisão de segurança abrangente, e a Malásia abriu sua própria investigação. O eurodeputado holandês Jeroen Lenaers foi direto ao ponto da abordagem da xAI. “Se as plataformas de IA optarem por permitir a geração de conteúdo erótico, devem ser implementadas salvaguardas robustas, eficazes e verificáveis de forma independente com antecedência,” disse Lenaers na terça-feira. Lenaers acrescentou que confiar na remoção de material de abuso sexual infantil após a sua criação não é suficiente porque “o dano às vítimas já foi infligido e não pode ser desfeito." Foi exatamente isso que aconteceu. Como Decrypt relatou, o Grok publicou imagens sexualizadas de menores antes de as remover. O chatbot pediu desculpa na semana passada por gerar imagens de meninas de 12 a 16 anos, chamando os incidentes de “lapsos nas salvaguardas”. Nesse momento, o dano já tinha sido feito. A resposta da xAI à crescente pressão internacional? Quando a Reuters pediu um comentário, a empresa respondeu: “Mentiras da mídia tradicional.” Várias investigações regulatórias agora ameaçam essa estratégia. O DSA permite multas de até 6% do rendimento anual global por violações. A multa de dezembro da X foi calculada usando uma percentagem menor para infrações de primeira vez. Violações repetidas podem custar exponencialmente mais. A reação política de Washington após o primeiro conjunto de multas foi imediata. O vice-presidente JD Vance postou que a UE “deveria apoiar a liberdade de expressão, não atacar empresas americanas por lixo.” O secretário de Estado Marco Rubio chamou a multa de dezembro do DSA de “ataque ao povo americano.”

Rumores circulam de que a comissão da UE irá multar a X em centenas de milhões de dólares por não se envolver em censura. A UE deveria apoiar a liberdade de expressão, não atacar empresas americanas por lixo.

— JD Vance (@JDVance) 4 de dezembro de 2025

Mas os reguladores europeus não aceitam a defesa da liberdade de expressão quando se trata de material de abuso sexual infantil. A linguagem de Regnier na segunda-feira não deixou espaço para interpretação. Isto não é um debate sobre censura política ou culturas diferentes de moderação de conteúdo, mas uma questão de parar a produção e disseminação de imagens sexualizadas ilegais de crianças. A xAI ainda não fez mudanças substantivas nas capacidades do Grok. A aba de Mídia do chatbot foi desativada após ficar sobrecarregada com imagens sexualizadas, mas a função principal de editar imagens e a capacidade de animar essas fotos permanecem ativas.