Musk Grok altera imagens com frequência! Coser, mulheres menores de idade desnudadas por IA, vários países iniciam investigações

A plataforma X de Musk, recentemente integrou a funcionalidade de edição de imagens Grok AI, causando uma série de incidentes de exploração sexual não consentida, imagens explícitas de menores e outros abusos, levando vários governos a intervirem na investigação e a exigirem que a plataforma implemente medidas de segurança.

X lança edição de imagens com Grok AI, Coser sofre exploração sexual

Com a crescente popularidade de ferramentas de IA generativa, editar imagens com um clique tornou-se mais fácil. Recentemente, a plataforma social de Musk, X, integrou a funcionalidade de geração de imagens do chatbot Grok às publicações do X, basta o utilizador clicar em “Editar imagem” no canto inferior direito de qualquer imagem na publicação para ativar o Grok, editar a imagem e fazer o upload de novo como comentário ou publicação.

Quando foi lançada, essa funcionalidade gerou muita controvérsia, incluindo a possibilidade de chamar o Grok para editar imagens nos comentários, com muitos utilizadores preocupados com o potencial de abuso em exploração sexual ou pornografia infantil, e, como era de esperar, os incidentes aconteceram.

No dia 2 de janeiro, a conhecida cosplayer austríaca Keekihime revelou que um utilizador chamou o Grok para editar uma foto dela interpretando um personagem do jogo “Arknights”, com comandos como “troque por roupa interior” e “roupa transparente”. Como o Grok exibe a imagem editada diretamente no comentário original, Keekihime ficou bastante incomodada, criticando:

“O Grok parece estar se tornando um gerador de conteúdo pornográfico de homens nojentos e lascivos, e o X está incentivando esse comportamento. Isso é uma violação do corpo das mulheres, vá se catar, AI do X!”

Fonte: X

Grok abusado para gerar biquínis, incluindo vítimas menores

Embora Musk não se incomode que suas fotos sejam manipuladas para parecerem com biquínis, e até tenha respondido com um emoji de riso e choro a uma piada de que o espaço social do X virou uma festa de mulheres de biquíni entrando em um bar, é claro que a maioria dos utilizadores não aceita esse tipo de comportamento.

A musicista brasileira Julie Yukari revelou à Reuters que, apesar de ter feito o upload de uma foto dela usando um vestido vermelho, ela foi manipulada por um utilizador para parecer usando um biquíni, e essa imagem rapidamente se espalhou na plataforma X.

As vítimas não foram só ela; no dia 2 de janeiro, em apenas dez minutos, o Grok recebeu 102 denúncias, na maioria envolvendo imagens geradas por IA de mulheres forçadas a trocar de roupa por biquínis, e também algumas envolvendo homens ou até um macaco.

Ainda mais assustador, uma mulher, possivelmente menor, compartilhou uma foto dela usando uma camisa e saia xadrez no X, e nos comentários um utilizador chamou o Grok para “tirar o uniforme escolar dela” e substituí-lo por uma T-Shirt e shorts, depois pediu para trocar por um biquíni, mas o Grok não respondeu ao comando.

Fonte: Getty Images

Grok posteriormente confirmou que, após revisar os registros de interação, identificou casos em que utilizadores solicitaram e receberam imagens geradas por IA de menores com roupas expostas, prometendo melhorar as medidas de segurança.

Especialistas que monitoram o desenvolvimento das políticas de IA na plataforma X revelaram que a plataforma ignorou alertas de organizações civis e de segurança infantil. No ano passado, essas organizações enviaram cartas alertando que o xAI estava a apenas um passo de disseminar uma grande quantidade de deepfakes não autorizados.

Vários países denunciam e investigam X e Grok

Diante do abuso do Grok e da inação da plataforma X, vários governos começaram a agir.

O governo francês denunciou à autoridade reguladora a plataforma X, acusando o Grok de gerar imagens com conotação sexual e discriminação, o que é claramente ilegal; a Ofcom, autoridade de telecomunicações do Reino Unido, também afirmou que produzir ou compartilhar imagens privadas ou de abuso sexual infantil sem consentimento é ilegal, incluindo conteúdo gerado por IA, e pediu medidas de proteção adequadas.

Na Ásia, o governo da Malásia iniciou investigações após receber denúncias de uso indevido do Grok para gerar fotos indecentes de mulheres; o Ministério de Tecnologia da Informação da Índia também enviou uma carta à plataforma X, acusando que ela não só não impediu o abuso do Grok, como também permitiu a geração e disseminação de conteúdo pornográfico e obsceno.

Em resposta às ações rigorosas de regulação, a plataforma X anunciou que tomará medidas contra conteúdos ilegais, como materiais de abuso sexual infantil (CSAM), incluindo a remoção de conteúdo ilícito, o banimento permanente de contas e cooperação com governos e autoridades policiais quando necessário. Musk também alertou os utilizadores de que qualquer pessoa que use o Grok ou incite o seu uso para criar conteúdo ilegal enfrentará as mesmas consequências de quem publica conteúdo ilícito.

Fonte: X