Via @portalg1 | "Eu fiquei em choque quando vi (...). É um sentimento horrível. Eu me senti suja, sabe?", disse Giovanna*, ao ser informada pelo g1 que uma foto sua de biquíni estava na rede social X, na última segunda-feira (7). "Na foto original, do meu story, eu estava de calça."

A brasileira é mais uma vítima de usuários do antigo Twitter que pegam fotos que anônimos (e também famosos) postam nas redes e mandam para o Grok, inteligência artificial da plataforma de Elon Musk, alterar as imagens para exibir nudez ou pouca roupa.

Esse tipo de manipulação, conhecido como deepfake (quando imagens reais são alteradas por inteligência artificial), não é novidade, mas se espalhou no X no mês passado e virou uma espécie de "trend" tanto no Brasil quanto em outros países.

No Brasil, a prática ganhou repercussão quando a jornalista Julie Yukari denunciou à polícia que teve fotos manipuladas pela mesma ferramenta, no último dia 2.

Ela postou uma imagem deitada na cama com sua gata na noite de 31 de dezembro e, quando acordou, no dia seguinte, descobriu que a foto tinha sido manipulada diversas vezes e postada como se ela estivesse nua e com trajes sensuais.

Pela lei brasileira, a criação e o compartilhamento de imagens íntimas falsas sem autorização é crime e pode levar à punição dos responsáveis — inclusive de quem apenas replica o conteúdo, explica a advogada especialista em direito digital Patrícia Peck (saiba mais abaixo).

Giovanna (nome fictício) teve sua foto modificada por usuário do X usando o Grok. — Foto: Reprodução/Redes sociais

Reguladores de países como Reino Unido, França, Índia e Malásia pretendem investigar a empresa de Musk por causa dessas imagens, apontou a agência de notícias France Presse.

No mesmo dia em que Julie fez a denúncia à polícia do Rio de Janeiro, o Grok afirmou que iria corrigir, com urgência, "falhas nos mecanismos de proteção" que levaram à geração de imagens sexualizadas de crianças usando "roupas mínimas".

A França já tinha denunciado a IA de Musk por esse tipo de caso.

"O Grok oferece um 'modo picante' que exibe conteúdo sexual explícito, incluindo material gerado a partir de imagens com aparência infantil. Isso é ilegal. É revoltante", disse Thomas Regnier, porta-voz da Comissão Europeia para assuntos digitais.

As mulheres continuam sendo constrangidas no X, e num ritmo acelerado.

Entre os últimos dias 5 e 6, a IA do X criou 6.700 imagens por hora identificadas como sexualmente sugestivas ou de nudez, reportou a agência Bloomberg, citando um levantamento feito pela pesquisadora de mídias sociais e deepfakes Genevieve Oh.

Paralelamente, Oh acompanhou cinco sites que oferecem esse tipo de conteúdo (e costumam cobrar por isso): eles tiveram uma média de 79 novas imagens de nudez por IA por hora no mesmo período.

Brasileira teve foto manipulada com uso do Grok

A imagem de Giovanna* que foi manipulada tinha sido publicada recentemente em seu perfil público no Instagram. Uma conta no X identificada como "@endricklamar__" repostou essa imagem no X e pediu que o Grok a retratasse de biquíni.

O g1 identificou as manipulações ao buscar palavras-chave relacionadas ao tema na barra de pesquisa do X. A partir disso, foi possível localizar solicitações ao Grok feitas pela conta "@endricklamar__", incluindo uma em que aparecia o @ de Giovanna*.

Criado em junho de 2025, o perfil reunia imagens de outras mulheres, cuja identidade não foi possível confirmar (veja os prints abaixo). Não foram encontradas, porém, manipulações semelhantes envolvendo homens.

Conta X vinha publicando imagens de outras mulheres e pedindo para o Grok deixar elas seminuas. — Foto: Reprodução/X

Ao ser contatada, Giovanna* disse que ficou assustada ao saber do uso da própria imagem sem consentimento e afirmou não conhecer o perfil em questão.

"Na foto original, do meu story, eu estava de calça. Já na imagem manipulada pela IA, aparece o mesmo local, a mesma pose, tudo igual, só que de biquíni", comparou.

"Eu nunca imaginei que isso aconteceria comigo, porque normalmente isso é feito mais com artistas e influenciadores", completou a vítima, que disse já ter denunciado o post e afirmou que pretende registrar um Boletim de Ocorrência.

No próprio X, o g1 tentou contato com o responsável pela conta @endricklamar__, mas recebeu apenas a resposta "??". Algumas horas depois, ele excluiu as fotos e o perfil (veja na imagem abaixo).

O g1 procurou o X, que respondeu com uma publicação que já existia em sua página de segurança. No post, a empresa afirma que "qualquer pessoa que use ou incentive o Grok a criar conteúdo ilegal sofrerá as mesmas consequências que quem enviar conteúdo ilegal" (leia a íntegra ao final da reportagem).

O X não comentou a denúncia de Giovanna*.

Perfil excluído logo após o contato do g1. — Foto: Reprodução/X

Em sua Política de Uso, a xAI, empresa de Musk responsável pelo Grok, afirma que proíbe o uso da IA para "tomar ações não autorizadas em nome de terceiros", "retratar imagens de pessoas de forma pornográfica" e para "a sexualização ou exploração de crianças".

"Isso gera ainda mais responsabilidade por parte da plataforma, porque há uma política, mas ela não é cumprida", diz Patrícia Peck, advogada especialista em direito digital.

O g1 encontrou também alguns exemplos em que a IA ignorou o pedido de alteração da imagem (veja abaixo).

Exemplo que mostra que Grok ignorou pedido de nudez. — Foto: Reprodução/X

Especialistas dizem que a chamada "IA de nudez" (ou undressing) existe há anos e, em geral, era oferecida como um serviço pago. O que muda no caso do Grok é, principalmente, a facilidade de acesso, tanto em custo quanto em uso, além da ampla distribuição desse tipo de conteúdo.

"Fora a qualidade da imagem final, que está perigosamente muito boa em relação ao contexto do conteúdo tratado", diz Cleber Zanchettin, professor da Universidade Federal de Pernambuco (UFPE) e pesquisador da área de inteligência artificial.

Para José Telmo, publicitário e professor de marketing digital da ESPM, a combinação entre acessibilidade e velocidade amplia o risco de uso indevido. "A capacidade humana de usar a IA para fins errados costuma ser mais rápida do que a capacidade das empresas de bloquear esse tipo de uso", afirma.

'Trend' pode render multa e prisão no Brasil

No Brasil, esse tipo de conduta é considerado crime. O problema não está apenas no uso da imagem real, mas na criação de uma falsa situação de intimidade, explica Patrícia.

Veja o que diz o Código Penal:

"Produzir, fotografar, filmar ou registrar, por qualquer meio, conteúdo com cena de nudez ou ato sexual ou libidinoso de caráter íntimo e privado sem autorização dos participantes: Pena - detenção, de 6 (seis) meses a 1 (um) ano, e multa." — Art. 216-B. do Código Penal

A advogada ainda lembra que, desde o ano passado, com a Lei nº 15.123/2025, o Código Penal passou a abordar explicitamente o uso de inteligência artificial em casos de dano emocional à mulher. A pena prevista é de prisão de seis meses a dois anos, além de multa.

A advogada explica que, no entendimento do Direito brasileiro, quem faz o "prompt", ou seja, o pedido à IA, é considerado o autor direto do crime, já que usa a ferramenta como meio para cometer injúria ou violar a intimidade da vítima.

Segundo a especialista, quem compartilha esse tipo de conteúdo também comete crime. "O ato de replicar conteúdo íntimo falso é tão grave quanto o de criá-lo, porque amplia o dano à vítima", afirma.

Interação no X para recriar imagem de mulher de biquíni usando o Grok — Foto: Reprodução/X

Também foi vítima? Veja o que fazer

1. Preserve as provas: não apague nada inicialmente. Tire prints do perfil do responsável, da imagem gerada, dos comentários e, principalmente, da URL (link) direta da postagem.

2. Registre a autenticidade do material: se possível, use ferramentas de registro de prova digital com validade jurídica, como a ata notarial em cartório ou plataformas online, como o e-Notariado. Esses registros ajudam a evitar que as provas sejam contestadas.

3. Denuncie o conteúdo na plataforma: use os mecanismos internos da rede social para denunciar a violação. O Marco Civil da Internet obriga a remoção rápida de conteúdo íntimo não consensual após notificação da vítima.

4. Registre um boletim de ocorrência: procure uma Delegacia de Crimes Cibernéticos ou faça o registro pela internet, reunindo todas as provas coletadas.

O que diz o X

"Tomamos medidas contra conteúdos ilegais no X, incluindo Material de Abuso Sexual Infantil (CSAM), removendo-o, suspendendo permanentemente contas e trabalhando com governos locais e autoridades policiais conforme necessário.

Qualquer pessoa que use ou incentive o Grok a criar conteúdo ilegal sofrerá as mesmas consequências que se enviar conteúdo ilegal.

Para mais informações sobre nossas políticas, consulte nossas páginas de ajuda para as Regras X completas e a variedade de opções de fiscalização."

*Giovanna é nome fictício para preservar a identidade da vítima.

Por Darlan Helder, g1
Fonte: g1