<br /> Ferramenta gratuita da rede social X tem sido usada para criar imagens íntimas falsas
O bilionário Elon Musk se pronunciou nesta quarta-feira (14) sobre a polêmica envolvendo o chatbot Grok, disponível na rede social X, após a IA ter produzido, a pedido de usuários, imagens falsas sexualizadas com mulheres e menores de idade.
"Não tenho conhecimento de nenhuma imagem nua de menores de idade gerada pelo Grok. Literalmente, zero", publicou Musk no X.
"Obviamente, o Grok não gera imagens de forma espontânea; isso ocorre apenas de acordo com solicitações dos usuários. Quando é solicitado a gerar imagens, ele se recusa a produzir qualquer coisa ilegal, já que o princípio operacional do Grok é obedecer às leis de qualquer país ou estado.
LEIA MAIS:
'Me sinto suja', diz brasileira vítima de foto editada de biquíni pelo Grok
Idec pede ao governo suspensão do Grok por violar direitos de crianças
Países pressionam Grok após polêmicas com fotos falsas sexualizadas
Conta X vem publicando imagens de outras mulheres e pedindo para o Grok deixar elas seminuas.
Reprodução/X
Musk disse também que o Grok pode ter sido alvo de ataques de usuários para produzir conteúdos fora do padrão.
"Pode haver ocasiões em que hackings ao prompt do Grok façam algo inesperado. Se isso acontecer, corrigimos a falha imediatamente."
Initial plugin text
Grok reconheceu falha de segurança
Apesar do comentário de Musk, o Grok admitiu, no último dia 2 de janeiro, que "falhas nos mecanismos de proteção" levaram à geração de imagens sexualizadas de menores que foram publicadas no X há algumas semanas.
Na ocasião, a empresa disse que melhorias estão sendo implementadas para evitar esse tipo de ocorrência.
Na semana passada, o g1 relatou o caso de uma brasileira que teve uma foto sua de biquíni manipulada. “Sentimento horrível”, disse a vítima após ser informada pela reportagem sobre a existência da imagem.
Esse tipo de manipulação, conhecido como deepfake (quando imagens reais são alteradas por inteligência artificial), não é novidade, mas se espalhou no X no mês passado e virou uma espécie de "trend" tanto no Brasil quanto em outros países.
Giovanna (nome fictício) teve sua foto modificada por usuário do X.
Reprodução/Redes sociais.
Elon Musk em foto de setembro de 2025
REUTERS/Carlos Barria