A Comissão Europeia iniciou uma investigação sobre o chatbot de inteligência artificial Grok, de Elon Musk, devido à produção de imagens explícitas, informou Regina Doherty, deputada europeia da Irlanda, em declaração nesta segunda-feira (26).
Segundo a parlamentar, a investigação avaliará se a X cumpriu suas obrigações previstas na legislação digital da União Europeia, incluindo requisitos relacionados à mitigação de riscos, governança de conteúdo e proteção de direitos fundamentais.
O caso pode gerar tensão com a administração do presidente dos Estados Unidos, Donald Trump, já que a repressão da União Europeia às grandes empresas de tecnologia provocou críticas e até ameaças de tarifas vindas dos EUA.
A Comissão Europeia não respondeu de imediato ao ser questionada sobre a abertura formal da investigação. A X também não se manifestou sobre o assunto até a publicação desta reportagem.
“Este caso levanta questões muito sérias sobre se as plataformas estão cumprindo suas obrigações legais de avaliar riscos corretamente e impedir que conteúdos ilegais e prejudiciais se espalhem”, disse Doherty em comunicado enviado por e-mail.
Mais cedo neste mês, a Comissão havia considerado ilegais e repugnantes imagens geradas por IA de mulheres e crianças sem roupa compartilhadas na X, acompanhando a condenação internacional.
A xAI, empresa de inteligência artificial de Musk, informou em meados de janeiro que implementou ajustes para impedir que a conta Grok “permitisse a edição de imagens de pessoas reais com roupas reveladoras, como biquínis”.
Na ocasião, a xAI também afirmou ter bloqueado usuários, com base na localização, de gerar imagens de pessoas com roupas reveladoras em “jurisdições onde isso é ilegal”, sem identificar quais são essas regiões.
Doherty afirmou que as imagens expuseram fragilidades mais amplas na forma como tecnologias emergentes de IA são regulamentadas e fiscalizadas.
“A União Europeia tem regras claras para proteger as pessoas online. Essas regras precisam valer na prática, especialmente quando tecnologias poderosas são usadas em larga escala. Nenhuma empresa que opere na UE está acima da lei”, acrescentou.
No início deste mês, o regulador britânico de mídia, Ofcom, também iniciou uma investigação separada para apurar se a X está cumprindo suas obrigações previstas na Lei de Segurança Online do Reino Unido.