UE abre investigação contra X por ‘deepfakes’ sexuais no Grok
O poder Executivo da União Europeia abriu uma investigação contra o X por conta da difusão de imagens sexualmente explícitas manipuladas por meio de seu chatbot de inteligência artificial, o Grok.
De acordo com Henna Virkkunen, comissária da UE para Tecnologias Digitais, o objetivo é verificar se a rede social respeitou as normas da Lei de Serviços Digitais (DSA), legislação criada pelo bloco para coibir crimes online.
“Os deepfakes sexuais não consensuais de mulheres e crianças são uma forma violenta e inaceitável de degradação”, acrescentou Virkkunen em um comunicado.
O inquérito chega na esteira do uso do Grok para sexualizar imagens de mulheres e crianças na internet por meio de comandos simples e repetidos por milhares de usuários nas últimas semanas, como “coloque-a em um biquíni” ou “remova as roupas dela”.
Segundo a Comissão Europeia, a investigação vai apurar se o X avaliou corretamente e mitigou os riscos de difusão de conteúdos ilegais e os possíveis efeitos negativos relacionados à violência de gênero.
Bruxelas também examinará se a empresa de Elon Musk realizou e apresentou à UE uma avaliação de risco específica antes de implementar funcionalidades com impacto crítico nos usuários.
Em paralelo, a Comissão Europeia ampliou o inquérito iniciado em dezembro de 2023 para apurar se o X avaliou e mitigou adequadamente todos os riscos sistêmicos associados aos seus sistemas de recomendação.
Em dezembro passado, o Executivo da UE já multou a rede social em 120 milhões de euros (R$ 750 milhões) por práticas enganosas na verificação de contas com o selo azul, que, de acordo com Bruxelas, induz usuários ao erro e os expõe a “golpes e outras formas de manipulação”, por não respeitar critérios de transparência em anúncios e por não permitir que pesquisadores tenham acesso adequado a dados públicos da plataforma.
A sanção irritou o governo do presidente dos Estados Unidos, Donald Trump, que a definiu como um “ataque ao povo americano”.