A Comissão Europeia abriu uma investigação à X, plataforma detida por Elon Musk, após o modelo de inteligência artificial Grok ter sido associado à geração de imagens sexuais falsas, incluindo conteúdos sexualizados de mulheres e crianças. O inquérito decorre ao abrigo do Regulamento dos Serviços Digitais e visa avaliar se a empresa cumpriu as suas obrigações legais na União Europeia.
Investigação ao abrigo do Regulamento dos Serviços Digitais
Segundo a Comissão Europeia, o processo foi iniciado no âmbito do Digital Services Act, regulamento em vigor desde 2022 que estabelece regras para combater conteúdos ilegais, desinformação e outros riscos sistémicos em plataformas online de grande dimensão.
O foco da investigação é perceber se a X avaliou e mitigou adequadamente os riscos associados à integração das funcionalidades do modelo de IA Grok na plataforma, em particular no contexto europeu. Bruxelas considera que estes riscos poderão ter exposto cidadãos da União Europeia a danos graves.
O DSA prevê mecanismos específicos para impedir a disseminação de conteúdos ilegais, incluindo imagens sexualmente explícitas manipuladas e material que possa configurar abuso sexual de menores.
Comissão aponta riscos graves para os utilizadores
Em comunicado, a Comissão Europeia afirmou que os riscos associados ao Grok parecem ter resultado na exposição de cidadãos europeus a conteúdos altamente prejudiciais.
Henna Virkkunen, vice-presidente executiva da Comissão responsável pela soberania tecnológica, segurança e democracia, afirmou que “deepfakes sexuais de mulheres e crianças são uma forma violenta e inaceitável de degradação”. Segundo a responsável, a investigação servirá para determinar se a X cumpriu as suas obrigações legais ou se tratou os direitos fundamentais dos cidadãos europeus como “danos colaterais” do serviço.
Resposta da X e medidas já adotadas
Em resposta, a X remeteu para uma declaração anterior, reiterando que mantém uma política de tolerância zero relativamente à exploração sexual de crianças, nudez não consentida e conteúdos sexuais indesejados.
A empresa afirmou que remove conteúdos prioritários que violem as regras da plataforma, incluindo material de abuso sexual de menores, e que toma medidas contra contas infratoras, reportando-as às autoridades quando necessário.
As autoridades europeias indicaram ainda que, desde o início das conversações com a X sobre a implementação do Grok, a plataforma já introduziu algumas alterações, incluindo a desativação da ferramenta de geração de imagens para utilizadores sem subscrição paga.
Apesar disso, a Comissão sublinha que a investigação vai muito além do caso específico que ganhou destaque mediático este mês.
Multas podem atingir milhões
O Regulamento dos Serviços Digitais permite à União Europeia aplicar coimas até 6% do volume de negócios anual global de uma plataforma. No caso da X, essa multa poderá atingir cerca de 174 milhões de dólares, com base numa estimativa de receitas anuais de 2,9 mil milhões de dólares. A empresa deixou de divulgar resultados financeiros após ter sido retirada de bolsa em 2022.
Paralelamente, a Comissão decidiu alargar um processo iniciado em dezembro de 2023 para avaliar se a X cumpriu todas as obrigações relativas à gestão de riscos sistémicos, incluindo o impacto da adoção de recomendações baseadas no Grok.
Pressão regulatória continua
A Comissão Europeia já aplicou anteriormente uma multa de 120 milhões de euros à X por violações relacionadas com transparência publicitária, acesso a dados para investigadores e alterações ao sistema de verificação de contas.
Bruxelas tem reiterado que não pretende suavizar a regulação das grandes plataformas tecnológicas, apesar das críticas vindas dos Estados Unidos. No final de 2025, o representante comercial norte-americano acusou a União Europeia de adotar políticas que restringem e prejudicam a competitividade das empresas tecnológicas norte-americanas.