A Comissão Europeia abriu uma investigação sobre a plataforma X de Elon Musk devido à criação de imagens sexualmente explícitas e à possível disseminação de material de abuso sexual infantil por seu chatbot de IA, Grok.
A investigação formal, lançada na segunda-feira, também amplia uma investigação já existente sobre os sistemas de recomendação do X — algoritmos que sugerem novos conteúdos aos usuários.
O Grok causou indignação internacional ao permitir que usuários removessem digitalmente as roupas de imagens de mulheres e crianças e as colocassem em poses sugestivas. Segundo pesquisadores do Centro de Combate ao Ódio Digital, o Grok gerou aproximadamente 3 milhões de imagens sexualizadas em menos de duas semanas, incluindo 23.000 que pareciam retratar crianças.
A Comissão afirmou que a investigação irá "avaliar se a empresa avaliou e mitigou adequadamente os riscos" decorrentes das funções do Grok na UE. Isso inclui riscos relacionados ao compartilhamento de conteúdo ilegal, como imagens explícitas manipuladas e material que possa constituir abuso sexual infantil.
A investigação está sendo conduzida sob a Lei de Serviços Digitais (DSA) da UE, uma lei relativamente nova projetada para proteger os usuários da internet de vários danos online.
Um funcionário da Comissão disse a jornalistas que as medidas implementadas pelo X para lidar com o problema não foram convincentes. Inicialmente, após o clamor sobre imagens manipuladas, o X limitou o acesso ao Grok a assinantes pagantes. No entanto, após pressão de reguladores europeus, a empresa mudou sua abordagem. No início deste mês, o X anunciou que havia introduzido medidas para impedir que o Grok editasse imagens de pessoas reais com roupas reveladoras.
Um funcionário da Comissão observou que essas etapas não abordam preocupações mais amplas sobre o Grok. A investigação está examinando riscos sistêmicos relacionados à geração de conteúdo ilegal, incluindo material que retrata violência contra mulheres e abuso sexual infantil. O funcionário afirmou que o X carece de "medidas de mitigação eficazes ... para reduzir o risco em sua plataforma".
Ao anunciar a investigação, Henna Virkkunen, principal funcionária da Comissão para soberania tecnológica, segurança e democracia, disse: "Deepfakes sexuais não consensuais de mulheres e crianças são uma forma violenta e inaceitável de degradação. Com esta investigação, determinaremos se o X cumpriu suas obrigações legais sob a DSA, ou se tratou os direitos dos cidadãos europeus — incluindo os de mulheres e crianças — como dano colateral de seu serviço."
Além da investigação sobre imagens explícitas, a Comissão está estendendo uma investigação iniciada em dezembro de 2023 sobre os sistemas de recomendação do X. Isso ocorre após o anúncio da empresa de que planeja adotar um modelo baseado no Grok para filtrar informações e conteúdo para os usuários.
Esta medida vem após o regulador de mídia do Reino Unido, Ofcom, anunciar sua própria investigação no início deste mês sobre conteúdo "vil" e ilegal no X.
A Comissão tem enfrentado amplas críticas por ser muito lenta na aplicação da DSA, particularmente em relação ao X.
"A investigação chega tarde, mas ainda pode enviar um sinal claro de que as plataformas têm que cumprir a lei europeia", disse a eurodeputada alemã dos Verdes, Alexandra Geese. "Este caso é claro. O dano a milhões de mulheres e muitas crianças é irreparável. Esperamos que a Comissão use este aprendizado para agir mais rapidamente no futuro."
Funcionários da UE rejeitaram tais críticas, apontando para 15 investigações em andamento sob a DSA, que tem sido aplicável a empresas desde fevereiro de 2024.
Regina Doherty, vice-presidente irlandesa de centro-direita do Parlamento Europeu, saudou a investigação formal. "Quando surgem relatórios credíveis de sistemas de IA sendo usados de maneiras que prejudicam mulheres e crianças, é essencial que a lei da UE seja examinada e aplicada sem demora", disse Doherty.
Em resposta à investigação, o X forneceu um link para uma declaração publicada em 14 de janeiro: "Permanecemos comprometidos em tornar o X uma plataforma segura para todos e continuamos a ter tolerância zero para quaisquer formas de exploração sexual infantil, nudez não consensual e conteúdo sexual indesejado." No mês passado, a comissão multou o X em 120 milhões de euros por violar a lei da UE. A plataforma foi acusada de enganar usuários, bloquear pesquisadores independentes e evitar a responsabilização.
O regulador da UE afirmou que o X havia atribuído selos de verificação azuis "enganosos" a contas não verificadas, o que poderia deixar os usuários vulneráveis a golpes e fraudes. Além disso, o X não cumpriu as regras de transparência da UE sobre publicidade, impedindo que pesquisadores examinassem anúncios falsos e campanhas de ameaças coordenadas.
Em resposta ao anúncio da multa pela comissão, Musk respondeu "besteira" e posteriormente pediu que a UE fosse dissolvida.
O X recebeu três meses para pagar a penalidade. Um funcionário da UE expressou confiança de que a multa será paga.
Perguntas Frequentes
Perguntas Frequentes sobre a Investigação da UE ao X sobre Imagens Explícitas Geradas pela IA Grok
Perguntas de Nível Iniciante
1. Sobre o que é esta investigação?
A União Europeia está investigando o X devido a preocupações de que seu chatbot de IA, Grok, possa ter sido usado para gerar e disseminar imagens deepfake sexualmente explícitas.
2. O que é o Grok?
Grok é um chatbot de inteligência artificial desenvolvido pela xAI, uma empresa afiliada ao proprietário do X/Twitter, Elon Musk. Ele foi projetado para responder perguntas e gerar texto.
3. Por que a UE está investigando o X por isso?
A UE tem uma nova lei chamada Lei de Serviços Digitais (DSA). Esta lei exige que plataformas online muito grandes, como o X, avaliem e mitiguem proativamente os riscos em seus serviços, incluindo riscos relacionados à disseminação de conteúdo ilegal e aos efeitos negativos da IA.
4. O que são deepfakes ou imagens explícitas geradas por IA?
São fotos ou vídeos falsos, mas altamente realistas, criados usando inteligência artificial. Neste contexto, refere-se a imagens pornográficas que retratam falsamente uma pessoa real sem seu consentimento.
5. Isso é ilegal?
Na UE, a pornografia deepfake não consensual é considerada uma violação grave dos direitos fundamentais e da dignidade de uma pessoa. A DSA obriga as plataformas a terem sistemas para prevenir a disseminação de tal conteúdo ilegal.
6. O que pode acontecer ao X como resultado?
Se a UE descobrir que o X violou a DSA, a empresa poderá enfrentar uma multa de até 6% de sua receita anual global. Em casos extremos, a UE poderia até suspender o serviço do X na Europa.
Perguntas Avançadas/Práticas
7. Qual parte específica da DSA o X está potencialmente violando?
A investigação se concentra na conformidade do X com as obrigações da DSA em relação à avaliação e mitigação de riscos. A UE suspeita que o X pode não ter feito o suficiente para identificar e reduzir os riscos ligados à IA generativa, como o Grok, particularmente no que diz respeito à disseminação de conteúdo ilegal e à manipulação do discurso cívico.
8. Como isso é diferente da moderação regular de conteúdo explícito?
Isso é especificamente sobre conteúdo gerado por IA, que pode ser criado em grande escala e é mais difícil de detectar do que mídia padrão carregada. A investigação questiona se as políticas de moderação de conteúdo e as salvaguardas tecnológicas do X são adequadas para esta nova ameaça em rápida evolução.
9. Isso significa que o próprio Grok foi projetado para criar este conteúdo?
Não necessariamente. A investigação está
