O governo espanhol solicitará aos promotores que investiguem as empresas de mídia social X, Meta e TikTok para determinar se cometeram crimes ao supostamente permitir que sua IA gere e dissemine material de abuso sexual infantil.
O primeiro-ministro Pedro Sánchez afirmou que a decisão visa proteger "a saúde mental, a dignidade e os direitos de nossos filhos e filhas" e acabar com a "impunidade" das grandes plataformas de mídia social.
A ação baseia-se em um relatório de especialistas que analisa a possível responsabilidade criminal por práticas como a criação e disseminação de conteúdo sexual e abuso sexual infantil por meio de deepfakes ou imagens manipuladas, que violam a dignidade das vítimas. O relatório alertou que as empresas de mídia social podem estar envolvidas ao possibilitar a disseminação rápida, ampla e opaca desse material, dificultando sua detecção e facilitando redes que o produzem, compartilham e lucram com ele.
O conselho de ministros aprovou a medida na terça-feira, enquanto o governo prepara ações que incluem a proibição de mídias sociais para menores de 16 anos e legislação para responsabilizar empresas de tecnologia por conteúdo prejudicial. Isso ocorre após uma investigação da Comissão Europeia, iniciada há menos de um mês, sobre a X devido a imagens sexualmente explícitas e possível material de abuso sexual infantil gerado por seu chatbot de IA, Grok.
Na terça-feira, a Comissão de Proteção de Dados da Irlanda (DPC) anunciou uma investigação "em larga escala" focada na funcionalidade de IA generativa do Grok. O vice-comissário Graham Doyle afirmou que a DPC está examinando se os usuários poderiam induzir o Grok a gerar imagens sexualizadas de pessoas reais, incluindo crianças, e se a X cumpriu as obrigações do GDPR em relação aos dados pessoais de cidadãos da UE/EEE.
A porta-voz do governo espanhol, Elma Saiz, declarou que Madri não permitirá que a violência sexual digital contra crianças seja "amplificada ou protegida" por algoritmos, enfatizando a segurança, privacidade e liberdade das crianças. O conselho de ministros solicitará formalmente ao procurador-geral que investigue e, se for o caso, processe as empresas infratoras.
A Meta afirmou que não pode comentar a investigação proposta sem informações detalhadas, mas ressaltou sua forte posição contra a exploração sexual infantil e imagens íntimas não consensuais, sejam reais ou geradas por IA, e sua política de remover esse conteúdo. A X e o TikTok também foram contactados para comentar.
Os esforços de Sánchez para responsabilizar as empresas de mídia social e proteger as crianças do que ele chama de "faroeste digital" provocaram fortes reações de alguns donos de grandes empresas de tecnologia. No início deste mês, ele argumentou que ações urgentes são necessárias porque as mídias sociais se tornaram um "Estado falido onde as leis são ignoradas e os crimes são tolerados".
Ele também criticou Elon Musk por usar a X para "amplificar desinformação" sobre a decisão do governo de regularizar 500 mil trabalhadores indocumentados e solicitantes de asilo, observando que o próprio Musk é um migrante. Musk respondeu chamando Sánchez de "um tirano e um traidor do povo espanhol" e um "verdadeiro totalitário fascista".
Os planos do governo espanhol também atraíram críticas do empreendedor de tecnologia russo e cofundador do Telegram, Pavel Durov. Em uma mensagem em massa enviada a todos os usuários do Telegram na Espanha, ele acusou o governo Sánchez de "empurrar regulamentações novas e perigosas que ameaçam suas liberdades na internet", alertando que as medidas poderiam transformar a Espanha "em um Estado de vigilância sob o pretexto de 'proteção'".
Fontes do governo espanhol responderam afirmando que a mensagem sem precedentes de Durov para milhões de usuários visava minar a confiança nas instituições e destacou a necessidade de regular mídias sociais e aplicativos de mensagens. "Os espanhóis não podem viver em um mundo onde oligarcas estrangeiros da tecnologia podem inundar nossos telefones com propaganda à vontade, simplesmente porque o governo anunciou medidas para proteger menores e fazer cumprir a lei", disseram.
Preocupações crescentes com os efeitos prejudiciais das mídias sociais levaram vários governos, incluindo os da Espanha, Reino Unido, Grécia e França, a adotar ou considerar legislações mais rigorosas. Em dezembro, a Austrália se tornou o primeiro país a proibir crianças menores de 16 anos nessas plataformas.
Perguntas Frequentes
Claro. Aqui está uma lista de perguntas frequentes sobre a abordagem da Espanha em relação ao conteúdo de abuso infantil gerado por IA, formatada para discussão em mídias sociais.
Perguntas de Nível Iniciante
1. O que exatamente é conteúdo de abuso infantil gerado por IA?
São imagens ou vídeos realistas de abuso sexual infantil criados inteiramente por inteligência artificial, sem envolver crianças reais na produção. No entanto, ainda é ilegal e prejudicial.
2. Isso é mesmo um problema na Espanha?
Sim. Autoridades espanholas, como a Guarda Civil, identificaram isso como uma ameaça crescente e séria, pois alimenta a demanda e normaliza o abuso, mesmo que nenhuma vítima direta seja fotografada.
3. Esse material é ilegal na Espanha?
Absolutamente. A lei espanhola trata o material de abuso sexual infantil gerado por IA da mesma forma que o material envolvendo crianças reais. Posse, distribuição ou criação é um crime grave.
4. Vi uma imagem suspeita de IA online. O que devo fazer?
Não a compartilhe. Denuncie imediatamente à plataforma onde você a viu. Você também pode denunciar anonimamente às autoridades espanholas através do site da Guarda Civil ou da linha direta da Fundação ANAR para proteção infantil.
5. Por que é prejudicial se nenhuma criança real é ferida ao criar a imagem?
Perpetua a sexualização de crianças, pode ser usado para aliciar vítimas reais e alimenta um mercado perigoso. Também causa profundo dano psicológico às crianças cujos rostos são roubados e sobrepostos.
Perguntas Avançadas/Práticas
6. Como a lei espanhola está se adaptando para enfrentar essa nova tecnologia?
A Espanha está implementando a Lei de Serviços Digitais da UE, que obriga as plataformas a avaliar e mitigar riscos como este. Há também forte apoio à proposta Lei de IA da UE e regulamentações que exigiriam que empresas de tecnologia detectem e relatem tal conteúdo.
7. Quais são os maiores desafios para a polícia espanhola na investigação desses casos?
O volume de conteúdo, o uso de criptografia e a dark web, e a velocidade com que as ferramentas de IA evoluem. Rastrear pegadas digitais e a colaboração internacional são fundamentais e consomem muitos recursos.
8. As ferramentas de IA das plataformas de mídia social podem detectar efetivamente esse conteúdo?
É uma corrida armamentista. Embora as plataformas usem IA para detectar padrões conhecidos, novos geradores de IA criam constantemente imagens novas e únicas que escapam dos filtros atuais. A detecção está melhorando, mas não é perfeita.
9. Qual é o debate em torno da varredura no lado do cliente na Espanha?
Este é
