Le gouvernement espagnol va demander aux procureurs d'enquêter sur les entreprises de médias sociaux X, Meta et TikTok pour déterminer si elles ont commis des délits en permettant prétendument à leur IA de générer et de diffuser du matériel d'abus sexuel sur enfants.
Le Premier ministre Pedro Sánchez a déclaré que cette décision vise à protéger "la santé mentale, la dignité et les droits de nos fils et de nos filles" et à mettre fin à "l'impunité" des grandes plateformes de médias sociaux.
Cette action s'appuie sur un rapport d'experts analysant la responsabilité pénale potentielle pour des pratiques comme la création et la diffusion de contenu sexuel et d'abus sexuel sur enfants via des deepfakes ou des images manipulées, qui violent la dignité des victimes. Le rapport a averti que les entreprises de médias sociaux pourraient être impliquées en permettant une diffusion rapide, étendue et opaque de tels contenus, rendant leur détection difficile et facilitant les réseaux qui les produisent, les partagent et en tirent profit.
Le conseil des ministres a approuvé cette initiative mardi, alors que le gouvernement prépare des mesures incluant une interdiction des réseaux sociaux pour les moins de 16 ans et une législation pour tenir les entreprises technologiques responsables des contenus nuisibles. Cela fait suite à une enquête de la Commission européenne lancée il y a moins d'un mois sur X concernant des images sexuellement explicites et d'éventuels contenus d'abus sexuel sur enfants générés par son chatbot IA, Grok.
Mardi, la Commission irlandaise de protection des données (DPC) a annoncé une enquête "à grande échelle" axée sur la fonctionnalité d'IA générative de Grok. Le commissaire adjoint Graham Doyle a déclaré que la DPC examinait si les utilisateurs pouvaient inciter Grok à générer des images sexualisées de personnes réelles, y compris des enfants, et si X avait respecté ses obligations GDPR concernant les données personnelles des citoyens de l'UE/EEE.
La porte-parole du gouvernement espagnol, Elma Saiz, a déclaré que Madrid ne permettrait pas que la violence sexuelle numérique contre les enfants soit "amplifiée ou protégée" par des algorithmes, en insistant sur la sécurité, la vie privée et la liberté des enfants. Le conseil des ministres demandera officiellement au procureur général d'enquêter et, le cas échéant, de poursuivre les entreprises contrevenantes.
Meta a déclaré ne pas pouvoir commenter l'enquête proposée sans informations détaillées, mais a souligné sa ferme position contre l'exploitation sexuelle des enfants et les images intimes non consenties, qu'elles soient réelles ou générées par IA, ainsi que sa politique de suppression de tels contenus. X et TikTok ont également été sollicités pour commentaire.
Les efforts de Sánchez pour tenir les entreprises de médias sociaux responsables et protéger les enfants de ce qu'il appelle le "far west numérique" ont suscité de vives réactions de la part de certains propriétaires de grandes entreprises technologiques. Plus tôt ce mois-ci, il a soutenu qu'une action urgente était nécessaire car les réseaux sociaux étaient devenus un "État en déliquescence où les lois sont ignorées et les crimes tolérés".
Il a également critiqué Elon Musk pour avoir utilisé X pour "amplifier la désinformation" concernant la décision du gouvernement de régulariser 500 000 travailleurs sans papiers et demandeurs d'asile, notant que Musk est lui-même un migrant. Musk a répondu en qualifiant Sánchez de "tyran et traître au peuple espagnol" et de "véritable totalitaire fasciste".
Les projets du gouvernement espagnol ont également suscité des critiques de la part de l'entrepreneur technologique russe et cofondateur de Telegram, Pavel Durov. Dans un message de masse envoyé à tous les utilisateurs de Telegram en Espagne, il a accusé l'administration Sánchez de "pousser de nouvelles réglementations dangereuses qui menacent vos libertés sur Internet", avertissant que ces mesures pourraient transformer l'Espagne "en un État de surveillance sous couvert de 'protection'".
Des sources gouvernementales espagnoles ont répondu en déclarant que le message sans précédent de Durov à des millions d'utilisateurs visait à saper la confiance dans les institutions et soulignait la nécessité de réglementer les réseaux sociaux et les applications de messagerie. "Les Espagnols ne peuvent pas vivre dans un monde où des oligarques technologiques étrangers peuvent inonder nos téléphones de propagande à volonté, simplement parce que le gouvernement a annoncé des mesures pour protéger les mineurs et faire respecter la loi", ont-elles déclaré.
L'inquiétude croissante concernant les effets néfastes des réseaux sociaux a incité plusieurs gouvernements, dont ceux d'Espagne, de Grande-Bretagne, de Grèce et de France, à adopter ou à envisager une législation plus stricte. En décembre, l'Australie est devenue le premier pays à interdire ces plateformes aux moins de 16 ans.
Foire Aux Questions
Bien sûr. Voici une liste de FAQ sur l'approche de l'Espagne concernant les contenus d'abus sur enfants générés par IA, formulées pour une discussion sur les réseaux sociaux.
Questions de niveau débutant
1. Qu'est-ce exactement qu'un contenu d'abus sur enfants généré par IA ?
Ce sont des images ou vidéos réalistes d'abus sexuel sur enfants créées entièrement par intelligence artificielle, n'impliquant pas de vrais enfants dans leur production. Cependant, cela reste illégal et nuisible.
2. Est-ce même un problème en Espagne ?
Oui. Les autorités espagnoles, comme la Guardia Civil, l'ont identifié comme une menace croissante et sérieuse, car cela alimente la demande et banalise les abus, même si aucune victime directe n'est photographiée.
3. Ces choses sont-elles illégales en Espagne ?
Absolument. La loi espagnole traite le matériel d'abus sexuel sur enfants généré par IA de la même manière que le matériel impliquant de vrais enfants. La possession, la distribution ou la création constituent un crime grave.
4. J'ai vu une image IA suspecte en ligne. Que dois-je faire ?
Ne la partagez pas. Signalez-la immédiatement à la plateforme où vous l'avez vue. Vous pouvez également la signaler anonymement aux autorités espagnoles via le site web de la Guardia Civil ou la ligne d'assistance de la Fondation ANAR pour la protection de l'enfance.
5. Pourquoi est-ce nuisible si aucun vrai enfant n'est blessé lors de la création de l'image ?
Cela perpétue la sexualisation des enfants, peut être utilisé pour piéger de vraies victimes et alimente un marché dangereux. Cela cause également un préjudice psychologique profond aux enfants dont les visages sont volés et superposés.
Questions avancées / pratiques
6. Comment la loi espagnole s'adapte-t-elle pour lutter contre cette nouvelle technologie ?
L'Espagne met en œuvre la loi sur les services numériques (DSA) de l'UE, qui oblige les plateformes à évaluer et à atténuer les risques de ce type. Il existe également un fort soutien pour la proposition de loi européenne sur l'IA et des règlements qui exigeraient des entreprises technologiques qu'elles détectent et signalent de tels contenus.
7. Quels sont les plus grands défis pour la police espagnole dans l'enquête sur ces affaires ?
Le volume de contenu, l'utilisation du chiffrement et du dark web, et la vitesse à laquelle les outils d'IA évoluent. La traçabilité des empreintes numériques et la collaboration internationale sont essentielles et consommatrices de ressources.
8. Les outils d'IA des plateformes de médias sociaux peuvent-ils détecter efficacement ce contenu ?
C'est une course aux armements. Alors que les plateformes utilisent l'IA pour détecter des modèles connus, les nouveaux générateurs d'IA créent constamment de nouvelles images uniques qui échappent aux filtres actuels. La détection s'améliore mais n'est pas parfaite.
9. Quel est le débat autour de l'analyse côté client en Espagne ?
Il s'agit
