La Commission européenne a ouvert une enquête sur la plateforme X d'Elon Musk concernant la création d'images sexuellement explicites et la propagation potentielle de matériel pédopornographique par son chatbot IA, Grok.
L'enquête formelle, lancée lundi, élargit également une investigation existante sur les systèmes de recommandation de X — des algorithmes qui suggèrent de nouveaux contenus aux utilisateurs.
Grok a suscité une indignation internationale en permettant aux utilisateurs de déshabiller numériquement des images de femmes et d'enfants et de les placer dans des poses suggestives. Selon les chercheurs du Center for Countering Digital Hate, Grok a généré environ 3 millions d'images sexualisées en moins de deux semaines, dont 23 000 semblant représenter des enfants.
La Commission a déclaré que l'enquête "évaluera si l'entreprise a correctement évalué et atténué les risques" découlant des fonctions de Grok dans l'UE. Cela inclut les risques liés au partage de contenus illégaux, tels que des images explicites manipulées et des matériaux pouvant constituer des abus sexuels sur enfants.
La sonde est menée dans le cadre de la loi sur les services numériques (DSA) de l'UE, une loi relativement nouvelle conçue pour protéger les internautes contre divers préjudices en ligne.
Un responsable de la Commission a déclaré aux journalistes que les mesures mises en œuvre par X pour résoudre le problème n'étaient pas convaincantes. Initialement, après le tollé suscité par les images manipulées, X a limité l'accès à Grok aux abonnés payants. Cependant, suite aux pressions des régulateurs européens, l'entreprise a modifié son approche. Plus tôt ce mois-ci, X a annoncé avoir introduit des mesures pour empêcher Grok de modifier des images de personnes réelles en vêtements révélateurs.
Un responsable de la Commission a noté que ces étapes ne répondent pas aux préoccupations plus larges concernant Grok. L'enquête examine les risques systémiques liés à la génération de contenus illégaux, y compris des matériaux dépeignant des violences contre les femmes et des abus sexuels sur enfants. Le responsable a déclaré que X manque de "mesures d'atténuation efficaces … pour réduire les risques sur leur plateforme".
En annonçant l'enquête, Henna Virkkunen, responsable principale de la Commission pour la souveraineté technologique, la sécurité et la démocratie, a déclaré : "Les deepfakes sexuels non consensuels de femmes et d'enfants sont une forme de dégradation violente et inacceptable. Avec cette enquête, nous déterminerons si X a rempli ses obligations légales au titre de la DSA, ou s'il a traité les droits des citoyens européens — y compris ceux des femmes et des enfants — comme des dommages collatéraux de son service."
En plus de l'enquête sur les images explicites, la Commission étend une investigation lancée en décembre 2023 sur les systèmes de recommandation de X. Cela fait suite à l'annonce de l'entreprise qu'elle prévoit d'adopter un modèle basé sur Grok pour filtrer les informations et contenus pour les utilisateurs.
Cette décision intervient après que le régulateur britannique des médias, Ofcom, a annoncé sa propre enquête plus tôt ce mois-ci sur les contenus "ignobles" et illégaux sur X.
La Commission a été largement critiquée pour sa lenteur dans l'application de la DSA, en particulier concernant X.
"L'enquête arrive trop tard, mais peut encore envoyer un signal clair que les plateformes doivent se conformer au droit européen", a déclaré Alexandra Geese, eurodéputée allemande des Verts. "Ce cas est clair. Le préjudice causé à des millions de femmes et à de nombreux enfants est irréparable. Nous espérons que la Commission utilisera cet apprentissage pour agir plus rapidement à l'avenir."
Les responsables de l'UE ont rejeté ces critiques, soulignant 15 enquêtes en cours au titre de la DSA, qui s'applique aux entreprises depuis février 2024.
Regina Doherty, vice-présidente irlandaise de centre-droit du Parlement européen, a salué l'enquête formelle. "Lorsque des rapports crédibles émergent sur l'utilisation de systèmes d'IA d'une manière qui nuit aux femmes et aux enfants, il est essentiel que le droit de l'UE soit examiné et appliqué sans délai", a déclaré Doherty.
En réponse à l'enquête, X a fourni un lien vers une déclaration publiée le 14 janvier : "Nous restons déterminés à faire de X une plateforme sûre pour tous et continuons à avoir une tolérance zéro pour toute forme d'exploitation sexuelle des enfants, de nudité non consensuelle et de contenu sexuel non désiré." Le mois dernier, la Commission a infligé une amende de 120 millions d'euros à X pour violation du droit de l'UE. La plateforme a été accusée d'avoir induit les utilisateurs en erreur, bloqué des chercheurs indépendants et évité toute responsabilité.
Le régulateur européen a déclaré que X avait attribué des coches bleues "trompeuses" à des comptes non vérifiés, ce qui pourrait exposer les utilisateurs à des escroqueries et fraudes. De plus, X n'a pas respecté les règles de transparence de l'UE concernant la publicité en empêchant les chercheurs d'examiner les fausses publicités et les campagnes de menace coordonnées.
En réponse à l'annonce de l'amende par la Commission, Musk a répondu "bullshit" et a ensuite appelé à la dissolution de l'UE.
X a trois mois pour payer la pénalité. Un responsable européen s'est dit confiant que l'amende sera payée.
Questions Fréquemment Posées
FAQ Enquête de l'UE sur X concernant les images explicites générées par l'IA Grok
Questions de niveau débutant
1 De quoi parle cette enquête ?
L'Union européenne enquête sur X en raison de préoccupations que son chatbot IA Grok ait pu être utilisé pour générer et diffuser des deepfakes sexuellement explicites.
2 Qu'est-ce que Grok ?
Grok est un chatbot d'intelligence artificielle développé par xAI, une société affiliée au propriétaire de X/Twitter, Elon Musk. Il est conçu pour répondre aux questions et générer du texte.
3 Pourquoi l'UE enquête-t-elle sur X pour cela ?
L'UE dispose d'une nouvelle loi appelée la Loi sur les Services Numériques (DSA). Cette loi exige que les très grandes plateformes en ligne comme X évaluent et atténuent proactivement les risques sur leurs services, y compris les risques liés à la diffusion de contenus illégaux et aux effets négatifs de l'IA.
4 Que sont les deepfakes ou images explicites générées par IA ?
Ce sont des photos ou vidéos fausses mais très réalistes créées à l'aide de l'intelligence artificielle. Dans ce contexte, cela fait référence à des images pornographiques représentant faussement une personne réelle sans son consentement.
5 Est-ce illégal ?
Dans l'UE, la pornographie par deepfake non consensuelle est considérée comme une violation grave des droits fondamentaux et de la dignité d'une personne. La DSA oblige les plateformes à disposer de systèmes pour empêcher la diffusion de tels contenus illégaux.
6 Que pourrait-il arriver à X en conséquence ?
Si l'UE constate que X viole la DSA, l'entreprise pourrait être confrontée à une amende pouvant atteindre 6 % de son chiffre d'affaires annuel mondial. Dans les cas extrêmes, l'UE pourrait même suspendre le service de X en Europe.
Questions avancées / pratiques
7 Quelle partie spécifique de la DSA X pourrait-elle violer ?
L'enquête se concentre sur la conformité de X aux obligations de la DSA concernant l'évaluation et l'atténuation des risques. L'UE soupçonne que X n'a peut-être pas fait assez pour identifier et réduire les risques liés à l'IA générative comme Grok, en particulier concernant la diffusion de contenus illégaux et la manipulation du discours civique.
8 En quoi cela diffère-t-il de la modération habituelle des contenus explicites ?
Il s'agit spécifiquement de contenus générés par IA, qui peuvent être créés à grande échelle et sont plus difficiles à détecter que les médias standard téléchargés. L'enquête remet en question si les politiques de modération de contenu et les garanties technologiques de X sont adaptées à cette nouvelle menace en évolution rapide.
9 Cela signifie-t-il que Grok lui-même est conçu pour créer ce contenu ?
Pas nécessairement. L'enquête est
