Η Ευρωπαϊκή Επιτροπή άνοιξε έρευνα για την πλατφόρμα X του Έλον Μασκ σχετικά με τη δημιουργία σεξουαλικά σαφών εικόνων και την πιθανή διάδοση υλικού σεξουαλικής κακοποίησης παιδιών από το chatbot τεχνητής νοημοσύνης της, το Grok.
Η επίσημη έρευνα, που ξεκίνησε τη Δευτέρα, διευρύνει επίσης μια υφιστάμενη έρευνα για τα συστήματα συστάσεων του X - αλγόριθμους που προτείνουν νέο περιεχόμενο στους χρήστες.
Το Grok έχει προκαλέσει διεθνή οργή, καθώς επιτρέπει στους χρήστες να απογυμνώνουν ψηφιακά εικόνες γυναικών και παιδιών και να τις τοποθετούν σε υπονοούμενες πόζες. Σύμφωνα με ερευνητές του Κέντρου για την Αντιμετώπιση του Ψηφιακού Μίσους, το Grok δημιούργησε περίπου 3 εκατομμύρια σεξουαλικοποιημένες εικόνες σε λιγότερο από δύο εβδομάδες, συμπεριλαμβανομένων 23.000 που φαίνεται να απεικονίζουν παιδιά.
Η Επιτροπή δήλωσε ότι η έρευνα θα "αξιολογήσει εάν η εταιρεία αξιολόγησε και μετρίασε σωστά τους κινδύνους" που προκύπτουν από τις λειτουργίες του Grok στην ΕΕ. Αυτό περιλαμβάνει κινδύνους που σχετίζονται με τη διαμοιρασμό παράνομου περιεχομένου, όπως επεξεργασμένες σαφείς εικόνες και υλικό που μπορεί να συνιστά σεξουαλική κακοποίηση παιδιών.
Η έρευνα διεξάγεται βάσει του Νόμου για τις Ψηφιακές Υπηρεσίες (DSA) της ΕΕ, ενός σχετικά νέου νόμου που έχει σχεδιαστεί για να προστατεύει τους χρήστες του διαδικτύου από διάφορες διαδικτυακές βλάβες.
Ένας υπάλληλος της Επιτροπής είπε στους δημοσιογράφους ότι τα μέτρα που έχει εφαρμόσει το X για την αντιμετώπιση του ζητήματος δεν ήταν πειστικά. Αρχικά, μετά την έκρηξη οργής για τις επεξεργασμένες εικόνες, το X περιορίζει την πρόσβαση στο Grok σε πληρωμένους συνδρομητές. Ωστόσο, μετά από πίεση από τους ευρωπαϊκους ρυθμιστές, η εταιρεία άλλαξε την προσέγγισή της. Νωρίτερα αυτόν τον μήνα, το X ανακοίνωσε ότι είχε εισαγάγει μέτρα για να αποτρέψει το Grok από το να επεξεργάζεται εικόνες πραγματικών ανθρώπων σε αποκαλυπτικά ρούχα.
Ένας υπάλληλος της Επιτροπής σημείωσε ότι αυτά τα βήματα δεν αντιμετωπίζουν ευρύτερες ανησυχίες σχετικά με το Grok. Η έρευνα εξετάζει συστημικούς κινδύνους που σχετίζονται με τη δημιουργία παράνομου περιεχομένου, συμπεριλαμβανομένου υλικού που απεικονίζει βία κατά των γυναικών και σεξουαλική κακοποίηση παιδιών. Ο υπάλληλος δήλωσε ότι στο X λείπουν "αποτελεσματικά μετριαστικά μέτρα … για τη μείωση του κινδύνου στην πλατφόρμα τους".
Ανακοινώνοντας την έρευνα, η Χέννα Βίρκουνεν, επικεφαλής υπάλληλος της Επιτροπής για την τεχνολογική κυριαρχία, την ασφάλεια και τη δημοκρατία, δήλωσε: "Τα μη συναινετικά σεξουαλικά deepfakes γυναικών και παιδιών είναι μια βίαιη, απαράδεκτη μορφή υποβάθμισης. Με αυτήν την έρευνα, θα καθορίσουμε εάν το X έχει εκπληρώσει τις νομικές του υποχρεώσεις βάσει του DSA ή εάν αντιμετώπισε τα δικαιώματα των Ευρωπαίων πολιτών - συμπεριλαμβανομένων εκείνων των γυναικών και των παιδιών - ως ζημιές από την υπηρεσία του".
Εκτός από την έρευνα για τις σαφείς εικόνες, η Επιτροπή επεκτείνει μια έρευνα που ξεκίνησε τον Δεκέμβριο του 2023 για τα συστήματα συστάσεων του X. Αυτό έρχεται μετά την ανακοίνωση της εταιρείας ότι σχεδιάζει να υιοθετήσει ένα μοντέλο βασισμένο στο Grok για το φιλτράρισμα πληροφοριών και περιεχομένου για τους χρήστες.
Αυτή η κίνηση έρχεται μετά τον Οργανισμό Τύπου του Ηνωμένου Βασιλείου Ofcom που ανακοίνωσε νωρίτερα αυτόν τον μήνα τη δική του έρευνα για "απαίσιο" και παράνομο περιεχόμενο στο X.
Η Επιτροπή έχει δεχτεί ευρεία κριτική για το ότι είναι πολύ αργή στην εφαρμογή του DSA, ιδιαίτερα όσον αφορά το X.
"Η έρευνα έρχεται πολύ αργά, αλλά μπορεί ακόμα να στείλει ένα σαφές σήμα ότι οι πλατφόρμες πρέπει να συμμορφώνονται με τον ευρωπαϊκό νόμο", δήλωσε η Γερμανή βουλευτής των Πρασίνων Αλεξάνδρα Γκίζε. "Αυτή η υπόθεση είναι ξεκάθαρη. Η ζημιά σε εκατομμύρια γυναίκες και πολλά παιδιά είναι ανεπανόρθωτη. Ελπίζουμε ότι η Επιτροπή θα χρησιμοποιήσει αυτήν την εμπειρία για να ενεργήσει πιο γρήγορα στο μέλλον".
Οι αξιωματούχοι της ΕΕ έχουν απορρίψει τέτοιες κριτικές, επισημαίνοντας 15 συνεχιζόμενες έρευνες βάσει του DSA, ο οποίος ισχύει για εταιρείες από τον Φεβρουάριο του 2024.
Η Ρετζίνα Ντόχερτι, αντιπρόεδρος του Ευρωπαϊκού Κοινοβουλίου από την Ιρλανδία και το κεντροδεξιό κόμμα, υποδέχθηκε την επίσημη έρευνα. "Όταν εμφανίζονται αξιόπιστες αναφορές για τη χρήση συστημάτων τεχνητής νοημοσύνης με τρόπους που βλάπτουν γυναίκες και παιδιά, είναι απαραίτητο ο νόμος της ΕΕ να εξεταστεί και να εφαρμοστεί χωρίς καθυστέρηση", δήλωσε η Ντόχερτι.
Σε απάντηση στην έρευνα, το X παρείχε έναν σύνδεσμο σε μια δήλωση που δημοσίευσε στις 14 Ιανουαρίου: "Παραμένουμε αφοσιωμένοι στο να κάνουμε το X μια ασφαλή πλατφόρμα για όλους και συνεχίζουμε να έχουμε μηδενική ανοχή για οποιαδήποτε μορφή σεξουαλικής εκμετάλλευσης παιδιών, μη συναινετική γύμνια και ανεπιθύμητο σεξουαλικό περιεχόμενο". Τον προηγούμενο μήνα, η επιτροπή επέβαλε πρόστιμο 120 εκατομμυρίων ευρώ στο X για παραβίαση του ευρωπαϊκού νόμου. Η πλατφόρμα κατηγορήθηκε ότι παραπλάνησε χρήστες, μπλόκαρε ανεξάρτητους ερευνητές και απέφυγε την ευθύνη.
Ο ρυθμιστής της ΕΕ δήλωσε ότι το X είχε αναθέσει "απατηλά" μπλε σημάδια επαλήθευσης σε μη επαληθευμένους λογαριασμούς, γεγονός που θα μπορούσε να αφήσει τους χρήστες ευάλωτους σε απάτες και απάτες. Επιπλέον, το X δεν πληρούσε τους κανόνες διαφάνειας της ΕΕ σχετικά με τη διαφήμιση, αποτρέποντας τους ερευνητές από την εξέταση ψεύτικων διαφημίσεων και συντονισμένων εκστρατειών απειλών.
Σε απάντηση στην ανακοίνωση της επιτροπής για το πρόστιμο, ο Μασκ απάντησε "μαλακίες" και αργότερα ζήτησε τη διάλυση της ΕΕ.
Στο X δόθηκαν τρεις μήνες για να πληρώσει την ποινή. Ένας υπάλληλος της ΕΕ εξέφρασε την εμπιστοσύνη του ότι το πρόστιμο θα πληρωθεί.
Συχνές Ερωτήσεις
FAQs Έρευνα της ΕΕ για το X σχετικά με τις AI-δημιουργημένες σαφείς εικόνες του Grok
Ερωτήσεις Επίπεδου Αρχάριου
1 Σχετικά με τι είναι αυτή η έρευνα;
Η Ευρωπαϊκή Ένωση διερευνά το X για ανησυχίες ότι το chatbot τεχνητής νοημοσύνης της, το Grok, μπορεί να έχει χρησιμοποιηθεί για τη δημιουργία και διάδοση σεξουαλικά σαφών εικόνων deepfake.
2 Τι είναι το Grok;
Το Grok είναι ένα chatbot τεχνητής νοημοσύνης που αναπτύχθηκε από την xAI, μια εταιρεία συνδεδεμένη με τον ιδιοκτήτη του X/Twitter, Έλον Μασκ. Έχει σχεδιαστεί για να απαντά σε ερωτήσεις και να δημιουργεί κείμενο.
3 Γιατί η ΕΕ διερευνά το X για αυτό;
Η ΕΕ έχει ένα νέο νόμο που ονομάζεται Νόμος για τις Ψηφιακές Υπηρεσίες. Αυτός ο νόμος απαιτεί από πολύ μεγάλες διαδικτυακές πλατφόρμες, όπως το X, να αξιολογούν και να μετριάζουν προληπτικά τους κινδύνους στις υπηρεσίες τους, συμπεριλαμβανομένων κινδύνων που σχετίζονται με τη διάδοση παράνομου περιεχομένου και τις αρνητικές επιπτώσεις της τεχνητής νοημοσύνης.
4 Τι είναι τα deepfakes ή οι AI-δημιουργημένες σαφείς εικόνες;
Πρόκειται για ψεύτικες αλλά εξαιρετικά ρεαλιστικές φωτογραφίες ή βίντεο που δημιουργούνται χρησιμοποιώντας τεχνητή νοημοσύνη. Σε αυτό το πλαίσιο, αναφέρεται σε πορνογραφικές εικόνες που απεικονίζουν ψευδώς ένα πραγματικό άτομο χωρίς τη συγκατάθεσή του.
5 Είναι αυτό παράνομο;
Στην ΕΕ, η μη συναινετική deepfake πορνογραφία θεωρείται σοβαρή παραβίαση των θεμελιωδών δικαιωμάτων και της αξιοπρέπειας ενός ατόμου. Το DSA υποχρεώνει τις πλατφόρμες να έχουν συστήματα για την αποτροπή της διάδοσης τέτοιου παράνομου περιεχομένου.
6 Τι θα μπορούσε να συμβεί στο X ως αποτέλεσμα;
Εάν η ΕΕ διαπιστώσει ότι το X παραβιάζει το DSA, η εταιρεία θα μπορούσε να αντιμετωπίσει πρόστιμο έως και 6% των ετήσιων εσόδων της σε παγκόσμιο επίπεδο. Σε ακραίες περιπτώσεις, η ΕΕ θα μπορούσε ακόμη και να αναστείλει την υπηρεσία του X στην Ευρώπη.
Προχωρημένες / Πρακτικές Ερωτήσεις
7 Ποιο συγκεκριμένο μέρος του DSA πιθανώς παραβιάζει το X;
Η έρευνα επικεντρώνεται στη συμμόρφωση του X με τις υποχρεώσεις του DSA σχετικά με την αξιολόγηση και τον μετριασμό κινδύνων. Η ΕΕ υποψιάζεται ότι το X μπορεί να μην έχει κάνει αρκετά για να εντοπίσει και να μειώσει τους κινδύνους που συνδέονται με τη γενεσιουργό τεχνητή νοημοσύνη, όπως το Grok, ιδιαίτερα όσον αφορά τη διάδοση παράνομου περιεχομένου και τον χειρισμό της πολιτικής συζήτησης.
8 Σε τι διαφέρει αυτό από τη συνηθισμένη διαχείριση σαφούς περιεχομένου;
Αυτό αφορά συγκεκριμένα περιεχόμενο που δημιουργείται από τεχνητή νοημοσύνη, το οποίο μπορεί να δημιουργηθεί σε μεγάλη κλίμακα και είναι πιο δύσκολο να ανιχνευθεί από τα τυπικά ανεβασμένα μέσα. Η έρευνα αμφισβητεί εάν οι πολιτικές διαχείρισης περιεχομένου και οι τεχνολογικοί μηχανισμοί προστασίας του X είναι επαρκείς για αυτή τη νέα, ταχέως εξελισσόμενη απειλή.
9 Αυτό σημαίνει ότι το ίδιο το Grok είναι σχεδιασμένο να δημιουργεί αυτό το περιεχόμενο;
Όχι απαραίτητα. Η έρευνα είναι
