Όταν ήμουν μικρό κορίτσι, τίποτα δεν ήταν πιο τρομακτικό από έναν ξένο. Στα τέλη της δεκαετίας του 1980 και στις αρχές της δεκαετίας του 1990, οι γονείς μας, οι ειδικές τηλεοπτικές εκπομπές και οι δάσκαλοί μας μας προειδοποιούσαν ότι οι ξένοι θέλουν να μας βλάψουν. Το «Stranger Danger» ήταν παντού. Ήταν ένα καλοπροαίρετο μάθημα, αλλά ο κίνδυνος υπερβολοποιήθηκε: η πλειοψηφία της παιδικής κακοποίησης διαπράττεται από άτομα που το παιδί γνωρίζει. Η κακοποίηση από αγνώστους είναι πολύ πιο σπάνια.
Πιο σπάνια, αλλά όχι αδύνατη. Το ξέρω γιατί εγώ υπέφερα σεξουαλική εκμετάλλευση από αγνώστους.
Από την ηλικία των πέντε έως τα 13, ήμουν παιδί-ηθοποιός. Ενώ πρόσφατα έχουμε ακούσει πολλές τρομακτικές ιστορίες για κακοποίηση πίσω από τις σκηνές, εγώ πάντα αισθανόμουν ασφαλής στο πλατό. Τα πλατό γυρίσματος ήταν ρυθμισμένοι χώροι όπου οι άνθρωποι εστίαζαν στη δουλειά. Είχα υποστηρικτικούς γονείς και περιβαλλόμουν από σκηνοθέτες, ηθοποιούς και δασκάλους που κατανοούσαν και νοιαζόντουσαν για τα παιδιά.
Ο μόνος τρόπος με τον οποίο η βιομηχανία του θεάματος με έθεσε σε κίνδυνο ήταν με το να με εκθέσει στο δημόσιο βλέμμα. Οποιαδήποτε σκληρότητα και εκμετάλλευση αντιμετώπισα προήλθε από το κοινό.
«Το Χόλιγουντ σε πετάει στην πισίνα», λέω πάντα, «αλλά το κοινό είναι που κρατάει το κεφάλι σου κάτω από το νερό».
Πριν καν ξεκινήσω το γυμνάσιο, η εικόνα μου είχε χρησιμοποιηθεί σε υλικό παιδικής σεξουαλικής κακοποίησης. Εμφανιζόμουν σε ιστοσελίδες φετίχ και είχα φωτομοντάζ σε πορνογραφία. Ενήλικες άνδρες μου έστελναν ανατριχιαστικά γράμματα. Δεν ήμουν όμορφο κορίτσι — η περίοδος της αμηχανίας μου διήρκεσε από τα 10 έως τα 25 περίπου — και έπαιζα σχεδόν αποκλειστικά σε οικογενειακές ταινίες. Αλλά ήμουν δημόσιο πρόσωπο, οπότε ήμουν προσβάσιμη. Αυτό ψάχνουν οι θύτες: πρόσβαση. Και τίποτα δεν με έκανε πιο προσβάσιμη από το διαδίκτυο.
Δεν είχε σημασία ότι αυτές οι εικόνες «δεν ήμουν εγώ» ή ότι οι ιστοσελίδες ήταν «τεχνικά» νόμιμες. Ήταν μια οδυνηρή, παραβιαστική εμπειρία — ένας ζωντανός εφιάλτης που ελπίζω κανένα άλλο παιδί να μην υποστεί. Ως ενήλικας, ανησυχούσα για τα παιδιά που ήρθαν μετά από μένα. Συνέβαιναν παρόμοια πράγματα στα αστέρια της Disney, στο καστ του «Stranger Things» ή σε προεφήβους που έκαναν χορούς στο TikTok και εμφανίζονταν σε οικογενειακά vlogs; Δεν ήμουν σίγουρη ότι ήθελα να μάθω.
Όταν η γενεσιουργός ΤΝ έπιασε τόπο πριν από λίγα χρόνια, φοβήθηκα το χειρότερο. Είχα ακούσει για τα «deepfakes» και ήξερα ότι η τεχνολογία γινόταν εκθετικά πιο ρεαλιστική.
Τότε συνέβη — ή τουλάχιστον, ο κόσμος το πρόσεξε. Η γενεσιουργός ΤΝ έχει ήδη χρησιμοποιηθεί πολλές φορές για τη δημιουργία σεξουαλικοποιημένων εικόνων ενηλίκων γυναικών χωρίς τη συγκατάθεσή τους. Συνέβη σε φίλες μου. Αλλά πρόσφατα, αναφέρθηκε ότι το εργαλείο ΤΝ της X, το Grok, είχε χρησιμοποιηθεί ανοιχτά για τη δημιουργία γυμνών εικόνων ενός ανήλικου ηθοποιού. Εβδομάδες νωρίτερα, ένα 13χρονο κορίτσι είχε αποβληθεί από το σχολείο γιατί χτύπησε μια συμμαθήτριά της που υποτίθεται δημιούργησε deepfake πορνό με αυτήν — περίπου στην ίδια ηλικία που ήμουν εγώ όταν άνθρωποι δημιούργησαν ψεύτικες σεξουαλικοποιημένες εικόνες με εμένα.
Τον Ιούλιο του 2024, το Internet Watch Foundation βρήκε πάνω από 3.500 ΤΝ-δημιουργημένες εικόνες παιδικής σεξουαλικής κακοποίησης σε ένα φόρουμ του σκοτεινού διαδικτύου. Πόσες χιλιάδες ακόμη έχουν δημιουργηθεί από τότε;
Η γενεσιουργός ΤΝ επανεφηύρε το Stranger Danger. Και αυτή τη φορά, ο φόβος είναι δικαιολογημένος. Είναι πλέον απείρως πιο εύκολο για οποιοδήποτε παιδί του οποίου το πρόσωπο είναι στο διαδίκτυο να υποστεί σεξουαλική εκμετάλλευση. Εκατομμύρια παιδιά θα μπορούσαν να αναγκαστούν να ζήσουν τον εφιάλτη μου.
Για να σταματήσουμε αυτή την κρίση των deepfakes, πρέπει να εξετάσουμε πώς εκπαιδεύεται η ΤΝ.
Η γενεσιουργός ΤΝ «μαθαίνει» μέσα από μια επαναλαμβανόμενη διαδικασία «κοίτα, φτιάξε, σύγκρινε, ενημέρωσε, επανάλαβε», λέει ο Patrick LaVictoire, μαθηματικός και πρώην ερευνητής ασφάλειας ΤΝ. Δημιουργεί μοντέλα βασισμένα σε απομνημονευμένες πληροφορίες, αλλά δεδομένου ότι δεν μπορεί να τα απομνημονεύσει όλα, αναζητά μοτίβα και βασίζει τις απαντήσεις της σε αυτά. «Μια σύνδεση που...» Ο LaVictoire εξηγεί ότι οι χρήσιμες συμπεριφορές της ΤΝ ενισχύονται, ενώ οι άχρηστες ή επιβλαβείς περικοπούν. Αυτό που μπορεί να παράγει η γενεσιουργός ΤΝ εξαρτάται εξ ολοκλήρου από τα δεδομένα εκπαίδευσής της. Μια μελέτη του Στάνφορντ το 2023 αποκάλυψε ότι ένα δημοφιλές σύνολο δεδομένων εκπαίδευσης περιείχε πάνω από 1.000 περιπτώσεις υλικού παιδικής σεξουαλικής κακοποίησης (CSAM). Αν και αυτοί οι σύνδεσμοι έχουν πλέον αφαιρεθεί, οι ερευνητές προειδοποιούν για έναν άλλο κίνδυνο: η ΤΝ θα μπορούσε να δημιουργήσει CSAM συνδυάζοντας αθώες εικόνες παιδιών με ενηλίκων πορνογραφία εάν και οι δύο τύποι υπάρχουν στα δεδομένα.
Εταιρείες όπως η Google και η OpenAI λένε ότι έχουν μέτρα ασφαλείας, όπως την προσεκτική επιμέλεια των δεδομένων εκπαίδευσης. Ωστόσο, είναι σημαντικό να σημειωθεί ότι εικόνες πολλών ενηλίκων ερμηνευτών και εργαζομένων του σεξ έχουν συλλεχθεί για ΤΝ χωρίς τη συγκατάθεσή τους.
Ο LaVictoire επισημαίνει ότι η ίδια η γενεσιουργός ΤΝ δεν μπορεί να διακρίνει μεταξύ αβλαβών προτροπών, όπως «φτιάξε μια εικόνα ενός Τζεντάι σαμουράι», και επιβλαβών, όπως «γδύσου αυτήν τη διασημότητα». Για να αντιμετωπιστεί αυτό, ένα άλλο στρώμα ΤΝ, παρόμοιο με ένα φίλτρο ανεπιθύμητων μηνυμάτων, μπορεί να αποκλείσει τέτοια ερωτήματα. Η xAI, η εταιρεία πίσω από το Grok, φαίνεται να ήταν επιεικής με αυτό το φίλτρο.
Η κατάσταση θα μπορούσε να επιδεινωθεί. Η Meta και άλλοι έχουν προτείνει να γίνουν τα μελλοντικά μοντέλα ΤΝ ανοιχτού κώδικα, πράγμα που σημαίνει ότι οποιοσδήποτε θα μπορούσε να έχει πρόσβαση, να κατεβάσει και να τροποποιήσει τον κώδικα. Ενώ το λογισμικό ανοιχτού κώδικα συνήθως ενθαρρύνει τη δημιουργικότητα και τη συνεργασία, αυτή η ελευθερία θα μπορούσε να είναι καταστροφική για την παιδική ασφάλεια. Μια κατεβασμένη, ανοιχτού κώδικα πλατφόρμα ΤΝ θα μπορούσε να εξειδικευτεί με ρητές ή παράνομες εικόνες για να δημιουργήσει απεριόριστο CSAM ή «πορνό εκδίκησης», χωρίς μέτρα ασφαλείας.
Η Meta φαίνεται να έχει υποχωρήσει από το να κάνει τις νεότερες πλατφόρμες ΤΝ της πλήρως ανοιχτού κώδικα. Ίσως ο Mark Zuckerberg σκέφτηκε την πιθανή κληρονομιά, απομακρυνόμενος από ένα μονοπάτι που θα μπορούσε να τον παρομοιάσει περισσότερο με έναν «Oppenheimer του CSAM» παρά με έναν Ρωμαίο αυτοκράτορα.
Μερικές χώρες αναλαμβάνουν δράση. Η Κίνα απαιτεί να επισημαίνεται το περιεχόμενο που δημιουργείται από ΤΝ. Η Δανία συντάσσει νομοθεσία για να δώσει στα άτομα πνευματικά δικαιώματα πάνω στην ομοιότητα και τη φωνή τους, με πρόστιμα για μη συμμορφούμενες πλατφόρμες. Στην Ευρώπη και το Ηνωμένο Βασίλειο, οι προστασίες μπορεί επίσης να προέλθουν από κανονισμούς όπως ο ΓΚΠΔ.
Η προοπτική στις Ηνωμένες Πολιτείες φαίνεται πιο ζοφερή. Οι αξιώσεις πνευματικών δικαιωμάτων συχνά αποτυγχάνουν επειδή οι συμφωνίες χρήστη συνήθως παρέχουν στις πλατφόρμες ευρείς δικαιώματα στο μεταφορτωμένο περιεχόμενο. Με εκτελεστικά διατάγματα που αντιτίθενται στον κανονισμό της ΤΝ και εταιρείες όπως η xAI να συνεργάζονται με τον στρατό, η αμερικανική κυβέρνηση φαίνεται να προτεραιοποιεί τα κέρδη από την ΤΝ έναντι της δημόσιας ασφάλειας.
Ο δικηγόρος της Νέας Υόρκης Akiva Cohen σημειώνει πρόσφατους νόμους που ποινικοποιούν κάποια ψηφιακή χειραγώγηση, αλλά λέει ότι είναι συχνά υπερβολικά περιοριστικοί. Για παράδειγμα, η δημιουργία ενός deepfake που δείχνει κάποιον γυμνό ή σε σεξουαλική πράξη μπορεί να είναι ποινικό αδίκημα, αλλά η χρήση ΤΝ για να βάλει μια γυναίκα — ή ακόμα και ένα ανήλικο κορίτσι — σε μαγιό πιθανότατα δεν θα ήταν.
«Πολλά από αυτά παραμένουν πολύ συνειδητά ακριβώς στην πλευρά της γραμμής του "τρομακτικού, αλλά νόμιμου"», λέει ο Cohen. Ενώ τέτοιες πράξεις μπορεί να μην είναι ποινικά αδικήματα κατά του κράτους, ο Cohen υποστηρίζει ότι θα μπορούσαν να είναι αστικές ευθύνες, παραβιάζοντας τα δικαιώματα ενός ατόμου και απαιτώντας αποκατάσταση. Προτείνει ότι αυτό εμπίπτει σε αδικήματα όπως «ψευδής φωτισμός» ή «παραβίαση της ιδιωτικής ζωής». Μια μορφή αδικοπραγίας περιλαμβάνει την υποβολή προσβλητικών ισχυρισμών για ένα άτομο, παρουσιάζοντάς το σε ψευδές φως — ουσιαστικά δείχνοντας κάποιον να κάνει κάτι που στην πραγματικότητα δεν έκανε ποτέ.
«Ο τρόπος για να αποτραπεί πραγματικά αυτή η συμπεριφορά είναι να κρατηθούν υπόλογινες οι εταιρείες που την ενεργοποιούν», λέει ο Cohen.
Υπάρχει νομικό προηγούμενο για αυτό: ο νόμος Raise της Νέας Υόρκης και ο νομοσχέδιο 53 της Γερουσίας της Καλιφόρνιας δηλώνουν ότι οι εταιρείες ΤΝ μπορούν να κριθούν υπεύθυνες για ζημιές που προκαλούν πέρα από ένα ορισμένο σημείο. Εν τω μεταξύ, η X ανακοίνωσε ότι θα αποκλείσει το εργαλείο ΤΝ της, το Grok, από τη δημιουργία σεξουαλικοποιημένων εικόνων πραγματικών ατόμων στην πλατφόρμα της — αν και αυτή η αλλαγή πολιτικής δεν φαίνεται να ισχύει για την αυτόνομη εφαρμογή Grok.
Ο Josh Saviano, πρώην δικηγόρος στη Νέα Υόρκη και πρώην παιδί-ηθοποιός, πιστεύει ότι χρειάζεται πιο άμεση δράση παράλληλα με τη νομοθεσία.
«Οι προσ
