Την περασμένη εβδομάδα, η Meta—η εταιρεία που κατέχει το Instagram και το Facebook—συμφώνησε να πληρώσει έως και 18 δισεκατομμύρια δολάρια για να διευθετήσει μια αγωγή που κατέθεσαν δεκάδες πολιτείες των ΗΠΑ. Οι πολιτείες κατηγόρησαν τη Meta ότι έβλαψε παιδιά με εθιστικά προϊόντα. Αλλά ο κανονιστικός αντίκτυπος αυτού του διακανονισμού θα φτάσει πολύ πέρα από τους εφήβους, επηρεάζοντας κάθε χρήστη των μέσων κοινωνικής δικτύωσης.
Αν η Meta θέλει πραγματικά να θέσει την ασφάλεια των χρηστών πρώτη, το διοικητικό συμβούλιό της θα πρέπει να ζητήσει από τον Μαρκ Ζάκερμπεργκ να παραιτηθεί και να αναδιαρθρώσει την εταιρεία έτσι ώστε η ασφάλεια να έχει μεγαλύτερη σημασία από το κέρδος.
Ο διακανονισμός δεν απαντά πραγματικά στο επιστημονικό ερώτημα του πόσο εθιστικά είναι στην πραγματικότητα τα μέσα κοινωνικής δικτύωσης. Αντίθετα, είναι το αποτέλεσμα μιας μακράς διαμάχης που ξεκίνησε το 2016, όταν δημοσιογράφοι και ανεξάρτητοι ερευνητές άρχισαν να εξετάζουν πώς ο ψηφιακός σχεδιασμός βοήθησε στη διάδοση παραπληροφόρησης κατά τη διάρκεια της εκστρατείας για το Brexit στο Ηνωμένο Βασίλειο και των προεδρικών εκλογών των ΗΠΑ. Ο Ζάκερμπεργκ είναι η μία σταθερή σταθερά που διατρέχει την ιστορία της Meta με λάθη δισεκατομμυρίων δολαρίων που έχουν βλάψει πραγματικούς ανθρώπους.
Για τα τελευταία 15 χρόνια, μελετώ πώς η επιστήμη και η τεχνολογία οδηγούν την κοινωνική αλλαγή—τόσο προς το καλό όσο και προς το κακό. Ως ιδρυτής του Ινστιτούτου Κρίσιμων Διαδικτυακών Σπουδών, ηγούμαι μιας ομάδας που ερευνά τις βλάβες που προκαλούν οι νέες τεχνολογίες. Διδάσκουμε στους επαγγελματίες τόσο τα προφανή όσο και τα κρυφά χαρακτηριστικά αυτών των τεχνολογιών, συμπεριλαμβανομένων των ελαττωμάτων τους. Το 2020, κατέθεσα στο Κογκρέσο ότι η παραπληροφόρηση λειτουργεί όπως ο «παθητικός καπνός». Η κατάθεσή μου ήρθε αφού ένα στέλεχος της Meta συνέκρινε τον σχεδιασμό των αλγορίθμων αλληλεπίδρασης της Meta με τον τρόπο που οι καπνοβιομηχανίες έκαναν τα τσιγάρα πιο εθιστικά.
Ένας διακανονισμός 18 δισεκατομμυρίων δολαρίων—και ο Ζάκερμπεργκ μόλις που αντέδρασε. Οι τεχνολογικοί γίγαντες πρέπει να απογυμνωθούν από την εξουσία τους, και σύντομα.
Σε μια σειρά από άρθρα γνώμης, ενημερώσεις προς το Κογκρέσο και ερευνητικές εργασίες, επεκτάθηκα στη σύγκριση με τον καπνό. Έδειξα πώς οι πολιτισμικές αντιλήψεις για το κάπνισμα ως προσωπική επιλογή άλλαξαν από ιδέες όπως ο παθητικός καπνός και από επιστημονικές αποδείξεις ότι ο καπνός αυξάνει τον κίνδυνο καρκίνου. Το πραγματικό κόστος του καπνίσματος μεταφέρθηκε στις οικογένειες, στις ασφαλιστικές εταιρείες και στους εργοδότες που έχασαν χρόνο και χρήμα ασχολούμενοι με αυτό. Η απάντηση της δημόσιας υγείας δεν απαγόρευσε εντελώς το κάπνισμα, αλλά περιόρισε τα μέρη όπου οι άνθρωποι μπορούσαν να καπνίσουν, όρισε ελάχιστη ηλικία για την αγορά τσιγάρων, ανάγκασε τις εταιρείες να χρηματοδοτήσουν τη δημόσια εκπαίδευση για τους κινδύνους και—το πιο σημαντικό—έβαλε τα τσιγάρα πίσω από τους πάγκους όπου οι ταμίες έπρεπε να ελέγχουν τις ταυτότητες. Οι εκστρατείες δημόσιας υγείας και οι προειδοποιητικές ετικέτες έπαιξαν επίσης μεγάλο ρόλο.
Με παρόμοιο τρόπο, οι εταιρείες μέσων κοινωνικής δικτύωσης λαμβάνουν πολλές σημαντικές αποφάσεις για το τι εμφανίζεται στη ροή σας. Ορισμένα από αυτά τα χαρακτηριστικά είναι σχεδιασμένα με αλγορίθμους για να κρατούν τους χρήστες στην εφαρμογή περισσότερο.
Αυτός ο διακανονισμός συνοδεύεται από περιορισμούς σχεδιασμού: οι λογαριασμοί εφήβων περιορίζονται σε δύο ώρες την ημέρα, αποκλείονται από τα μεσάνυχτα έως τις 6 το πρωί και δεν λαμβάνουν ειδοποιήσεις κατά τις σχολικές ώρες. Οι λογαριασμοί εφήβων πρέπει επίσης να συνδέονται με τον λογαριασμό ενός γονέα, μαζί με ισχυρότερους ελέγχους ηλικίας. Παραμένει ασαφές πώς θα λειτουργήσει αυτό στην πράξη, αλλά είναι πιθανό να γίνει πονοκέφαλος για την ιδιωτικότητα. Ενώ αυτοί οι κανόνες περιορίζουν τον χρόνο οθόνης για άτομα 13 έως 18 ετών, δεν κάνουν πολλά για να αντιμετωπίσουν το επιβλαβές περιεχόμενο—όπως το πώς ναρκωτικά, σεξ και τζόγος καταλήγουν να προτείνονται από αλγορίθμους.
Είναι σαφές ότι αυτός ο τελευταίος διακανονισμός σηματοδοτεί έναν πιο δύσκολο δρόμο μπροστά για τις εταιρείες του Ζάκερμπεργκ. Η Meta έχει δώσει πολλές νομικές μάχες ενώ απέφυγε τη σοβαρή ρύθμιση της εποπτείας περιεχομένου (που κοστίζει χρήματα) ή της διαφήμισης (που αποφέρει χρήματα). Η επιβολή αυτών των νέων κανόνων για τους εφήβους θα αυξήσει το κόστος. Η Meta έχει ήδη αντιμετωπίσει διακανονισμούς και πρόστιμα δισεκατομμυρίων δολαρίων για ζητήματα που κυμαίνονται από την αποτυχία προστασίας της ιδιωτικότητας των χρηστών, έως μια παραβίαση ασφαλείας το 2018, έως τρομερά αποτελέσματα για την ψυχική υγεία των νέων. Η Meta έχει επίσης προκαλέσει βλάβη σε άλλες ομάδες χωρίς αποζημίωση, συμπεριλαμβανομένης της ενίσχυσης της ρητορικής μίσους εναντίον των Ροχίνγκια στη Μιανμάρ, και της φιλοξενίας και της αλγοριθμικής προώθησης εκτεταμένης ιατρικής παραπληροφόρησης και θεωριών συνωμοσίας που οδήγησαν σε δηλητηρίαση και διστακτικότητα για τα εμβόλια—κάτι που ο Παγκόσμιος Οργανισμός Υγείας αποκάλεσε «ινφοδημία». Ο όρος «ινφοδημία» αποτυπώνει πώς η παραπληροφόρηση εξαπλώνεται σαν ιός. Οι αποτυχίες του Μαρκ Ζάκερμπεργκ ως ηγέτη προκάλεσαν άμεσα σοβαρή, καλά τεκμηριωμένη βλάβη στην πολιτική ζωή, τη δημοκρατία και την ψυχική και σωματική υγεία των ανθρώπων παγκοσμίως—ειδικά μεταξύ των νέων. Από τότε που ξεκίνησε το Facebook το 2004, ο Ζάκερμπεργκ έχει αντιμετωπίσει συνεχείς αγωγές για ζητήματα όπως η ιδιοκτησία και οι μετοχές από τις πρώτες ημέρες. Τότε ήταν που άρχισε να χρησιμοποιεί μια στρατηγική δημοσίων σχέσεων για να καθυστερεί, να αρνείται και να εκτρέπει τα προβλήματα που προέκυπταν από στελέχη που επέλεγαν το κέρδος έναντι της ευημερίας των χρηστών. Οι ηγέτες της Meta επωφελήθηκαν από την τραγική ενίσχυση του μίσους, της παρενόχλησης και της υποκίνησης.
Ταυτόχρονα, αυτό έχει δημιουργήσει ένα κύμα καταγγελτών, και περισσότεροι είναι πιθανό να έρθουν τώρα που είναι σαφές ότι οι επιλογές αυτών των στελεχών οδήγησαν σε «βλάβη στον πραγματικό κόσμο»—ένας όρος της Σίλικον Βάλεϊ που διαχωρίζει τους διαδικτυακούς χώρους από την πραγματική ζωή. Ο διακανονισμός ακολουθεί τις σκληρές ακροάσεις της περασμένης εβδομάδας, όπου ο καταγγέλτης Αρτούρο Μπεχάρ είπε με τόλμη: «Απλώς δεν μπορείς να εμπιστευτείς τον Μαρκ Ζάκερμπεργκ με τα παιδιά». Ο Μπεχάρ, ο οποίος ηγήθηκε των προσπαθειών ασφάλειας στο Instagram, είδε την έφηβη κόρη του να αντιμετωπίζει ανεπιθύμητη σεξιστική παρενόχληση στην πλατφόρμα. Χάρη στον ρόλο του στη Meta, είχε πραγματικά δεδομένα για να μετρήσει τις βλάβες του Instagram, συμπεριλαμβανομένου του πώς διαφορετικές αλγοριθμικές αλλαγές επηρέασαν την ανάπτυξη, την αλληλεπίδραση και την εμπειρία των χρηστών.
Ένας διακανονισμός 18 δισεκατομμυρίων δολαρίων είναι μόνο ένα μικρό κλάσμα για τη Meta, αλλά η πίεση θα συνεχίσει να αυξάνεται. Ο Μπεχάρ εκτιμά ότι συναντήθηκε με τον Ζάκερμπεργκ πάνω από 100 φορές πριν γίνει καταγγέλτης. Πολλοί καταγγέλτες ξεκινούν προσπαθώντας σκληρά να διορθώσουν ζητήματα μέσω των κατάλληλων καναλιών, μόνο για να αντιμετωπίσουν άρνηση από τους ανωτέρους τους. Κατά ειρωνικό τρόπο, τείνουν να είναι άνθρωποι που ακολουθούν τους κανόνες και απογοητεύονται όλο και περισσότερο καθώς οι ανησυχίες τους αντιμετωπίζονται με αδιαφορία ή επιφανειακή συμμόρφωση στην εργασία.
Τον Δεκέμβριο του 2023, αντιμετώπισα έντονη αντίδραση στον ακαδημαϊκό χώρο αφού απέκτησα έγγραφα από μια άλλη καταγγέλτρια, τη Φράνσις Χάουγκεν, τα οποία σχεδίαζα να μοιραστώ σε μια δημόσια βάση δεδομένων. Πήρα τα έγγραφα νόμιμα και χρησιμοποίησα την τεχνογνωσία μου για να βοηθήσω εσωτερικούς τεχνολογικούς παράγοντες, δημοσιογράφους, ερευνητές και προσωπικό της Ουάσινγκτον να κατανοήσουν τι αποκάλυπταν—και τι δεν αποκάλυπταν—τα έγγραφα της Χάουγκεν σχετικά με τη γνώση και την ευθύνη της Meta για ζητήματα προϊόντων. Αλλά το μήνυμα ήταν σαφές: Η Meta, τότε ονομαζόμενη Facebook, γνώριζε τη ζημιά που προκαλούσε το Instagram σε έφηβα κορίτσια.
Ωστόσο, μέσα από κάθε σκάνδαλο, ο πλούτος του Ζάκερμπεργκ έχει ανέλθει σε σχεδόν 200 δισεκατομμύρια δολάρια, σύμφωνα με το Forbes. Τα πρόστιμα δεν σημαίνουν τίποτα για κάποιον τόσο πλούσιο, οπότε το πρώτο βήμα για την προστασία της κοινωνίας είναι να δοθεί στη Meta μια νέα αρχή χωρίς την επιρροή του Ζάκερμπεργκ στα μελλοντικά προϊόντα. Το όραμά του για «ένα μέλλον για όλους» είναι μια ρηχή ουτοπία όπου οι πράκτορες τεχνητής νοημοσύνης διαχειρίζονται τη ζωή σας και εσείς απλώς περιπλανιέστε μέσα σε αυτήν.
Πέρα από τα δικαστήρια, η Meta θα μπορούσε να το αντιμετωπίσει ζητώντας από τον Ζάκερμπεργκ να παραιτηθεί οικειοθελώς. Το να φέρουμε ελπίδα για το μέλλον της τεχνολογίας σημαίνει να αλλάξουμε την ηγεσία της Meta τώρα, έτσι ώστε το μέλλον να διαμορφωθεί συλλογικά και να χτιστεί πάνω σε μια νέα φήμη και δέσμευση. Ο Ζάκερμπεργκ δεν αξίζει άλλη μια ευκαιρία μόνο και μόνο επειδή μπορεί να την αντέξει οικονομικά. Στο τέλος, όλοι πληρώνουμε για τα λάθη του. Τώρα είναι η ώρα οι μέτοχοι να μιλήσουν και να αμφισβητήσουν τον έλεγχο του Ζάκερμπεργκ.
Η Τζόαν Ντόνοβαν είναι επίκουρη καθηγήτρια δημοσιογραφίας στο Πανεπιστήμιο της Βοστώνης, μελετώντας πώς η τεχνολογία επηρεάζει την κοινωνία. Ίδρυσε το Ινστιτούτο Κρίσιμων Διαδικτυακών Σπουδών, όπου ηγείται ενός έργου για την πολιτική βία και τα κοινωνικά κινήματα.
Συχνές Ερωτήσεις
Ακολουθεί μια λίστα συχνών ερωτήσεων που βασίζονται στην υπόθεση του άρθρου
Γενικές Ερωτήσεις Ιστορικού
Ε Ποια είναι η Τζόαν Ντόνοβαν
Α Είναι μια εξέχουσα ακαδημαϊκός και ερευνήτρια που μελετά πώς τα μέσα, η τεχνολογία και τα κοινωνικά κινήματα αλληλεπιδρούν Προηγουμένως ηγήθηκε του Ερευνητικού Έργου Τεχνολογίας και Κοινωνικής Αλλαγής στο Κέντρο Σόρενσταϊν του Χάρβαρντ
Ε Ποιο είναι το κύριο σημείο του επιχειρήματος της Τζόαν Ντόνοβαν
Α Το κύριο σημείο της είναι ότι ο Μαρκ Ζάκερμπεργκ έχει υπερβολική ανεξέλεγκτη εξουσία πάνω στη Meta Υποστηρίζει ότι ο έλεγχός του στους αλγορίθμους και τις πολιτικές περιεχομένου της εταιρείας έχει προκαλέσει σοβαρή βλάβη στη δημοκρατία και τη δημόσια ασφάλεια και ότι θα πρέπει να παραιτηθεί από διευθύνων σύμβουλος
Ε Αυτό αφορά απλώς το ότι το Facebook είναι αντιδημοφιλές
Α Όχι Ενώ το Facebook έχει προβλήματα δημόσιας εικόνας το επιχείρημα της Ντόνοβαν είναι πιο συγκεκριμένο Εστιάζει σε δομικά ελαττώματα στον τρόπο διακυβέρνησης της Meta υποστηρίζοντας ότι ο Ζάκερμπεργκ λαμβάνει μονομερείς αποφάσεις που δίνουν προτεραιότητα στην ανάπτυξη και την αλληλεπίδραση έναντι της ασφάλειας των χρηστών και της κοινωνικής ευημερίας
Ε Γιατί λέει ότι ο Ζάκερμπεργκ συγκεκριμένα πρέπει να παραιτηθεί αντί να αλλάξει απλώς τις πολιτικές
Α Υποστηρίζει ότι το πρόβλημα είναι η ίδια η συγκέντρωση εξουσίας Όσο ο Ζάκερμπεργκ έχει πλειοψηφικό έλεγχο ψήφων μπορεί να αντιστρέψει οποιεσδήποτε αλλαγές πολιτικής κατά βούληση Πιστεύει ότι μια αλλαγή ηγεσίας είναι απαραίτητη για να μεταρρυθμιστεί πραγματικά η κουλτούρα και η λογοδοσία της εταιρείας
Συγκεκριμένες Κριτικές και Προβλήματα
Ε Ποια συγκεκριμένη βλάβη λέει η Ντόνοβαν ότι έχει προκαλέσει η Meta
Α Επισημαίνει αρκετά ζητήματα συμπεριλαμβανομένης της ενίσχυσης παραπληροφόρησης για εκλογές και εμβόλια της διευκόλυνσης ρητορικής μίσους και υποκίνησης βίας και της αποτυχίας προστασίας των δεδομένων των χρηστών
Ε Τι λέει η Ντόνοβαν για τη στροφή του Ζάκερμπεργκ στο μετασύμπαν
Α Το βλέπει ως αντιπερισπασμό Υποστηρίζει ότι ενώ ο Ζάκερμπεργκ ξοδεύει δισεκατομμύρια δολάρια χτίζοντας κόσμους εικονικής πραγματικότητας η Meta αποτυγχάνει να διορθώσει την πραγματική βλάβη που συμβαίνει τώρα στις υπάρχουσες πλατφόρμες της
Ε Ποια είναι η σύνδεση με την εξέγερση στο Καπιτώλιο σε αυτό το επιχείρημα
