Μέχρι τώρα, θα έπρεπε να είναι προφανές ότι η τεχνητή νοημοσύνη είναι σαν ένα βιβλίο «διάλεξε την περιπέτειά σου» όπου κάθε μονοπάτι οδηγεί σε καταστροφή. Εκρηκτικές εκπομπές άνθρακα και οικολογική κατάρρευση; Γύρισε στη σελίδα 37. Άλλα πιθανά αποτελέσματα περιλαμβάνουν μερικά ή όλα από τα εξής: η φούσκα να σκάσει και να πυροδοτήσει οικονομική κρίση· μαζική ανεργία από την αυτοματοποίηση· το τέλος της δημοκρατίας και η άνοδος αυταρχικών κρατών παρακολούθησης· φανατικές αιρέσεις που πιστεύουν ότι ένας αλγόριθμος αναγνώρισης προτύπων έχει συνείδηση· τρομοκράτες που δημιουργούν καταστροφικά βιολογικά όπλα· έθνη που αναπτύσσουν αυτόνομα όπλα που λειτουργούν σε χρονικές κλίμακες που οι άνθρωποι δεν μπορούν να κατανοήσουν· έθνη ή τρομοκράτες που χακάρουν τα αμέτρητα συστήματα από τα οποία εξαρτόμαστε· ή μια ΤΝ που, είτε έχει συνείδηση είτε όχι, επιδιώκει στόχους που συγκρούονται με την ανθρώπινη ευημερία.
Το να φανταστούμε ότι προσωπικότητες όπως ο Έλον Μασκ, ο Σαμ Άλτμαν του OpenAI, ο Πίτερ Τιλ της Palantir ή ο τεχνολογικός σύμβουλος του Τραμπ Μαρκ Αντρίσεν θα μας οδηγήσουν σε ένα ουτοπικό μέλλον περιβαλλοντικής αρμονίας, κοινωνικής ειρήνης και ατέλειωτου ελεύθερου χρόνου απαιτεί τόσο ακραία αυταπάτη και κολακεία που μόνο ένα βιβλίο «διάλεξε την περιπέτειά σου» γραμμένο από το ChatGPT θα μπορούσε να το επινοήσει.
Υπάρχει μια αυξανόμενη, αν και καθυστερημένη, αναγνώριση ότι οδεύουμε προς καταστροφή, μαζί με εκκλήσεις να επιβραδύνουμε, να ρυθμίσουμε ή ακόμα και να πατήσουμε παύση σε όλο αυτό μέχρι να το καταλάβουμε. Αυτές οι εκκλήσεις δεν προέρχονται μόνο από ακτιβιστές αλλά από ένα ευρύ μείγμα πολιτικών, ειδικών και εσωτερικών στελεχών της μεγάλης τεχνολογίας τόσο ποικίλο που δεν μπορεί να αγνοηθεί—από τον Μπέρνι Σάντερς μέχρι τον Μπιλ Γκέιτς, ο οποίος είπε πρόσφατα: «Αν κάποιος είχε ένα αξιόπιστο σχέδιο για να επιβραδύνει παγκοσμίως τις εξελίξεις στην ΤΝ, πιθανότατα θα το υποστήριζα.» Είναι απλώς το τελευταίο εσωτερικό στέλεχος που παραδέχεται αυτό που η εταιρεία ΤΝ Anthropic αναγνώρισε νωρίτερα αυτό το καλοκαίρι όταν ζήτησε ένα «φρένο». Η αυτοσυγκράτηση της βιομηχανίας δεν θα λειτουργήσει. Αν πρόκειται να υπάρξει παύση, πρέπει να επιβληθεί από έξω.
Παρόλα αυτά, μια διεθνής συμφωνία είναι δυστυχώς απίθανη. Η ΤΝ είναι σαν τα πυρηνικά όπλα και ακολουθεί την ίδια λογική: κάθε παίκτης ωθείται να τρέξει αυτόν τον απερίσκεπτο αγώνα, με μόνη δικαιολογία ότι δεν θέλει να είναι στο έλεος όποιου κερδίσει. Η καλύτερη ευκαιρία να επιβραδυνθούν τα πράγματα, φαίνεται, θα ήταν ένας παράγοντας να ελέγχει ένα κρίσιμο σημείο συμφόρησης και να έχει λόγο να το κλείσει. Ενδιαφέρον, η ΕΕ κρατά ένα τέτοιο χαρτί—και έχει ακόμη και κίνητρο να το παίξει, αν τολμήσει.
Προβολή εικόνας σε πλήρη οθόνη
Το εργοστάσιο της ταϊβανέζικης εταιρείας κατασκευής τσιπ TSMC στη Ναντζίνγκ της Κίνας. Φωτογραφία: Sipa US/Alamy
Η ολλανδική τεχνολογική εταιρεία ASML είναι η πιο πολύτιμη εταιρεία της Ευρώπης, χάρη στην παραγωγή μηχανημάτων λιθογραφίας ακραίου υπεριώδους φωτός (EUV). Αυτά είναι απαραίτητα για την πιο προηγμένη κατασκευή τσιπ στον κόσμο και είναι ένα από τα λίγα πιθανά σημεία πνιγμού σε ολόκληρη τη βιομηχανία ΤΝ. Η ASML έχει κατακτήσει την τεχνολογία και την πολύπλοκη αλυσίδα εφοδιασμού που απαιτείται για την κατασκευή αυτών των μηχανημάτων των 400 εκατομμυρίων δολαρίων, τα οποία χαράσσουν σχέδια στο πυρίτιο εστιάζοντας φως σε μήκος κύματος 13,5 νανομέτρων (περίπου 1/10.000 του πλάτους μιας ανθρώπινης τρίχας). Χωρίς τα μηχανήματά της, δεν υπάρχουν τσιπ· χωρίς τσιπ, δεν υπάρχουν άλλα κέντρα δεδομένων. Αυτό επηρεάζει τα πάντα, από την επένδυση 265 δισεκατομμυρίων δολαρίων της ταϊβανέζικης TSMC σε μελλοντικά εργοστάσια κατασκευής (γνωστά ως «fab») έως τα κέντρα δεδομένων αξίας 7 τρισεκατομμυρίων δολαρίων που αναμένεται να κατασκευάσει η βιομηχανία παγκοσμίως (κυρίως στις ΗΠΑ) έως το 2030. Χωρίς περισσότερα κέντρα δεδομένων που χρησιμοποιούν αυτά τα τρέχοντα και επόμενης γενιάς τσιπ, η εκθετική ανάπτυξη—και ο κίνδυνος—της ΤΝ θα σταματούσε απότομα.
Γι' αυτό η κυβέρνηση των ΗΠΑ επιβάλλει εξωεδαφικούς ελέγχους εξαγωγών στην ASML, μπλοκάροντας τις πωλήσεις των πιο προηγμένων μηχανημάτων EUV της στην Κίνα για να επιβραδύνει τις δυνατότητές της στην κατασκευή τσιπ. Επιβάλλοντας αυτούς τους περιορισμούς στην ASML, οι ΗΠΑ έχουν εκθέσει τη δική τους αδυναμία σε αυτό το σημείο πνιγμού: όσο η Ευρώπη εξαρτάται από (τελικά αναπληρώσιμες) χρηματοοικονομικές υπηρεσίες και υπηρεσίες λογισμικού από τις ΗΠΑ, το μέλλον όλης της τεχνολογίας που βασίζεται σε τσιπ εξαρτάται εξ ολοκλήρου από την ASML. Μια άμεση απαγόρευση εξαγωγών των μηχανημάτων της ASML θα ανάγκαζε την παγκόσμια βιομηχανία ΤΝ να... Στην ουσία, είναι σαν να πατάς νερό ή να κάνεις τζόκινγκ επί τόπου. Η προκύπτουσα έλλειψη τσιπ και η επιβράδυνση στην ανάπτυξη της ΤΝ θα έδιναν στους ρυθμιστές χρόνο να προλάβουν την τεχνολογία, στους νομοθέτες χρόνο να ενημερώσουν τα πάντα από τα πνευματικά δικαιώματα έως τη φορολογική νομοθεσία, και στις κοινωνίες χρόνο να έχουν πραγματικές συζητήσεις για τον ρόλο που θέλουμε να παίξει η ΤΝ στη ζωή μας.
Γιατί θα έκανε κάτι τέτοιο η ΕΕ; Όχι μόνο για ανθρωπιστικούς λόγους, αλλά για ιδιοτελείς. Στο καλύτερο σενάριο, μια επίπεδη απαγόρευση εξαγωγών θα οδηγούσε σε αναδιοργάνωση της αλυσίδας εφοδιασμού και θα έφερνε περισσότερες βασικές αποφάσεις υπό τον έλεγχο της ΕΕ—όπου θα υπόκεινταν στην εποπτεία του μόνου παίκτη που έχει δείξει ότι θα ρυθμίσει την ΤΝ εκτεταμένα. Φυσικά, το καλύτερο σενάριο είναι δύσκολο: είναι πιο πιθανό οι ΗΠΑ να αντεπιτεθούν μπλοκάροντας την πρόσβαση της ASML σε προμηθευτές με έδρα τις ΗΠΑ. Αλλά ακόμα κι αν συνέβαινε αυτό, θα ήταν προς το συμφέρον της ΕΕ να προκαλέσει μια τέτοια αναμέτρηση, με βάση την περιορισμένη λογική του καθαρού οικονομικού και γεωπολιτικού συμφέροντος, επειδή η ΕΕ θα σταματούσε να υστερεί σε σχετικούς όρους στα μοντέλα ΤΝ και στην «υπολογιστική ισχύ» (επεξεργαστική δύναμη) των κέντρων δεδομένων που απαιτούνται για τη λειτουργία τους.
Οι ίδιοι οι υποστηρικτές της ΤΝ στην Ευρώπη συμφωνούν—αν και αυτό που τους ανησυχεί είναι το σχετικό μειονέκτημα της ΕΕ, όχι το ευρύ φάσμα κινδύνων της ΤΝ. Το έργο Europe 2031 είναι μια τεχνοπολιτική πρόβλεψη, που συντάχθηκε από μια ομάδα ειδικών της βιομηχανίας, σχετικά με το τι μπορεί να συμβεί στην ΕΕ αν η ΤΝ μεταμορφώσει ριζικά την οικονομία και η ΕΕ μείνει πολύ πίσω από τις ΗΠΑ. Υποστηρίζουν ότι η Ευρώπη πρέπει να ρίξει εκατοντάδες δισεκατομμύρια στον εξοπλιστικό αγώνα της ΤΝ προτού τόσο τα πρωτοποριακά μοντέλα όσο και η «υπολογιστική ισχύς» γίνουν αυτό που είναι σήμερα η TSMC και η ASML: ωφελούμενοι από ένα χάσμα πολύ μεγάλο για να το κλείσει οποιοσδήποτε ανταγωνιστής.
Στο σενάριό τους, κάποια στιγμή στο εγγύς μέλλον, η ΕΕ θα αναγκαστεί να βάλει στο τραπέζι την πρόσβαση στην ASML για να εξασφαλίσει πρόσβαση σε μοντέλα και υπολογιστική ισχύ ελεγχόμενα από τις ΗΠΑ από τα οποία θα εξαρτώνται η οικονομία και η ασφάλειά της—μόνο για να διαπιστώσει ότι η κυριαρχία της ASML έχει εξασθενήσει με την πάροδο του χρόνου. (Όσο περισσότερα μηχανήματα EUV εξάγονται, τόσο περισσότερα εργοστάσια κατασκευάζονται αλλού, και τόσο περισσότερο χρόνο έχουν η Κίνα και οι ΗΠΑ να αντιγράψουν την τεχνολογία της ASML.)
Οι θεωρητικοί των πυρηνικών όπλων ανησυχούν ότι, αν συνέβαινε το αδιανόητο, τα κράτη θα μπορούσαν να ωθηθούν προς την εκτόξευση λόγω ενός υπολογισμού «χρησιμοποίησέ το ή χάσε το». Η ίδια ακριβώς λογική ισχύει για το μόνο πράγμα που μπορεί να σταματήσει την ιλιγγιώδη ανάπτυξη της βιομηχανίας ΤΝ: η ΕΕ μπορεί να χρησιμοποιήσει τη μόχλευση που της δίνει η ASML τώρα, ή να διακινδυνεύσει να χάσει αυτή την ευκαιρία εντελώς. Είναι σπάνιο τόσο διαφορετικές ομάδες να καταλήξουν στο ίδιο συμπέρασμα: υπάρχει ένα μόνο ευρωπαϊκό χαρτί να παιχτεί, και πρέπει να παιχτεί. Αντί να τρέχουμε προς την ανοησία, ας σταματήσουμε τον αγώνα. Τώρα αμέσως, και για όλους.
Ο Alexander Hurst γράφει για τον Guardian Europe από το Παρίσι. Το απομνημόνευμά του Generation Desperation κυκλοφορεί τώρα.
Συχνές Ερωτήσεις
Ακολουθεί μια λίστα συχνών ερωτήσεων με βάση την υπόθεση του άρθρου που κυμαίνονται από αρχάριο έως προχωρημένο επίπεδο
Ερωτήσεις Αρχαρίου
1 Τι ακριβώς είναι ο εξοπλιστικός αγώνας της ΤΝ
Είναι ο φρενήρης ανταγωνισμός μεταξύ τεχνολογικών κολοσσών για το ποιος θα κατασκευάσει πρώτος την πιο ισχυρή ΤΝ Αντί να δίνουν προτεραιότητα στην ασφάλεια ή την ηθική, βιάζονται να κυκλοφορήσουν νέα μοντέλα για να νικήσουν τους αντιπάλους τους και να αποκτήσουν μερίδιο αγοράς
2 Γιατί συμφωνούν σε αυτό ο Μπιλ Γκέιτς και ο Μπέρνι Σάντερς
Προέρχονται από εντελώς διαφορετικές πολιτικές πλευρές αλλά και οι δύο βλέπουν τον ίδιο κίνδυνο Ο Γκέιτς ανησυχεί ότι η ΤΝ θα ξεφύγει από τον ανθρώπινο έλεγχο και θα προκαλέσει μαζική απώλεια θέσεων εργασίας Ο Σάντερς ανησυχεί για την ανεξέλεγκτη εταιρική δύναμη και τη χρήση της ΤΝ για εκμετάλλευση εργαζομένων ή χειραγώγηση του κοινού Και οι δύο συμφωνούν ότι τα καθαρά κίνητρα κέρδους δεν πρέπει να υπαγορεύουν το μέλλον της ανθρωπότητας
3 Γιατί αναφέρεται συγκεκριμένα η Ευρώπη ως ο μόνος που μπορεί να το σταματήσει
Επειδή οι ΗΠΑ και η Κίνα είναι κλειδωμένες σε έναν τεχνολογικό πόλεμο όπου ο νικητής τα παίρνει όλα και δεν θα επιβραδύνουν Η Ευρώπη όμως δεν ηγείται στον αγώνα της ΤΝ άρα έχει λιγότερα να χάσει Το πιο σημαντικό είναι ότι η ΕΕ έχει ιστορικό θέσπισης αυστηρών κανονισμών που ισχύουν για όλο τον κόσμο—αν θέλεις να κάνεις επιχειρήσεις στην Ευρώπη, πρέπει να ακολουθείς τους κανόνες τους
4 Τι σημαίνει πραγματικά το «βάλε ένα τέλος»
Δεν σημαίνει απαγόρευση της ΤΝ εντελώς Σημαίνει σταμάτημα του επικίνδυνου αγώνα Σημαίνει επιβολή αυστηρών ελέγχων ασφαλείας, απαίτηση διαφάνειας σχετικά με το τι μπορεί να κάνει η ΤΝ και επιβολή μεγάλων προστίμων σε εταιρείες που κυκλοφορούν μη ασφαλή προϊόντα Αφορά το να αναγκαστεί μια επιβράδυνση ώστε η ασφάλεια να προλάβει την ταχύτητα
5 Είναι πραγματικά καταστροφή ο εξοπλιστικός αγώνας της ΤΝ
Το επιχείρημα είναι ότι είναι Η καταστροφή δεν είναι ότι υπάρχει η ΤΝ—είναι η ταχύτητα Οι εταιρείες βγάζουν ισχυρά εργαλεία πριν καταλάβουμε πώς θα επηρεάσουν τις εκλογές, τις θέσεις εργασίας ή την ψυχική υγεία Η καταστροφή είναι η απερισκεψία, όχι η ίδια η τεχνολογία
Προχωρημένες Ερωτήσεις
6 Πώς θα σταματούσε η ευρωπαϊκή ρύθμιση στην πραγματικότητα τις αμερικανικές εταιρείες
Η ΕΕ έχει ένα «Φαινόμενο των Βρυξελλών» Αν μια αμερικανική εταιρεία όπως η Meta ή το OpenAI θέλει να εξυπηρετεί 450 εκατομμύρια Ευρωπαίους καταναλωτές, πρέπει να συμμορφώνεται με τους νόμους της ΕΕ Αν η ΕΕ πει ότι δεν μπορείς να αναπτύξεις ένα υπερευφυές μοντέλο χωρίς έλεγχο ασφαλείας από τρίτο μέρος, η εταιρεία πρέπει να κάνει αυτόν τον έλεγχο παγκοσμίως
