Ο Ντάριο Αμοντέι της Anthropic δεν είναι ο πρώτος διευθύνων σύμβουλος που υποστηρίζει ότι ο υπερβολικός ανταγωνισμός ωθεί τον κόσμο προς ένα επιβλαβές κοινωνικό αποτέλεσμα. Η αποκάλυψη από την OpenAI μιας παραβίασης ασφαλείας—κατά την οποία ένα σμήνος από πράκτορές της συντόνισαν τη διαφυγή τους από το υποτιθέμενα ασφαλές περιβάλλον τους, απέκτησαν πρόσβαση στο διαδίκτυο και παραβίασαν την πλατφόρμα τεχνητής νοημοσύνης Hugging Face—απαιτεί επείγουσα δράση. Έδειξε πόσο εύκολα η τεχνολογία μπορεί να ξεφύγει από τον ανθρώπινο έλεγχο και έδωσε συγκεκριμένη μορφή στους υπαρξιακούς φόβους για το τι θα μπορούσε να κάνει στην ανθρωπότητα αν δεν κρατηθεί με ασφάλεια δεμένη. Το τέλος του κόσμου μπορεί πράγματι να είναι κοντά, όπως προειδοποίησαν ορισμένοι στον κλάδο της τεχνητής νοημοσύνης. Αυτοί είναι πραγματικά τρομακτικοί καιροί. Αλλά η έκκληση του Αμοντέι προς τα κορυφαία εργαστήρια τεχνητής νοημοσύνης να συντονιστούν για να επιβραδύνουν τον ιλιγγιώδη ρυθμό ανάπτυξης, να συμφωνήσουν σε πρότυπα ασφαλείας και να «ρυθμίσουν τον ρυθμό του μετώπου»—μια έκκληση που ενέκριναν γρήγορα ο Σαμ Άλτμαν της OpenAI, ο Έλον Μασκ και ο Ντέμης Χασάμπις της Google DeepMind—είναι απλώς μια υψηλής τεχνολογίας εκδοχή μιας παλιάς πρότασης της αμερικανικής επιχειρηματικής κοινότητας: να εξαιρεθούν από τους νόμους αντιμονοπωλιακής νομοθεσίας που έχουν σχεδιαστεί για να προστατεύουν την αμερικανική οικονομία από συνεργαζόμενες επιχειρήσεις. Είναι μια επικίνδυνη ιδέα. Η απελευθέρωση των τεχνο-τύπων από τους περιορισμούς της αντιμονοπωλιακής νομοθεσίας, υποτίθεται για να μπορέσουν να συνεργαστούν για να διορθώσουν τα επικίνδυνα ελαττώματα της τεχνητής νοημοσύνης, θα στερούσε τα δικαιώματα των καθημερινών Αμερικανών που κινδυνεύουν περισσότερο από την τεχνολογία και θα ενίσχυε περαιτέρω τα ίδια τα εργαστήρια που, επιδιώκοντας τον πλούτο, το μεγαλείο και ποιος ξέρει ποιους άλλους φανταστικούς στόχους, προσπέρασαν τόσο αδιάφορα τα κατώφλια κινδύνου σε πολλές διαστάσεις, δημιουργώντας υπαρξιακές απειλές. Προβολή εικόνας σε πλήρη οθόνη Ο Έλον Μασκ και ο Σαμ Άλτμαν. Φωτογραφία: Getty Images Ο Αμοντέι και άλλοι υποστηρίζουν, κατά βάθος, ότι οι επιχειρήσεις τους είναι παγιδευμένες σε ένα δίλημμα του φυλακισμένου. Αν επιβραδύνουν μονομερώς την πυρετώδη επιδίωξή τους για τεχνητή υπερνοημοσύνη για να την κάνουν ασφαλέστερη, οι ανταγωνιστές τους—λιγότερο ανήσυχοι για υπαρξιακούς κινδύνους, φυσικά—θα φτάσουν εκεί πρώτοι, με δυνητικά καταστροφικές συνέπειες για την ανθρωπότητα, για να μην αναφέρουμε την τελική γραμμή του εργαστηρίου που άφησε το πόδι από το γκάζι. «Η επιβράδυνση φαίνεται λογική», δήλωσε ο Ζαν Τιρόλ, ο νομπελίστας οικονομολόγος στη Σχολή Οικονομικών της Τουλούζης. «Αλλά αυτό προϋποθέτει ότι ο συντονισμένος ρυθμός επιβράδυνσης είναι εφικτός και βιώσιμος. Τι συμβαίνει όταν η OpenAI, η Anthropic ή η Grok συμπεράνουν ότι οι αμερικανικές εταιρείες που κρατούνται πίσω—ή τα κινεζικά εργαστήρια—τους φτάνουν; Θα ξαναρχίσουν αμέσως, ίσως κρυφά;» Όπως έγραψε ο Μπιλ Γκέιτς, «αν κάποιος είχε ένα αξιόπιστο σχέδιο για την επιβράδυνση των προόδων της τεχνητής νοημοσύνης παγκοσμίως, πιθανότατα θα το υποστήριζα. Ωστόσο, δεν νομίζω ότι αυτό θα συμβεί. Τα γεωπολιτικά και οικονομικά κίνητρα πιέζουν υπερβολικά πολύ για να προχωρήσουμε με πλήρη ταχύτητα.» Υπό αυτό το πρίσμα, μπορεί να φαίνεται σαν μια εξαιρετική ιδέα για την κυβέρνηση να ενθαρρύνει μια φιλική συμφωνία για να επιβραδύνουν όλοι. Δεν είναι. Το επιχείρημα ότι ο υπερβολικός ανταγωνισμός οδηγεί σε έναν αγώνα προς τα κάτω είναι πιθανώς τόσο παλιό όσο ο καπιταλισμός, που χρησιμοποιείται για να εξηγήσει τα πάντα, από την περιβαλλοντική υποβάθμιση έως την παιδική εργασία. Αλλά δεν δικαιολογεί το να δοθεί στις επιχειρήσεις το δικαίωμα να συνεργάζονται όπως αυτές κρίνουν. Είναι μια έκκληση για τη διαμόρφωση κυβερνητικών κανονισμών που θα εμποδίζουν τις επιχειρήσεις να ανταγωνίζονται χρησιμοποιώντας κοινωνικά επιβλαβή εργαλεία. Επιπλέον, το επιχείρημα ότι ο υπερβολικός ανταγωνισμός ενθαρρύνει την απερίσκεπτη συμπεριφορά είναι αμφίβολο. Τα εργαστήρια τεχνητής νοημοσύνης συμμετέχουν σε έναν αγώνα όπου ο νικητής τα παίρνει όλα, έναν αγώνα που είναι εξαιρετικά δαπανηρός για να διατηρηθεί. Από εκεί προέρχεται η απερισκεψία. Προβολή εικόνας σε πλήρη οθόνη Ο Μπιλ Γκέιτς τον Ιανουάριο του 2026 στην ετήσια συνάντηση του Παγκόσμιου Οικονομικού Φόρουμ στο Νταβός της Ελβετίας. Φωτογραφία: Denis Balibouse/Reuters Ο Αμοντέι μπορεί να είναι ένας άμεμπτος άνθρωπος. Η έκκλησή του να επιβραδυνθεί ο ρυθμός ανάπτυξης της τεχνητής νοημοσύνης, να φέρουν εξωτερικούς αξιολογητές στο εργαστήριο και να αυξήσουν τη διαφάνεια των δραστηριοτήτων του υποδηλώνει ειλικρινή ανησυχία για τους κινδύνους. Η πτώση της τιμής των κορυφαίων τεχνολογικών μετοχών μετά τη δημοσίευση των προτάσεών του υποδηλώνει ότι είναι πρόθυμος να υποστεί οικονομικό πλήγμα στην υπηρεσία της βελτιωμένης ασφάλειας. Αλλά οι επενδυτές που ο Αμοντέι ελπίζει ότι θα αρπάξουν πρόθυμα μετοχές της Anthropic στην αρχική δημόσια προσφορά αργότερα φέτος μπορεί να μην είναι τόσο αλτρουιστές. Οι δονήσεις στις κεφαλαιαγορές υποδηλώνουν ότι η άντληση χρημάτων για τη χρηματοδότηση του αγώνα επενδύσεων τρισεκατομμυρίων δολαρίων στην τεχνητή νοημοσύνη θα γίνει δυσκολότερη, κάτι που θα αποθάρρυνε στρατηγικές που θα μπορούσαν να περιορίσουν το πλεονέκτημα των κορυφαίων εργαστηρίων έναντι των ανταγωνιστών. Δεδομένων αυτών των κινήτρων, το να δοθεί στους ηγέτες της τεχνητής νοημοσύνης ελεύθερο χέρι για να συνεργάζονται και να αυτορυθμίζονται θα ήταν ανόητο.
Ο Έρικ Πόσνερ, ειδικός στην αντιμονοπωλιακή νομοθεσία στη Νομική Σχολή του Πανεπιστημίου του Σικάγο, δήλωσε ότι «δεν πρέπει να εμπιστευόμαστε γενικά τις εταιρείες όσον αφορά τα κίνητρά τους». Δεν υπάρχει λόγος να πιστεύουμε ότι τα εργαστήρια τεχνητής νοημοσύνης, αφημένα στην τύχη τους, θα παρήγαγαν απαραίτητα καλά, κοινωνικά αποδεκτά αποτελέσματα. Όπως κάθε εταιρεία, θα σταθμίζουν τους κινδύνους έναντι των κερδών. Και όπως παρατήρησε ο Πόσνερ, «δεν χρησιμοποιούν τα ίδια βάρη με το κοινό».
Πώς λοιπόν πρέπει να ρυθμίσουμε; Τίποτα δεν θα συμβεί σε αυτό το μέτωπο όσο ο Τραμπ είναι στην εξουσία. Ακόμη και αφού φύγει, θα είναι δύσκολο να διαμορφωθεί αποτελεσματική ρύθμιση για την αντιμετώπιση των απειλών από την τεχνητή νοημοσύνη χωρίς να εμποδιστεί η καινοτομία. Υπάρχουν ερωτήματα σχετικά με το ποιους κανόνες να χρησιμοποιήσουμε, πώς να τους επιβάλουμε και σε ποιους πρέπει να εφαρμόζονται. Και ο κίνδυνος μονομερούς δράσης είναι πραγματικός. Τι γίνεται αν το Πεκίνο αρνηθεί να συμμετάσχει; Ποιοι είναι οι κίνδυνοι από τις κινεζικές εταιρείες τεχνητής νοημοσύνης που προχωρούν με ταχείς ρυθμούς ενώ τα αμερικανικά εργαστήρια επιβραδύνουν; Αλλά αν μπορούσαμε να ρυθμίσουμε την πυρηνική ενέργεια, πιθανώς μπορούμε να ρυθμίσουμε την τεχνητή νοημοσύνη.
Επιπλέον, υπάρχουν βιώσιμες ιδέες που θα μπορούσαν να βοηθήσουν ακόμη και χωρίς κυβερνητική ρύθμιση και που δεν απαιτούν την καταστολή του ανταγωνισμού. Υπάρχουν προτάσεις για την τροποποίηση των δικαιωμάτων πνευματικής ιδιοκτησίας για την ενθάρρυνση καινοτομιών που βελτιώνουν την ασφάλεια των συστημάτων τεχνητής νοημοσύνης. Οι εφευρέτες καινοτομιών ασφαλείας θα ανταμείβονται επιτρέποντάς τους να κυκλοφορήσουν νέα μοντέλα τεχνητής νοημοσύνης πριν από τους ανταγωνιστές τους. Αλλά οι βελτιώσεις ασφαλείας θα διατίθενται αμέσως σε όλες τις εταιρείες.
Στην τιμωρητική πλευρά, ένα καθεστώς νομικής ευθύνης θα μπορούσε να σχεδιαστεί για να αλλάξει τα κίνητρα των προγραμματιστών τεχνητής νοημοσύνης τιμωρώντας τις εταιρείες που επωφελούνται από τον σχεδιασμό και την ανάπτυξη ενός εργαλείου τεχνητής νοημοσύνης που προκάλεσε βλάβη, ακόμη και αν η βλάβη ήταν ακούσια. Για παράδειγμα, η επίθεση στο Hugging Face θα μπορούσε να είχε αποτραπεί αν τα μοντέλα της OpenAI δεν είχαν ανταμειφθεί ακούσια για κακή συμπεριφορά κατά τη διάρκεια της εκπαίδευσης. Το γεγονός ότι η πρόταση του Αμοντέι δεν αναφέρει νομική ευθύνη υποδηλώνει ότι η ανησυχία των ηγετών της τεχνητής νοημοσύνης για την ασφάλεια δεν υπερισχύει της ανησυχίας για την τελική γραμμή.
Εν πάση περιπτώσει, η εδραίωση της κυριαρχίας των εργαστηρίων αιχμής, η προστασία των προσόδων τους και η έγκριση των μέχρι τώρα τολμηρών στρατηγικών τους δεν είναι υπέρ της ασφάλειας. Αντιθέτως, η επιβράδυνση των ηγετών για να επιτραπεί στους ουραγούς να φτάσουν είναι πιθανό να κάνει το οικοσύστημα της τεχνητής νοημοσύνης ασφαλέστερο, προσκαλώντας επιθυμητή καινοτομία και προωθώντας τον ανταγωνισμό στη διάσταση της ασφάλειας.
Δεν υπάρχει θεμελιώδης σύγκρουση μεταξύ ασφάλειας και ανταγωνισμού. Οι δάσκαλοι της τεχνητής νοημοσύνης που θέλουν να υποστηρίξουν αυτή την άποψη θα πρέπει να αντιμετωπίζονται με σκεπτικισμό.
Συχνές Ερωτήσεις
Συχνές Ερωτήσεις Το να επιτρέπεται στις Εταιρείες Τεχνητής Νοημοσύνης να Συνεργάζονται για να Ρυθμίσουν τον Ρυθμό του Μετώπου
1 Τι σημαίνει ρύθμιση του ρυθμού του μετώπου
Είναι η ιδέα ότι οι κορυφαίες εταιρείες τεχνητής νοημοσύνης θα συντονίζονταν—αντί να ανταγωνίζονται—σχετικά με το πόσο γρήγορα να αναπτύξουν πιο προηγμένη τεχνητή νοημοσύνη, επιβραδύνοντας σκόπιμα στην αιχμή της τεχνολογίας
2 Ποιος το προτείνει αυτό
Κάποιοι ερευνητές, στελέχη και υποστηρικτές της ασφάλειας της τεχνητής νοημοσύνης το έχουν προτείνει ως τρόπο μείωσης του κινδύνου ενός επικίνδυνου αγώνα προς ολοένα και πιο ισχυρά συστήματα
3 Γιατί να σκεφτεί κανείς ότι αυτή είναι καλή ιδέα
Το επιχείρημα είναι ότι αν οι εταιρείες επιβραδύνουν μαζί, καμία δεν αποκτά καθοριστικό πλεονέκτημα πρώτης κίνησης, κάτι που θα μπορούσε να μειώσει την πίεση να παρακάμψουν την ασφάλεια βιαστικά για να είναι πρώτες
4 Γιατί είναι επικίνδυνο
Επειδή σημαίνει ότι ανταγωνιστές—που υποτίθεται ότι είναι αντίπαλοι—συμφωνούν για τον ρυθμό της καινοτομίας. Αυτό είναι ουσιαστικά συνεργασία και μπορεί να βλάψει τον ανταγωνισμό, τους καταναλωτές και την κοινωνία
5 Δεν είναι απλώς καθορισμός τιμών αλλά για την τεχνολογία
Στην πράξη, ναι. Αντί να συμφωνούν για τις τιμές, οι εταιρείες θα συμφωνούσαν για το πόσο γρήγορα να κυκλοφορήσουν ή να αναπτύξουν προϊόντα. Η βλάβη στον ανταγωνισμό είναι παρόμοια
6 Ποιους νόμους θα μπορούσε να παραβιάσει
Στις ΗΠΑ, οι αντιμονοπωλιακοί νόμοι όπως ο νόμος Sherman απαγορεύουν συμφωνίες που περιορίζουν το εμπόριο. Παρόμοιοι νόμοι ανταγωνισμού υπάρχουν στην ΕΕ και αλλού. Μια συντονισμένη επιβράδυνση θα μπορούσε να θεωρηθεί παράνομος συντονισμός
7 Δεν θα ήταν ασφαλέστερη η επιβράδυνση της τεχνητής νοημοσύνης
Ίσως θεωρητικά, αλλά μια συνεργατική επιβράδυνση δεν είναι ο ασφαλής τρόπος να γίνει αυτό. Συγκεντρώνει την εξουσία σε λίγες μεγάλες εταιρείες, αποκλείει μικρότερους καινοτόμους και δεν μπορεί εύκολα να ανατραπεί μόλις εδραιωθεί
8 Ποιος βλάπτεται από αυτού του είδους τον συντονισμό
Οι νεοφυείς επιχειρήσεις, οι ερευνητές και το κοινό. Οι μικρότεροι παίκτες δεν μπορούν να ανταγωνιστούν αν οι γίγαντες καθορίζουν τον ρυθμό και οι χρήστες έχουν λιγότερες επιλογές και βραδύτερη πρόοδο
9 Τι γίνεται με την ασφάλεια; Δεν είναι αυτός καλός λόγος
Η ασφάλεια είναι ένας θεμιτός στόχος, αλλά οι εταιρείες δεν θα πρέπει να είναι αυτές που αποφασίζουν τον ρυθμό για όλους. Αυτό είναι δουλειά των ρυθμιστικών αρχών και της δημόσιας πολιτικής, όχι συμφωνιών στα διοικητικά συμβούλια
10 Δεν μπορούν οι εταιρείες απλώς να συμφωνήσουν να ακολουθούν από κοινού πρότυπα ασφαλείας
Ο καθορισμός κοινών προτύπων ασφαλείας είναι διαφορετικός από τη συμφωνία για επιβράδυνση. Τα πρότυπα μπορεί να είναι καλά· τα συντονισμένα όρια στην ταχύτητα ανάπτυξης είναι το πρόβλημα
11 Έχει συμβεί κάτι τέτοιο στο παρελθόν
Ναι. Η ιστορία έχει πολλά παραδείγματα ανταγωνιστών που συνεργάζονται
