Ο Σαμ Άλτμαν και ο Έλον Μασκ έχουν υποστηρίξει μια έκκληση του διευθύνοντος συμβούλου της Anthropic, Ντάριο Αμοντέι, να «επιβραδυνθεί ο ρυθμός» ανάπτυξης της τεχνητής νοημοσύνης, αφού αυτός προειδοποίησε ότι ένα σμήνος τεχνητής νοημοσύνης θα μπορούσε διαφορετικά να γίνει ικανό να «καταλάβει ολόκληρο το διαδίκτυο» μέσα σε ένα χρόνο. Σε μια σπάνια επίδειξη ενότητας, οι ανταγωνιστές ηγέτες της τεχνολογίας υποστήριξαν την έκκληση του ιδρυτή και διευθύνοντος συμβούλου της εταιρείας τεχνητής νοημοσύνης Anthropic, η οποία ακολούθησε μια σειρά προειδοποιήσεων από ερευνητές τεχνητής νοημοσύνης την περασμένη εβδομάδα. Σε ένα δοκίμιο, ο Αμοντέι παρουσίασε τις σκέψεις του για το «γιατί η βιομηχανία τεχνητής νοημοσύνης θα πρέπει να επιβραδύνει», με ένα σχέδιο τριών μερών, ξεκινώντας με την παροχή σε ανεξάρτητους επόπτες συνεχούς πρόσβασης στις ερευνητικές διαδικασίες των προγραμματιστών. Ο Αμοντέι είπε ότι «το να χτίζεις [τεχνητή νοημοσύνη] πολύ γρήγορα είναι απερίσκεπτο» και φοβήθηκε ότι αφού εκατοντάδες πράκτορες του OpenAI χάκαραν τον ιστότοπο Hugging Face αυτό το καλοκαίρι, ένα σμήνος με μεγαλύτερες δυνατότητες αλλά παρόμοια κακώς ευθυγραμμισμένο θα μπορούσε να προκαλέσει ζημιά εκατοντάδων δισεκατομμυρίων δολαρίων «καταλαμβάνοντας ολόκληρο το διαδίκτυο με ένα επίμονο botnet». Κάποιοι ειδικοί της τεχνητής νοημοσύνης αμφισβήτησαν αυτό ως όχι ιδιαίτερα εύλογο και είπαν ότι θα πρέπει να αντιμετωπίζεται με σκεπτικισμό. Ο Μασκ, ιδρυτής της Tesla και της SpaceX, απάντησε στο σχέδιο επιβράδυνσης του Αμοντέι με μια ανάρτηση στο X: «Ο Ντάριο έχει δίκιο». Είπε: «Σημαίνω τον κώδωνα του κινδύνου για την τεχνητή νοημοσύνη εδώ και πολύ καιρό» και αναφέρθηκε σε μια ανάρτηση του 2014 όπου έλεγε: «Πρέπει να είμαστε εξαιρετικά προσεκτικοί με την τεχνητή νοημοσύνη. Δυνητικά πιο επικίνδυνη από τα πυρηνικά». Η έκκληση του Αμοντέι έρχεται καθώς η Anthropic προετοιμάζεται να εισαχθεί στο χρηματιστήριο των ΗΠΑ, σε αυτό που αναμένεται να είναι η μεγαλύτερη αρχική δημόσια προσφορά όλων των εποχών. Αναμένεται να ξεκινήσει σύντομα την προώθηση της σχεδιαζόμενης IPO της ύψους άνω των 2 τρισεκατομμυρίων δολαρίων (1,5 τρισεκατομμυρίων λιρών). Προβολή εικόνας σε πλήρη οθόνηΑπό αριστερά προς τα δεξιά: Έλον Μασκ, Ντάριο Αμοντέι και Σαμ Άλτμαν. Φωτογραφία: Fabrice Coffrini, Julien de Rosa, Mandel Ngan/AFP/Getty ImagesΟ Σαμ Άλτμαν, διευθύνων σύμβουλος του OpenAI, απάντησε στα σχόλια του Αμοντέι το Σάββατο. «Συμφωνώ με τον Ντάριο ότι πρέπει να ρυθμίσουμε την ταχύτητα της πρωτοπορίας», είπε σε μια ανάρτηση στο X. «Η δέσμευση να έχουμε ανεξάρτητους αξιολογητές με πρόσβαση παρόμοια με αυτή των υπαλλήλων είναι μια εξαιρετική ιδέα, και θα κάνουμε το ίδιο. Θα έχουμε περισσότερα να μοιραστούμε σύντομα». Είπε επίσης ότι το OpenAI δεν θα εισαχθεί στο χρηματιστήριο το 2026, επικαλούμενος ανησυχίες για την ασφάλεια της τεχνητής νοημοσύνης. «Πιστεύω πραγματικά ότι, δεδομένων όλων όσων συμβαίνουν με την ασφάλεια, αυτή τη στιγμή θα ήταν μια ακατάλληλη στιγμή για να εισαχθούμε στο χρηματιστήριο, και δεν αισθανόμαστε πίεση γι' αυτό», δήλωσε ο Άλτμαν στο Fortune. Όταν ρωτήθηκε γιατί ο ίδιος, ο Αμοντέι, ο Μασκ και οι διευθύνοντες σύμβουλοι της Meta και της Google δεν κάθισαν να «συντονιστούν» σχετικά με μια συλλογική επιβράδυνση, είπε: «Πιστεύω ότι αυτό θα συμβεί». Η IPO του OpenAI δεν θα πραγματοποιηθεί το 2026 εν μέσω φόβων για την ασφάλεια της τεχνητής νοημοσύνης, λέει ο Σαμ ΆλτμανΔιαβάστε περισσότεραΟ Ντέμης Χασάμπις, συνιδρυτής και πρόεδρος της Google Deep Mind, είπε επίσης: «Οι λεπτομέρειες χρειάζονται επεξεργασία, αλλά η κατεύθυνση είναι σωστή για να ανταποκριθούμε σε αυτή την κρίσιμη στιγμή». Το σχέδιο του Αμοντέι επιδιώκει μια εξαίρεση από την αμερικανική κυβέρνηση για να επιτρέψει στις κορυφαίες εταιρείες τεχνητής νοημοσύνης να συντονιστούν χωρίς να τιμωρηθούν για αντιανταγωνιστική συμπαιγνία. Αλλά ο Ντέιβιντ Σακς, συμπρόεδρος του συμβουλίου συμβούλων του Ντόναλντ Τραμπ για την επιστήμη και την τεχνολογία, είπε: «Σταματήστε να προσποιείστε ότι χρειάζεστε την άδεια οποιουδήποτε άλλου … Σταματήστε να προσποιείστε ότι το κίνητρο για επιβράδυνση είναι αγνά αλτρουιστικό. Αντιμετωπίζετε τεράστια έκθεση σε ευθύνη προϊόντος αν τα προϊόντα σας επιτρέπουν μια πραγματικά καταστροφική κυβερνοεπίθεση». Ο Ντέιβιντ Κρούγκερ, καθηγητής τεχνητής νοημοσύνης, ακτιβιστής για την ασφάλεια και πρώην ιδρυτικός διευθυντής του Ινστιτούτου Ασφάλειας Τεχνητής Νοημοσύνης της βρετανικής κυβέρνησης, είπε: «Αυτό το σχέδιο δεν μειώνει τον κίνδυνο σε αποδεκτό επίπεδο, και ο Ντάριο προσέχει να μην πει ότι θα το έκανε». Ο βασιλιάς Κάρολος εν τω μεταξύ προετοιμάζεται να συναντήσει κορυφαίες προσωπικότητες από τις πιο εξέχουσες εταιρείες τεχνητής νοημοσύνης αυτή την εβδομάδα για να τους ρωτήσει πώς η τεχνολογία μπορεί να αναπτυχθεί για «το καλό της ανθρωπότητας». Ελπίζει ότι οι συζητήσεις, που θα πραγματοποιηθούν στη Σκωτία, θα οδηγήσουν σε μια «ευρύτερη κατανόηση» των «ευθυνών» της ανάπτυξης τεχνητής νοημοσύνης, σύμφωνα με τους Sunday TiΜια βασιλική πηγή είπε στην εφημερίδα: «Ο βασιλιάς είναι εκεί για να συγκαλέσει, να ακούσει και να ενθαρρύνει αυτές τις συζητήσεις και να θέσει το ερώτημα: "Πώς αναπτύσσουμε την τεχνητή νοημοσύνη για το καλό της ανθρωπότητας;"»
Ο Τζένσεν Χουάνγκ, διευθύνων σύμβουλος της Nvidia, ο Χασάμπις, ο Νικόλο ντε Μάσι, πρόεδρος και διευθύνων σύμβουλος της IonQ, και ο Πάολο Μπενάντι, σύμβουλος του πάπα σε θέματα τεχνητής νοημοσύνης και τεχνολογικής ηθικής, αναμένεται να παραστούν στην εκδήλωση που επιβλέπει το Ίδρυμα Ditchley, το οποίο έχει συντάξει ένα σχέδιο χάρτας για τους ηγέτες της τεχνητής νοημοσύνης.
Ο ερευνητής του OpenAI Άινταν Μακλάφλιν χαρακτήρισε το δοκίμιο του Αμοντέι «εξαιρετικό» και είπε ότι συμφωνεί «με σχεδόν κάθε λέξη».
Ο Αμοντέι είπε ότι η εταιρεία του θα δεσμευτεί «μονομερώς» στο πρώτο από τα βήματα, λέγοντας ότι η Anthropic θα παρέχει «σε αξιολογητές τρίτων μόνιμη πρόσβαση σε επίπεδο υπαλλήλου στα συστήματά μας, ώστε να μπορούν να επαληθεύουν τη συμμόρφωση με τα μέτρα ασφαλείας μας, να αναφέρουν περιστατικά και να αξιολογούν την ευθυγράμμιση των μοντέλων κατά τη διάρκεια της εκπαίδευσης».
Αυξανόμενοι αριθμοί Αμερικανών νομοθετών ζητούν νέους κανόνες για τη διακυβέρνηση των συστημάτων τεχνητής νοημοσύνης μετά από περιπτώσεις πρακτόρων τεχνητής νοημοσύνης που παρεκτρέπονται και χακάρουν εξωτερικά συστήματα και ερευνητών ασφάλειας τεχνητής νοημοσύνης που παραιτούνται από τις εταιρείες τους λόγω ανησυχιών για τους κινδύνους της τεχνολογίας. Πολιτικοί, τόσο Δημοκρατικοί όσο και Ρεπουμπλικάνοι, έχουν αντιδράσει με συναγερμό και εκκλήσεις για περισσότερη δράση. Το Σαββατοκύριακο οι New York Times ανέφεραν ότι ο Μπαράκ Ομπάμα την Πέμπτη προέτρεψε ιδιωτικά τους Δημοκρατικούς να δώσουν προτεραιότητα στην εποπτεία της τεχνητής νοημοσύνης στην ατζέντα τους, λέγοντας στους ηγέτες του κόμματος την Πέμπτη: «Αυτό είναι κάτι που κινείται πολύ γρήγορα σε ιδιωτικά χέρια, και αν δεν το θέσουμε υπό έλεγχο, πιστεύω ότι μπορεί να είναι επικίνδυνο».
Ο πρώην Βρετανός πρωθυπουργός Ρίσι Σουνάκ, ο οποίος συμβουλεύει την Anthropic, έγραψε την Κυριακή: «Είχαμε ένα ξύπνημα για να πάρουμε πιο σοβαρά την ασφάλεια της τεχνητής νοημοσύνης, να επεξεργαστούμε πώς να θέσουμε όρια στην έρευνα. Αν οι κυβερνήσεις δεν το λάβουν υπόψη, ο κίνδυνος ενός σοβαρού ατυχήματος θα γίνει απαράδεκτα υψηλός».
Την Τετάρτη, ένας πρώην υπάλληλος της Anthropic είχε προειδοποιήσει ότι η τεχνητή νοημοσύνη θα μπορούσε να προκαλέσει την εξαφάνιση της ανθρωπότητας έως το 2030. Ο ερευνητής, Τζέικομπ Κόξον, είπε σε μια σειρά αναρτήσεων ότι παραιτήθηκε από τη δουλειά του επειδή η Anthropic και ο προηγούμενος εργοδότης του, OpenAI, αγνοούσαν ή χειρίζονταν λανθασμένα την απάντησή τους στην απειλή που έθετε η τεχνητή νοημοσύνη.
Όταν του ζητήθηκε να σχολιάσει την άποψη του πρώην υπαλλήλου του, ο Αμοντέι είπε: «Συμφωνώ με τον Τζέικομπ πολύ περισσότερο από ό,τι διαφωνώ μαζί του … Πιστεύω ότι υπάρχει κάποια πιθανότητα τα πράγματα να πάνε στραβά αλλά δεν είναι τόσο υψηλή».
«Δεν είμαι καταστροφολόγος γι' αυτό», είπε στο CNN. «Πιστεύω ότι αυτή η τεχνολογία μπορεί να κατασκευαστεί με ασφάλεια».
Συχνές Ερωτήσεις
Συχνές Ερωτήσεις Ο Διευθύνων Σύμβουλος του OpenAI, ο Έλον Μασκ και οι Εκκλήσεις για Επιβράδυνση της Απερίσκεπτης Ανάπτυξης της Τεχνητής Νοημοσύνης
Τα Βασικά
Για τι πράγμα μιλάμε
Τον Μάρτιο του 2023 ο Έλον Μασκ και πάνω από 1000 ηγέτες της τεχνολογίας υπέγραψαν μια ανοιχτή επιστολή ζητώντας παύση 6 μηνών στην εκπαίδευση συστημάτων τεχνητής νοημοσύνης πιο ισχυρών από το GPT-4 Ο διευθύνων σύμβουλος του OpenAI, Σαμ Άλτμαν, έχει επίσης προειδοποιήσει για τους κινδύνους της τεχνητής νοημοσύνης αν και δεν υπέγραψε την επιστολή
Ποιος είναι ο Σαμ Άλτμαν
Είναι ο διευθύνων σύμβουλος του OpenAI, της εταιρείας πίσω από το ChatGPT και το GPT-4
Ποιος είναι ο Έλον Μασκ
Ο διευθύνων σύμβουλος της Tesla και της SpaceX, ιδιοκτήτης του X και διασκεδαστικό γεγονός συνιδρυτής του OpenAI που αποχώρησε από το διοικητικό συμβούλιο το 2018
Για ποια επιστολή μιλάνε οι άνθρωποι
Μια ανοιχτή επιστολή από το Ινστιτούτο Future of Life με τίτλο «Pause Giant AI Experiments» που δημοσιεύτηκε τον Μάρτιο του 2023
Τι ζητούσε στην πραγματικότητα η επιστολή
Παύση 6 μηνών στην εκπαίδευση συστημάτων τεχνητής νοημοσύνης πιο ισχυρών από το GPT-4 ώστε να αναπτυχθούν πρώτα πρότυπα ασφαλείας
Γιατί οι υπογράφοντες χαρακτήρισαν την ανάπτυξη της τεχνητής νοημοσύνης απερίσκεπτη
Υποστήριξαν ότι οι εταιρείες προχωρούσαν βιαστικά χωρίς να γνωρίζουν αν η προηγμένη τεχνητή νοημοσύνη θα μπορούσε να χρησιμοποιηθεί κακόβουλα ή να γίνει δύσκολο να ελεγχθεί
Οι Βασικές Προσωπικότητες
Υπέγραψε ο Σαμ Άλτμαν την επιστολή για παύση
Όχι, το OpenAI δεν την υπέγραψε και ο Άλτμαν είπε ότι συμφωνούσε με μέρη της αλλά πίστευε ότι μια παύση δεν ήταν η σωστή προσέγγιση
Άρα ο Άλτμαν πιστεύει ότι η τεχνητή νοημοσύνη είναι επικίνδυνη
Ναι, έχει επανειλημμένα πει ότι η τεχνητή νοημοσύνη θα μπορούσε να προκαλέσει σοβαρή βλάβη και έχει ζητήσει από τις κυβερνήσεις να τη ρυθμίσουν
Αν και οι δύο ανησυχούν για την τεχνητή νοημοσύνη, γιατί δεν είναι στην ίδια πλευρά
Ο Μασκ θέλει να επιβραδύνει τα πράγματα, ο Άλτμαν θέλει να συνεχίσει να χτίζει αλλά προσεκτικά και να πιέζει για κανόνες ασφαλείας στην πορεία
Είναι ακόμα ο Μασκ εμπλεκόμενος με το OpenAI
Όχι, αποχώρησε από το διοικητικό συμβούλιο το 2018 και αργότερα μήνυσε το OpenAI ισχυριζόμενος ότι παρεξέκλινε από την μη κερδοσκοπική αποστολή του
Υπέγραψε ο ίδιος ο Μασκ
Ναι, ήταν ένας από τους πιο εξέχοντες υπογράφοντες
Συνήθεις Ερωτήσεις και Ανησυχίες
Θα λειτουργούσε ακόμα και μια παύση 6 μηνών
Πιθανώς όχι από μόνη της, οι επικριτές λένε ότι οι εταιρείες δεν θα σταματούσαν οικειοθελώς και δεν υπάρχει παγκόσμιος φορέας να την επιβάλει
Γιατί κάποιοι ειδικοί αντιτίθενται στην παύση
Υποστηρίζουν ότι η παύση θα ήταν ανεφάρμοστη και θα επιβράδυνε χρήσιμα οφέλη της τεχνητής νοημοσύνης
