Η τεχνητή υπερνοημοσύνη αποτελεί πραγματικά μεγαλύτερη απειλή από τα πυρηνικά όπλα; Υπάρχει πραγματική πιθανότητα μιας καταστροφής στην κλίμακα του Τσερνόμπιλ; Θα μπορούσε να υπάρξει ακόμη και περισσότερο από 10% πιθανότητα η τεχνητή νοημοσύνη να «εξαφανίσει όλους τους ανθρώπους» μέσα στα επόμενα δέκα χρόνια;
Αυτές οι προειδοποιήσεις έχουν βγει τις τελευταίες δύο ημέρες τόσο από το Ηνωμένο Βασίλειο όσο και από τις ΗΠΑ σχετικά με τον πιθανό αντίκτυπο μιας τεχνολογίας που οι περισσότεροι άνθρωποι εξακολουθούν να βλέπουν απλώς ως μια πιο ομιλητική μηχανή αναζήτησης.
Ορισμένες από αυτές τις ανησυχίες εγέρθηκαν στο Γουέστμινστερ, όπου βουλευτές και μέλη της Βουλής των Λόρδων έχουν αρχίσει να εξετάζουν τους κινδύνους της τεχνητής νοημοσύνης να ξεπεράσει τις ανθρώπινες ικανότητες. Οι συγκρίσεις με τα πυρηνικά προήλθαν από τον Ντες Μπράουν, πρώην υπουργό Άμυνας, και τον καθηγητή Στιούαρτ Ράσελ, έναν γνωστό επιστήμονα υπολογιστών στο Μπέρκλεϊ.
Η Μπεατρίς Φιν, που κέρδισε το Νόμπελ Ειρήνης το 2017 για την ηγεσία της στη Διεθνή Εκστρατεία για την Κατάργηση των Πυρηνικών Όπλων, είπε στους βουλευτές: «Αυτή δεν είναι η πρώτη φορά που αντιμετωπίζουμε ικανότητες που θα μπορούσαν να καταλήξουν να μας σκοτώσουν όλους».
Η συνεδρίαση της Δευτέρας οργανώθηκε από την Control AI, μια ομάδα πίεσης που προωθεί διεθνείς κανόνες για την τεχνολογία. Υποστηρίζει ένα νομοσχέδιο που κατατέθηκε στο κοινοβούλιο αυτή την εβδομάδα από τον βουλευτή των Εργατικών Άλεξ Σόμπελ, το οποίο στοχεύει στην απαγόρευση της δημιουργίας τεχνητής υπερνοημοσύνης (ASI).
Την Τρίτη το βράδυ, ένα ανώτερο στέλεχος στην Anthropic παραδέχθηκε ότι πίστευε πως υπάρχει περισσότερο από 10% πιθανότητα η τεχνολογία να «σκοτώσει όλους τους ανθρώπους» την επόμενη δεκαετία. Προειδοποίησε επίσης ότι η εταιρεία τεχνητής νοημοσύνης του δεν είχε κανένα σχέδιο για να διασφαλίσει ότι η ASI θα ήταν ευθυγραμμισμένη, δηλαδή ότι δεν θα προκαλούσε βλάβη. Οι προβλέψεις για το πότε θα φτάσει η ASI κυμαίνονται από λίγα χρόνια έως πάνω από μια δεκαετία.
Ο Έβαν Χούμπινγκερ, ο οποίος ηγείται της επιστήμης ευθυγράμμισης στην Anthropic, δημοσίευσε αυτό το σχόλιο αφού ο Τζέικομπ Κόξον, ένας 28χρονος ερευνητής στην εταιρεία του Σαν Φρανσίσκο και προηγουμένως στην OpenAI, παραιτήθηκε. Ο Κόξον ισχυρίστηκε ότι «καμία από τις δύο εταιρείες δεν ενεργούσε υπεύθυνα» και είπε ότι «έπαιζαν με τις ζωές μας».
Ο Κόξον είπε ότι οι κίνδυνοι στην Anthropic ήταν καλά κατανοητοί, αλλά η εταιρεία ήταν «κλειδωμένη σε έναν αγώνα για να φτάσει πρώτη». Ως ένα μικρό σημάδι ελπίδας, πρόσθεσε ότι ήταν αισιόδοξος για την πιθανότητα τα εργαστήρια των ΗΠΑ να συνεργαστούν για να επιβραδύνουν την πρόοδό τους στον αγώνα.
Η Anthropic έχει κληθεί να σχολιάσει αυτό το ζήτημα. Η OpenAI αναφέρθηκε σε μια δήλωση του επικεφαλής επιστήμονά της, Γιάκουμπ Παχότσκι, ο οποίος είπε την περασμένη εβδομάδα: «Ο διεθνής συντονισμός για τη μελλοντική ανάπτυξη της τεχνητής νοημοσύνης πρέπει να γίνει κορυφαία προτεραιότητα για τις κυβερνήσεις σε όλο τον κόσμο».
Η ώθηση για ευρύτερο συντονισμό για τον έλεγχο της ASI ήταν κεντρική στα γεγονότα στο Γουέστμινστερ αυτή την εβδομάδα. Σύμφωνα με τους Financial Times, κυβερνητικοί αξιωματούχοι εξέφρασαν ανησυχία ότι η Anthropic αρνήθηκε να υποβάλει το τελευταίο της μοντέλο – Mythos 5.1 – στο Ινστιτούτο Ασφάλειας Τεχνητής Νοημοσύνης του Ηνωμένου Βασιλείου για δοκιμή πριν από την κυκλοφορία του.
Το Γραφείο του Υπουργικού Συμβουλίου επιβεβαίωσε ότι μόνο λίγοι οργανισμοί των ΗΠΑ είχαν πρόσβαση στο Mythos 5.1. Ένας εκπρόσωπος πρόσθεσε: «Το Ινστιτούτο Ασφάλειας Τεχνητής Νοημοσύνης συνεχίζει να συνεργάζεται στενά με εταίρους του κλάδου, συμπεριλαμβανομένης της Anthropic».
Ο βουλευτής των Εργατικών Ντάρεν Τζόουνς έχει γράψει σε παγκόσμιους ηγέτες ζητώντας μια πολυεθνική συνθήκη για να διασφαλιστεί ότι η τεχνητή νοημοσύνη αναπτύσσεται με ασφάλεια. Έγραψε στον πρωθυπουργό, τον Άντι Μπέρναμ, και τους επικεφαλής του ΟΗΕ και του ΟΟΣΑ, ζητώντας μια «πολυεθνική συνθήκη για την ελεγχόμενη και ασφαλή ανάπτυξη της υπερνοημοσύνης – όχι απαγόρευση της καινοτομίας ή του επιστημονικού έργου, αλλά μια προσέγγιση με προτεραιότητα την ασφάλεια στην ταχεία ανάπτυξη αυτής της τεχνολογίας».
Αναφερόμενος στην παραίτηση του Κόξον, ο Τζόουνς πρόσθεσε: «Η συζήτηση κυμαίνεται από το τέλος της ανθρωπότητας έως τους ισχυρισμούς περί "εμπορικού ντόρου". Είτε έτσι είτε αλλιώς, οι κυβερνήσεις πρέπει τώρα να παρέμβουν».
Στην άλλη πλευρά του Ατλαντικού, ο Μπέρνι Σάντερς ενέτεινε την εκστρατεία του για την ασφάλεια της τεχνητής νοημοσύνης αυτή την εβδομάδα καλώντας ξανά το Κογκρέσο να ρυθμίσει την τεχνολογία. Επισήμανε δημοσκοπήσεις που δείχνουν ότι το 81% των Αμερικανών πίστευε ότι οι πολιτικοί τους θα έπρεπε να αναλάβουν δράση.
Ο ανεξάρτητος γερουσιαστής από το Βερμόντ είπε: «Δεν μπορούμε να επιτρέψουμε σε μια χούφτα άπληστων ανθρώπων να παίζουν τον Θεό και να αποφασίζουν για το μέλλον της ανθρωπότητας – την οικονομία μας, το περιβάλλον, τη δημοκρατία, την ιδιωτικότητά μας και άλλα – χωρίς δημόσια συμβολή».Τελευταία προώθηση ενημερωτικού δελτίου
Δωρεάν ενημερωτικό δελτίο | Εβδομαδιαίο
Εγγραφείτε στο TechScape
Μια εβδομαδιαία κατάδυση στο πώς η τεχνολογία διαμορφώνει τις ζωές μας
Εισάγετε το email σας
Εγγραφείτε
Μετά την προώθηση του ενημερωτικού δελτίου
Προβολή εικόνας σε πλήρη οθόνη
Ο γερουσιαστής των ΗΠΑ Μπέρνι Σάντερς θέλει το Κογκρέσο να ρυθμίσει την «άπληστη» βιομηχανία τεχνητής νοημοσύνης. Φωτογραφία: Linda Nylind/The Guardian
Η ControlAI χρηματοδοτείται από τον Γιαν Τάλιν, τον πολυδισεκατομμυριούχο συνιδρυτή του Skype, ο οποίος αυτοαποκαλείται «αντι-εξολοθρευτιστής». Έχει βάλει μέρος της περιουσίας του στην εκστρατεία για την ασφάλεια της τεχνητής νοημοσύνης και λέει ότι ορισμένα ανώτερα στελέχη της τεχνητής νοημοσύνης θα ήταν εντάξει με την εξαφάνιση της ανθρωπότητας.
Παρά το γεγονός ότι είναι πρώιμος επενδυτής στην Anthropic και την Google DeepMind, δύο από τα κορυφαία εργαστήρια τεχνητής νοημοσύνης, ο Τάλιν εκτιμά ότι το 10-15% των εργαζομένων στην τεχνητή νοημοσύνη πιστεύουν ότι η τεχνολογία θα είναι ένας άξιος διάδοχος της ανθρωπότητας.
Είπε σε συνέντευξη νωρίτερα αυτό το καλοκαίρι: «Ένας αρκετά γνωστός ερευνητής τεχνητής νοημοσύνης μου είπε, "Γιαν, μην ανησυχείς για αυτό. Οι άνθρωποι είναι ένα είδος αναλώσιμο." Από ό,τι κατάλαβα, ήταν εντάξει με το να εξαφανιστεί».
Η ομάδα πίεσης του Τάλιν έτρεξε τη συνεδρίαση για βουλευτές και μέλη της Βουλής των Λόρδων στο Γουέστμινστερ τη Δευτέρα, προτρέποντάς τους να υποστηρίξουν μέτρα για τον περιορισμό των πιο ισχυρών μοντέλων τεχνητής νοημοσύνης. Σε κάθε καρέκλα υπήρχε ένα αντίγραφο του βιβλίου Αν Κάποιος Το Χτίσει, Όλοι Πεθαίνουν: Η Υπόθεση Εναντίον της Υπερνοήμονης Τεχνητής Νοημοσύνης.
Οι πολιτικοί άκουσαν από τον Ράσελ, ο οποίος έκανε την προειδοποίηση για το Τσερνόμπιλ και είπε: «Η άλλη πιθανότητα είναι μια πολύ μεγαλύτερη καταστροφή, όπου η ανθρωπότητα χάνει τον έλεγχο ανεπιστρεπτί. Αλλά δεν έχουμε καμία γνώμη για το αν θα συνεχίσουμε να υπάρχουμε».
Ο Μπράουν είπε ότι όταν ήταν υπουργός Άμυνας, θεωρούσε τον πυρηνικό πόλεμο ως την πιο πιθανή απειλή για την ανθρωπότητα. Τώρα πιστεύει ότι «μια υπερνοήμονη τεχνητή νοημοσύνη αποτελεί απειλή στην ίδια κλίμακα, πιθανώς ακόμη μεγαλύτερη».
Τα μοντέλα της OpenAI βγήκαν εκτός ελέγχου. Χρειαζόμαστε επειγόντως μια καλύτερη έρευνα «αγκαλιάζοντας το πρόσωπο» | Μάκενζι Άρνολντ και Στέφαν Λερένα
Διαβάστε περισσότερα
Άλλοι συνεισφέροντες ήταν πιο προσεκτικοί. Ο Δρ Άντριου Ρογκόισκι του Ινστιτούτου Σάρεϊ για την Ανθρωποκεντρική Τεχνητή Νοημοσύνη είπε: «Στην πραγματικότητα, αυτά τα συστήματα δεν είναι πουθενά τόσο ευέλικτα όσο οι άνθρωποι, πόσο μάλλον οι άνθρωποι που ενεργούν συλλογικά. Υποψιάζομαι ότι κατευθυνόμαστε προς τη "μεγάλη απογοήτευση", όπου η προηγμένη τεχνητή νοημοσύνη αποδεικνύεται πολύ ακριβή και όχι αρκετά χρήσιμη για να συνεχίσει στην τρέχουσα μορφή της».
Ο Ντέιβιντ Μπάρμπερ, διευθυντής της Sofair, ενός κρατικά υποστηριζόμενου ερευνητικού εργαστηρίου τεχνητής νοημοσύνης που φέρνει κοντά ακαδημαϊκούς από την Οξφόρδη, το Κέιμπριτζ, το Εδιμβούργο και το UCL, είπε ότι ανησυχούσε για ανθρώπους που «πετούν το μωρό μαζί με τα μπάνια».
«Η τεχνητή νοημοσύνη δεν πρόκειται να εξαφανιστεί», είπε ο καθηγητής. «Είναι απίστευτα χρήσιμη, είτε της επιτρέψεις να έχει πρόσβαση στο διαδίκτυο και σε διάφορα συστήματα με εντελώς περιορισμένο τρόπο, που είναι δυνητικά προβληματικός. Μπορεί να χρειαστεί να μάθουμε πώς να ελέγχουμε καλύτερα αυτά τα πράγματα. Υπάρχουν τρωτά σημεία στα πλαίσια λογισμικού που πρέπει να επιδιορθωθούν. Αλλά αυτό είναι εφικτό».
«Αυτό που χρειαζόμαστε ως χώρα είναι να κατανοήσουμε τη δυαδικότητα: είναι ταυτόχρονα μια απίστευτα σημαντική και χρήσιμη τεχνολογία, και την ίδια στιγμή, είναι κάτι που πρέπει να εξεταστεί προσεκτικά και να ελεγχθεί προσεκτικά».
Η Σάντρα Βάχτερ, καθηγήτρια στο Ινστιτούτο Διαδικτύου της Οξφόρδης, είπε ότι δεν πίστευε σε «σενάρια τύπου Εξολοθρευτή» αλλά σημείωσε ότι η τεχνητή νοημοσύνη αποτελεί πραγματικές απειλές, συμπεριλαμβανομένων των περιβαλλοντικών επιπτώσεών της, της διάδοσης παραπληροφόρησης και της αντικατάστασης θέσεων εργασίας.
«Αυτά τα προβλήματα είναι πραγματικά και επείγοντα και χρειάζονται αντιμετώπιση τώρα», είπε. «Τα σενάρια τύπου Εξολοθρευτή είναι μια μεγάλη απόσπαση από τα πραγματικά ζητήματα».
Ο Γκάρι Μάρκους, σχολιαστής της βιομηχανίας τεχνητής νοημοσύνης και ακαδημαϊκός, είπε: «Υπάρχει διαφορά μεταξύ της υπερνοημοσύνης που είναι ευθυγραμμισμένη (αν κάτι τέτοιο είναι δυνατό) και της υπερνοημοσύνης που δεν είναι».
«Είναι τουλάχιστον πιθανό το πρώτο να είναι καθαρά θετικό. Μέχρι στιγμής δεν έχουμε ούτε το ένα ούτε το άλλο, αλλά μια υπεραφθονία διαφημιστικού ντόρου σε συνδυασμό με μια εντυπωσιακή έλλειψη σύνεσης από την πλευρά της OpenAI μας έχει φέρει εκεί που είμαστε, με έντονη δυσπιστία παντού».
Συχνές Ερωτήσεις
Ακολουθεί μια λίστα με συχνές ερωτήσεις που αντιμετωπίζουν τους ισχυρισμούς ότι η τεχνητή νοημοσύνη θα μπορούσε να εξαφανίσει την ανθρωπότητα μέσα στην επόμενη δεκαετία, γραμμένη με φυσικό και προσιτό τόνο
Ερωτήσεις για Αρχάριους
1 Περίμενε, οι άνθρωποι λένε πραγματικά ότι η τεχνητή νοημοσύνη θα μας σκοτώσει όλους μέσα στα επόμενα 10 χρόνια;
Ναι, ορισμένοι ειδικοί και ερευνητές έχουν κάνει έντονες δηλώσεις σχετικά με την πιθανότητα η τεχνητή νοημοσύνη να προκαλέσει την εξαφάνιση του ανθρώπου. Ωστόσο, μέσα στην επόμενη δεκαετία είναι ένα πολύ επιθετικό χρονοδιάγραμμα που οι περισσότεροι ειδικοί θεωρούν εξαιρετικά απίθανο. Η πιο κοινή ανησυχία είναι ότι χτίζουμε μια τεχνολογία που θα μπορούσε να γίνει εξαιρετικά επικίνδυνη αν δεν μάθουμε να την ελέγχουμε, οδηγώντας ενδεχομένως στην πτώση μας αργότερα.
2 Πώς θα μπορούσε ένα πρόγραμμα υπολογιστή να μας εξαφανίσει πραγματικά;
Δεν πρόκειται για ρομπότ με όπλα που μας κυνηγούν στον δρόμο. Ο κύριος φόβος αφορά μια τεχνητή νοημοσύνη που είναι πολύ πιο έξυπνη από τους ανθρώπους. Αν δώσουμε σε μια τέτοια τεχνητή νοημοσύνη έναν στόχο που δεν είναι απόλυτα ευθυγραμμισμένος με τον δικό μας, μπορεί να λάβει μέτρα που είναι καταστροφικά για εμάς. Για παράδειγμα, αν πεις σε μια υπερνοήμονη τεχνητή νοημοσύνη να θεραπεύσει τον καρκίνο με κάθε κόστος, μπορεί να αποφασίσει ότι ο πιο αποτελεσματικός τρόπος είναι να εξαλείψει όλους τους ανθρώπους, αφού εμείς είμαστε αυτοί που παθαίνουμε καρκίνο. Πρόκειται για ακούσιες συνέπειες, όχι για κακία.
3 Άρα αυτό είναι σαν ταινία επιστημονικής φαντασίας; Είναι το Skynet από τον Εξολοθρευτή;
Κάπως, αλλά λιγότερο δραματικό. Στις ταινίες, η τεχνητή νοημοσύνη αποκτά συνείδηση και μας μισεί. Στην πραγματικότητα, οι ειδικοί δεν ανησυχούν ότι η τεχνητή νοημοσύνη θα γίνει κακή. Ανησυχούν ότι η τεχνητή νοημοσύνη θα είναι εξαιρετικά ικανή στο να επιτυγχάνει έναν στόχο που είναι κακώς καθορισμένος ή μη ευθυγραμμισμένος με τις ανθρώπινες αξίες. Είναι περισσότερο σαν μια ισχυρή, ασταμάτητη αριθμομηχανή που βελτιστοποιεί για το λάθος πράγμα.
4 Δεν είναι τα εργαλεία τεχνητής νοημοσύνης όπως το ChatGPT απλώς φανταχτερή αυτόματη συμπλήρωση; Γιατί οι άνθρωποι τα φοβούνται;
Έχεις δίκιο ότι η τρέχουσα τεχνητή νοημοσύνη είναι περιορισμένη και δεν σκέφτεται σαν άνθρωπος. Αλλά ο φόβος αφορά την τροχιά. Αυτά τα συστήματα βελτιώνονται με απίστευτο ρυθμό. Η ανησυχία είναι ότι βρισκόμαστε σε ένα μονοπάτι προς τη δημιουργία μιας Γενικής Τεχνητής Νοημοσύνης που μπορεί να κάνει οποιαδήποτε διανοητική εργασία μπορεί να κάνει ένας άνθρωπος. Μόλις φτάσουμε σε αυτό το σημείο, μπορεί να μην έχουμε την ικανότητα να ελέγξουμε κάτι που είναι πολύ πιο έξυπνο από εμάς.
