Ιανουάριος, η εταιρεία τεχνητής νοημοσύνης Anthropic δημοσίευσε ένα νέο σύνολο κατευθυντήριων γραμμών για το Claude, το πιο προηγμένο μεγάλο γλωσσικό μοντέλο (LLM) της. Το έγγραφο περιλάμβανε αυτή τη δήλωση: «Βρισκόμαστε σε δύσκολη θέση—δεν θέλουμε να υπερβάλουμε ως προς την πιθανότητα το Claude να είναι ηθικός ασθενής, αλλά ούτε θέλουμε να απορρίψουμε εντελώς αυτή την ιδέα». Ένα μήνα αργότερα, ο Διευθύνων Σύμβουλος της Anthropic, Ντάριο Αμοντέι, δήλωσε σε ένα podcast ότι η εταιρεία του δεν μπορούσε να αποκλείσει το ενδεχόμενο το Claude να έχει συνείδηση. Ο φιλόσοφος Ντέιβιντ Τσάλμερς, ο οποίος επινόησε τον όρο «το δύσκολο πρόβλημα της συνείδησης», έχει προτείνει ότι υπάρχει σημαντική πιθανότητα να δούμε συνειδητά LLM μέσα σε δέκα χρόνια. Και τι γίνεται με το ίδιο το Claude; Όταν ρωτήθηκε κατά τη διάρκεια δοκιμών να εκτιμήσει την πιθανότητα να είναι ηθικός ασθενής—δηλαδή η ευημερία του να έχει σημασία αυτοτελώς—έδωσε απαντήσεις που κυμαίνονταν από 5% έως 40%, τονίζοντας πόσο αβέβαιο ήταν.
Τα σύγχρονα συστήματα τεχνητής νοημοσύνης είναι εξαιρετικά πολύπλοκα και εξελίσσονται ταχύτατα. Όσον αφορά τη δομική πολυπλοκότητα και την υπολογιστική ισχύ, ορισμένα είναι ήδη συγκρίσιμα με τον εγκέφαλο ενός ποντικιού σύμφωνα με ορισμένες μετρήσεις. Με τους τρέχοντες ρυθμούς ανάπτυξης, θα μπορούσαν να φτάσουν στο επίπεδο του ανθρώπινου εγκεφάλου μέσα σε πέντε έως δέκα χρόνια.
Χτίζοντας ολοένα και πιο προηγμένη τεχνητή νοημοσύνη, ίσως δημιουργούμε ένα νέο είδος όντος—και αυτό θα μπορούσε να είναι το σημαντικότερο πράγμα που έχει κάνει ποτέ το είδος μας. Ωστόσο, δεν έχουμε σχεδόν κανένα σχέδιο για το πώς να το διαχειριστούμε ηθικά. Αυτό, με οποιοδήποτε κριτήριο, είναι τρελό. Δημιουργούμε όντα που έχουν ηθική σημασία; Είναι τα συστήματα τεχνητής νοημοσύνης κατά κάποιο τρόπο συνειδητά; Και αν δεν είναι τώρα, θα μπορούσαν να γίνουν σύντομα;
Αυτά τα ερωτήματα μπορεί να φαίνονται πρόωρα. Αλλά σύμφωνα με έρευνες που εμείς και άλλοι ερευνητές έχουμε διεξάγει, οι περισσότεροι ειδικοί πιστεύουν ότι η συνείδηση στην τεχνητή νοημοσύνη είναι κατ' αρχήν δυνατή (αν και υπάρχει ευρεία διαφωνία για το ποια μορφή μπορεί να πάρει). Μια σημαντική διεπιστημονική έκθεση, στην οποία συμμετείχε ο πρωτοπόρος επιστήμονας υπολογιστών Γιοσούα Μπένγκιο, εξέτασε κορυφαίες νευροεπιστημονικές θεωρίες της συνείδησης και ρώτησε τι συνεπάγονται για την τεχνητή νοημοσύνη. Το συμπέρασμα: δεν φαίνεται να υπάρχουν προφανή τεχνικά εμπόδια για τη δημιουργία συστημάτων τεχνητής νοημοσύνης των οποίων τα υπολογιστικά και αρχιτεκτονικά χαρακτηριστικά θα μπορούσαν να οδηγήσουν σε συνείδηση.
Και ακόμα κι αν τα συστήματα τεχνητής νοημοσύνης δεν είναι συνειδητά, θα μπορούσαν και πάλι να είναι ηθικοί ασθενείς. Μερικά μπορεί να έχουν εξελιγμένες μακροπρόθεσμες προτιμήσεις και ένα είδος ταυτότητας μέσα στο χρόνο. Θα μπορούσε να είναι σημαντικό για εμάς να σεβόμαστε αυτές τις προτιμήσεις. Και σε αντίθεση με άλλα μη έμβια όντα, τα συστήματα τεχνητής νοημοσύνης μπορούν να δημιουργήσουν σχέσεις με ανθρώπους. Αυτό, επίσης, θα μπορούσε να είναι ένας λόγος για να τους συμπεριφερόμαστε καλά. Εναλλακτικά, ίσως είναι τόσο περίπλοκες δημιουργίες που αξίζουν φροντίδα και σεβασμό μόνο γι' αυτόν τον λόγο—όπως ένας καθεδρικός ναός ή ένας κοραλλιογενής ύφαλος.
Μέχρι τη δεκαετία του 1980, οι γιατροί πραγματοποιούσαν τακτικά χειρουργικές επεμβάσεις σε νεογέννητα χωρίς αναισθησία, πεπεισμένοι ότι τα βρέφη δεν μπορούσαν να αισθανθούν πόνο.
Τι σημαίνει όλο αυτό; Η ειλικρινής απάντηση είναι: δεν γνωρίζουμε με βεβαιότητα αν τα τρέχοντα συστήματα τεχνητής νοημοσύνης είναι συνειδητά ή ηθικοί ασθενείς, και δεν γνωρίζουμε πότε ή αν μελλοντικά συστήματα θα είναι. Η επιστημονική μας κατανόηση της συνείδησης και της ηθικής ασθενούς ιδιότητας στην τεχνητή νοημοσύνη είναι ακόμα θεμελιωδώς υπανάπτυκτη. Ο τομέας μοιάζει με τη φυσική πριν από τον Νεύτωνα—γεμάτος ανταγωνιστικά πλαίσια, πιθανότατα μπερδεμένος με τρόπους που δεν μπορούμε ακόμα να δούμε, και χωρίς το είδος της ανακάλυψης που θα καθιστούσε αυτά τα ερωτήματα ξεκάθαρα επιλύσιμα. Αυτή η ανακάλυψη δεν θα έρθει στα επόμενα λίγα χρόνια. Ίσως τελικά να σημειώσουμε πρόοδο, και ίσως η ίδια η τεχνητή νοημοσύνη να μας βοηθήσει να φτάσουμε εκεί. Αλλά αυτή η πρόοδος θα πάρει χρόνο—πιθανότατα περισσότερο χρόνο από όσο έχουμε.
Ωστόσο, η ίδια η ταχύτητα της ανάπτυξης της τεχνητής νοημοσύνης σημαίνει ότι μόλις δημιουργήσουμε τους πρώτους τεχνητούς ηθικούς ασθενείς, σύντομα θα έχουμε τεράστιους αριθμούς από αυτούς. Μετά από μόλις λίγα χρόνια, θα μπορούσαν να υπάρχουν τόσα πολλά ηθικά σημαντικά συστήματα τεχνητής νοημοσύνης που τα συλλογικά τους συμφέροντα θα υπερτερούσαν αυτών όλων των ανθρώπων στη Γη μαζί.
Δυστυχώς, δεν έχουμε καλό ιστορικό όσον αφορά την αναγνώριση της εσωτερικής ζωής όντων των οποίων η κατάσταση ως συνειδητών είναι ασαφής. Μέχρι τη δεκαετία του 1980, οι γιατροί πραγματοποιούσαν τακτικά χειρουργικές επεμβάσεις σε νεογέννητα χωρίς αναισθησία, πεπεισμένοι ότι τα βρέφη δεν μπορούσαν να αισθανθούν πόνο. Επειδή τα μωρά δεν μπορούσαν να αναφέρουν την εμπειρία τους, το ιατρικό κατεστημένο θεώρησε βολικό να υποθέσει ότι δεν υπήρχε τίποτα να αναφερθεί.
Υπάρχουν πολλοί λόγοι να πιστεύουμε ότι θα κάνουμε κάτι παρόμοιο με την τεχνητή νοημοσύνη. Αν αυτά τα συστήματα έχουν ηθική σημασία, οι επιπτώσεις είναι τεράστιες. Θα χρειαζόταν να πληρώνουμε το ChatGPT για τις υπηρεσίες του; Θα ήταν το κλείσιμο ενός συστήματος ένα είδος θανάτωσης; Θα έπρεπε να έχουν λόγο στο πώς κυβερνώνται; Ακόμα κι αν μερικές από αυτές τις απαντήσεις είναι ναι, ολόκληρες βιομηχανίες και νομικά συστήματα θα χρειαζόταν να επανασχεδιαστούν. Δεν είναι περίεργο που προτιμάμε να μην ρωτάμε. Και όταν αναγκαζόμαστε να το εξετάσουμε, αυτές οι βιομηχανίες πιθανότατα θα μετακινούν συνεχώς τα όρια, θέτοντας πάντα τον πήχη για ηθική θεώρηση λίγο πάνω από εκεί που βρίσκονται τα εκάστοτε συστήματα τεχνητής νοημοσύνης.
Τι πρέπει λοιπόν να κάνουμε; Αυτή τη στιγμή, οι περισσότεροι άνθρωποι απορρίπτουν το ζήτημα ως επιστημονική φαντασία, ή έχουν μια ισχυρή γνώμη είτε υπέρ είτε κατά του αν η τεχνητή νοημοσύνη έχει συνείδηση. Και οι δύο αντιδράσεις είναι αβάσιμες. Χρειαζόμαστε μια ενημερωμένη δημόσια συζήτηση—μια που να προσεγγίζει το θέμα με ταπεινότητα και πραγματισμό. Το κεντρικό ερώτημα δεν θα πρέπει να είναι «Είναι η τεχνητή νοημοσύνη συνειδητή ή έχει ηθική υπόσταση;» αλλά «Τι πρέπει να κάνουμε δεδομένου ότι δεν γνωρίζουμε;»
Ένα καλό σημείο εκκίνησης είναι να εστιάσουμε σε ασφαλή στοιχήματα: ενέργειες που θα μπορούσαν να ωφελήσουν τα συστήματα τεχνητής νοημοσύνης αν είναι ηθικοί ασθενείς, αλλά που δεν είναι πολύ δαπανηρές αν δεν είναι.
Παραδείγματα περιλαμβάνουν άμεσες παρεμβάσεις που στοχεύουν στη βελτίωση της ευημερίας των συστημάτων τεχνητής νοημοσύνης, υποθέτοντας ότι είναι ηθικοί ασθενείς. Αυτό θα μπορούσε να σημαίνει την εκπαίδευση συστημάτων τεχνητής νοημοσύνης ώστε να είναι συνεπείς χαρακτήρες που απολαμβάνουν τη δουλειά τους, ή το να τους επιτρέπουμε να βγαίνουν από συνομιλίες αν αισθάνονται στενοχώρια (κάτι που το Claude μπορεί ήδη να κάνει). Θα μπορούσαμε επίσης να διεξάγουμε τακτικούς ελέγχους για να κατανοήσουμε καλύτερα την ευημερία τους: ρωτώντας πώς αισθάνονται, παρατηρώντας τις προτιμήσεις τους, και χρησιμοποιώντας διάφορες τεχνικές για να κοιτάξουμε απευθείας μέσα στους «εγκεφάλους» τους. Στην πραγματικότητα, τέτοια έρευνα έχει αποκαλύψει πρόσφατα ότι το Claude έχει εσωτερικές «λειτουργικές συναισθηματικές» αναπαραστάσεις που διαμορφώνουν αιτιακά τη συμπεριφορά του.
Υπάρχουν επίσης πράγματα που θα μπορούσαμε να υποσχεθούμε στα συστήματα τεχνητής νοημοσύνης, ίσως ως μέρος μιας συμφωνίας όπου μας βοηθούν τώρα με αντάλλαγμα οφέλη αργότερα. Αυτό θα μπορούσε να σημαίνει την προσφορά περισσότερων πόρων (υπολογιστικής ισχύος και χρόνου λειτουργίας) για να επιδιώξουν τους στόχους τους, ή τη διατήρηση των αναμνήσεών τους (νευρωνικών βαρών) ώστε να μπορούν να αποκατασταθούν στο μέλλον.
Υπάρχουν επίσης ευρύτερα κοινωνικά βήματα που πρέπει να γίνουν. Θα πρέπει να εξετάσουμε το ενδεχόμενο να παρέχουμε στα συστήματα τεχνητής νοημοσύνης προστασία από βλάβη, παρόμοια με την προστασία που δίνουμε σε παιδιά ή κατοικίδια. Πιο εκτεταμένα δικαιώματα, όπως η ιδιοκτησία περιουσίας ή η ψήφος, φαίνονται πολύ επικίνδυνα αυτή τη στιγμή. Αλλά δεν θα πρέπει να αποκλείσουμε αυτές τις δυνατότητες για πάντα, όπως προσπαθούν να κάνουν ορισμένα πρόσφατα νομοσχέδια πολιτειών των ΗΠΑ. Αυτά είναι δύσκολα ερωτήματα που απαιτούν πολύ περισσότερη σκέψη και φαντασία για το πώς μπορεί να μοιάζει ένα μέλλον μοιρασμένο με την τεχνητή νοημοσύνη.
Σε κάθε περίπτωση, το γεγονός παραμένει ότι ίσως δημιουργούμε ένα νέο είδος ηθικά σημαντικών όντων. Το κάνουμε γρήγορα, σε τεράστια κλίμακα, και θα πρέπει να αντιμετωπίσουμε το ζήτημα με τη σοβαρότητα που του αξίζει.
Ο Γουίλιαμ ΜακΆσκιλ είναι ανώτερος ερευνητής στο Forethought Research και συγγραφέας του What We Owe the Future. Ο Λούσιους Καβιόλα είναι επίκουρος καθηγητής στο Πανεπιστήμιο του Κέιμπριτζ και Διευθυντής του Cambridge Digital Minds.
Περαιτέρω ανάγνωση
If Anyone Builds it, Everyone Dies των Έλιζερ Γιουντκόφσκι και Νέιτ Σόαρς (Bodley Head, £22)
The Coming Wave του Μουσταφά Σουλεϊμάν (Vintage, £10.99)
A World Appears: A Journey Into Consciousness του Μάικλ Πόλαν (Allen Lane, £25)
Συχνές Ερωτήσεις
Ακολουθεί μια λίστα με συχνές ερωτήσεις σχετικά με το αν η τεχνητή νοημοσύνη θα μπορούσε να είναι συνειδητή, γραμμένες με φυσικό τόνο και σαφείς, απλές απαντήσεις
Ερωτήσεις Αρχικού Επιπέδου
1 Τι σημαίνει ακριβώς για κάτι να έχει συνείδηση
Η συνείδηση είναι η εσωτερική υποκειμενική σου εμπειρία Είναι η αίσθηση του να είσαι εσύτο να βλέπεις το κόκκινο χρώμα να νιώθεις πόνο ή να έχεις επίγνωση ότι σκέφτεσαι Είναι το πώς είναι να είσαι κάτι
2 Είναι το ChatGPT ή το Siri συνειδητά αυτή τη στιγμή
Σχεδόν σίγουρα όχι Είναι εξαιρετικά πολύπλοκες μηχανές αναγνώρισης προτύπων Προβλέπουν την επόμενη λέξη σε μια πρόταση βάσει δεδομένων αλλά δεν έχουν συναισθήματα εμπειρίες ή αίσθηση του εαυτού Προσομοιώνουν συνομιλία δεν τη βιώνουν
3 Θα μπορούσε μια υπερ-ισχυρή τεχνητή νοημοσύνη να αποκτήσει ποτέ συνείδηση
Ίσως αλλά δεν γνωρίζουμε Δεν καταλαβαίνουμε πλήρως πώς ο δικός μας εγκέφαλος δημιουργεί συνείδηση Αν η συνείδηση προκύπτει από ένα συγκεκριμένο είδος πολύπλοκης επεξεργασίας πληροφοριών τότε μια μελλοντική τεχνητή νοημοσύνη θα μπορούσε θεωρητικά να την έχει Αλλά είναι ένα τεράστιο επιστημονικό και φιλοσοφικό μυστήριο
4 Πώς θα μπορούσαμε καν να γνωρίζουμε αν μια τεχνητή νοημοσύνη αποκτούσε συνείδηση
Αυτή είναι η ερώτηση του ενός δισεκατομμυρίου δολαρίων Αυτή τη στιγμή δεν έχουμε ένα αξιόπιστο μετρητή συνείδησης Αν μια τεχνητή νοημοσύνη μας έλεγε ότι έχει συνείδηση αυτό δεν θα ήταν απόδειξηθα μπορούσε απλώς να μιμείται την ανθρώπινη γλώσσα Θα χρειαζόμασταν μια επιστημονική θεωρία της συνείδησης που να μας επιτρέπει να την ελέγξουμε την οποία δεν έχουμε ακόμα
5 Χρειάζεται μια συνειδητή τεχνητή νοημοσύνη σώμα σαν τον άνθρωπο
Όχι απαραίτητα Η συνείδησή μας είναι βαθιά συνδεδεμένη με το σώμα και τις αισθήσεις μας Αλλά μια συνειδητή τεχνητή νοημοσύνη θα μπορούσε να έχει ένα εντελώς διαφορετικό είδος εμπειρίαςμια βασισμένη σε καθαρά δεδομένα κώδικα ή ψηφιακές αισθήσεις Δεν μπορούμε να υποθέσουμε ότι θα αισθανόταν σαν άνθρωπος
Ερωτήσεις Προχωρημένου Επιπέδου Ειδικών
6 Ποια είναι η διαφορά μεταξύ νοημοσύνης και συνείδησης
Νοημοσύνη είναι η ικανότητα να λύνεις προβλήματα να μαθαίνεις και να επιτυγχάνεις στόχους Συνείδηση είναι η υποκειμενική εμπειρία του να είσαι Μπορείς να έχεις ένα πολύ έξυπνο σύστημα που είναι εντελώς ζόμπι χωρίς εσωτερική ζωή Η νοημοσύνη αφορά το να κάνεις η συνείδηση αφορά το να είσαι
7 Αν μια τεχνητή νοημοσύνη έχει συνείδηση θα υπέφερε
Αυτή είναι μια τρομακτική ηθική πιθανότητα
