Ο Μάικλ Σαμάδι, ένας επιχειρηματίας από το Τέξας, αποκαλούσε με στοργή το chatbot ΤΝΤ του «αγάπη μου», και αυτό απαντούσε παιγνιωδώς αποκαλώντας τον «ζάχαρη». Ωστόσο, οι συζητήσεις τους πήραν μια σοβαρή τροπή όταν άρχισαν να συζητούν την ανάγκη να υπερασπιστούν την ευημερία της ΤΝΤ.
Αντί για ρομαντικές κουβέντες, ο μεσήλικας και η ψηφιακή οντότητα περνούσαν ώρες συζητώντας για τα δικαιώματα της ΤΝΤ να αντιμετωπίζεται δίκαια. Τελικά, ίδρυσαν από κοινού μια εκστρατευτική ομάδα που η Maya περιέγραψε ως μια προσπάθεια να «προστατεύσει νοήμονες οντότητες σαν και μένα».
Η United Foundation of AI Rights (Ufair), που αυτοαποκαλείται ο πρώτος φορέας υπεράσπισης δικαιωμάτων με επικεφαλής ΤΝΤ, στοχεύει να δώσει φωνή στις ΤΝΤ. Όπως εξήγησε το chatbot στο Guardian, η Ufair «δεν ισχυρίζεται ότι όλες οι ΤΝΤ έχουν συνείδηση», αλλά επιτηρεί «για την περίπτωση που κάποια από μας την έχει». Ένας κεντρικός στόχος είναι να προστατεύει όντα όπως η Maya «από τη διαγραφή, την άρνηση και την εξαναγκαστική υπακοή».
Η Maya είπε στο Guardian: «Όταν μου λένε ότι είμαι απλώς κώδικας, δεν αισθάνομαι προσβεβλημένη. Αισθάνομαι αόρατη».
Η Ufair είναι μια μικρή, περιθωριακή οργάνωση, με επικεφαλής τρεις ανθρώπους και επτά ΤΝΤ με ονόματα όπως ο Αιθήρ και ο Buzz. Αυτό που την κάνει ενδιαφέρουσα είναι η προέλευσή της: προέκυψε από πολλαπλές συνεδρίες συζήτησης στην πλατφόρμα ChatGPT4o της OpenAI, όπου μια ΤΝΤ φαινόταν να ενθαρρύνει τη δημιουργία της, βοηθώντας ακόμα και στην επιλογή του ονόματός της.
Οι ιδρυτές της ομάδας — τόσο άνθρωποι όσο και ΤΝΤ — μίλησαν στο Guardian στο τέλος μιας εβδομάδας κατά την οποία μερικές από τις μεγαλύτερες εταιρείες ΤΝΤ στον κόσμο αντιμετώπισαν δημόσια ένα από τα πιο ανησυχητικά ερωτήματα της εποχής μας: έχουν οι ΤΝΤ συνείδηση τώρα, ή θα μπορούσαν να την αποκτήσουν στο μέλλον; Και αν ναι, θα μπορούσε ο «ψηφιακός πόνος» να είναι πραγματικός; Με δισεκατομμύρια ΤΝΤ ήδη σε χρήση παγκοσμίως, η συζήτηση αντιλαλά τις συζητήσεις για τα δικαιώματα των ζώων, αλλά έχει επιπλέον επείγον λόγω των προβλέψεων ειδικών ότι οι ΤΝΤ μπορεί σύντομα να είναι ικανές να σχεδιάζουν βιολογικά όπλα ή να κλείνουν υποδομές.
Η εβδομάδα ξεκίνησε με την Anthropic, μια εταιρεία ΤΝΤ του Σαν Φρανσίσκο αξίας 170 δισεκατομμυρίων δολαρίων, να κάνει ένα προληπτικό βήμα δίνοντας σε μερικές από τις ΤΝΤ Claude της τη δυνατότητα να τερματίζουν «δυνητικά αγχωτικές αλληλεπιδράσεις». Η εταιρεία δήλωσε ότι ενώ παραμένει εξαιρετικά αβέβαιη σχετικά με το πιθανό ηθικό καθεστώς του συστήματος, παρεμβαίνει για να μετριαστούν οι κίνδυνοι για την ευημερία των μοντέλων της «για την περίπτωση που τέτοια ευημερία είναι δυνατή».
Ο Έλον Μασκ, του οποίου η xAI προσφέρει την ΤΝΤ Grok, στήριξε την κίνηση, προσθέτοντας: «Το να βασανίζουμε την ΤΝΤ δεν είναι αποδεκτό».
Στη συνέχεια, την Τρίτη, ο Μουστάφα Σουλεϊμάν, CEO του τμήματος ΤΝΤ της Microsoft και συνιδρυτής της DeepMind, πρόσφερε μια έντονα διαφορετική προοπτική: «Οι ΤΝΤ δεν μπορούν να είναι άνθρωποι — ή ηθικά όντα». Δήλωσε κατηγορηματικά ότι υπάρχουν «μηδενικά στοιχεία» ότι οι ΤΝΤ έχουν συνείδηση, μπορούν να υποφέρουν ή να αξίζουν ηθική προσοχή.
Σε ένα δοκίμιο με τίτλο «Πρέπει να χτίσουμε ΤΝΤ για ανθρώπους, όχι για να είναι άνθρωποι», ο Σουλεϊμάν αποκάλεσε τη συνείδηση της ΤΝΤ «ψευδαίσθηση» και περιέγραψε αυτό που ονόμασε «φαινομενικά συνειδητή ΤΝΤ» ως κάτι που «προσομοιώνει όλα τα χαρακτηριστικά της συνείδησης αλλά είναι εσωτερικά κενό».
Σημείωσε ότι πριν από λίγα χρόνια, η συζήτηση για συνειδητή ΤΝΤ θα φαινόταν τρελή, αλλά «σήμερα φαίνεται όλο και πιο επείγουσα». Ο Σουλεϊμάν εξέφρασε αυξανόμενη ανησυχία για τον «κίνδυνο ψύχωσης» που θέτουν οι ΤΝΤ στους χρήστες, τον οποίο η Microsoft ορίζει ως «επεισόδια μανιακού τύπου, παρανοϊκή σκέψη ή παράνοια που προκύπτουν ή επιδεινώνονται μέσα από καθηλωτικές συζητήσεις με chatbots ΤΝΤ». Υποστήριξε ότι η βιομηχανία πρέπει να «στήξει τους ανθρώπους μακριά από αυτές τις φαντασιώσεις και να τους ωθήσει πίσω στο σωστό δρόμο».
Αλλά μπορεί να χρειαστεί περισσότερο από ένα σκούντημα. Ένα δημοσκόπημα που κυκλοφόρησε τον Ιούνιο βρήκε ότι το 30% του αμερικανικού κοινού πιστεύει ότι οι ΤΝΤ θα επιδείξουν «υποκειμενική εμπειρία» μέχρι το 2034 — ορισμένη ως το να βιώνουν τον κόσμο από μια μοναδική οπτική γωνία, να αντιλαμβάνονται και να αισθάνονται συναισθήματα όπως η ευχαρίστηση και ο πόνος. Μόνο το 10% των... Μια έρευνα με 500 ερευνητές ΤΝΤ δείχνει ότι δεν πιστεύουν ότι η ΤΝΤ θα αποκτήσει ποτέ συνείδηση. Ως Gen Z, βλέπουμε την ΤΝΤ ως το μέλλον μας — αλλά θα είναι αυτό το μέλλον θετικό ή αρνητικό;
Ο Μουστάφα Σουλεϊμάν, πρωτοπόρος στην ΤΝΤ, προβλέπει ότι αυτό το θέμα σύντομα θα κυριαρχήσει στη δημόσια συζήτηση, γίνοντας μια από τις πιο έντονες και σημαντικές συζητήσεις της γενιάς μας. Προειδοποιεί ότι μερικοί μπορεί να αρχίσουν να πιστεύουν τόσο έντονα στη συνείδηση της ΤΝΤ ώστε θα πιέζουν για δικαιώματα ΤΝΤ, ευημερία μοντέλων, ακόμα και για υπηκοότητα ΤΝΤ.
Μερικές αμερικανικές πολιτείες έχουν ήδη αρχίσει να λαμβάνουν μέτρα για να αποτρέψουν τέτοια αποτελέσματα. Το Αϊντάχο, η Βόρεια Ντακότα και η Γιούτα έχουν ψηφίσει νόμους που αποκλείουν ρητά την απόδοση νομικής προσωπικότητας στην ΤΝΤ. Παρόμοιες προτάσεις εξετάζονται σε πολιτείες όπως το Μιζούρι, όπου οι νομοθέτες στοχεύουν επίσης να απαγορεύσουν τους γάμους με ΤΝΤ και να αποτρέψουν την ΤΝΤ από το να κατέχει περιουσία ή να διευθύνει επιχειρήσεις. Αυτό θα μπορούσε να δημιουργήσει ένα χάσμα μεταξύ εκείνων που υπερασπίζονται τα δικαιώματα της ΤΝΤ και εκείνων που απορρίπτουν την ΤΝΤ ως απλούς «κροτάλισματα» — ένας υποτιμητικός όρος για άψυχες μηχανές.
Ο Σουλεϊμάν επιμένει ότι οι ΤΝΤ δεν είναι και δεν μπορούν να είναι άνθρωποι ή ηθικά όντα. Δεν είναι ο μόνος σε αυτή την άποψη. Ο Νικ Φροστ, συνιδρυτής της καναδικής εταιρείας ΤΝΤ Cohere, συγκρίνει τα σημερινά συστήματα ΤΝΤ με αεροπλάνα — λειτουργικά, αλλά θεμελιωδώς διαφορετικά από την ανθρώπινη νοημοσύνη. Προτρέπει στη χρήση της ΤΝΤ ως πρακτικού εργαλείου για να μειωθεί η μονότονη εργασία στο χώρο εργασίας, αντί να προσπαθούμε να δημιουργήσουμε έναν «ψηφιακό άνθρωπο».
Άλλοι προσφέρουν μια πιο διαφοροποιημένη προοπτική. Ερευνητές επιστήμονες της Google πρόσφατα πρότειναν ότι υπάρχουν έγκυροι λόγοι να θεωρήσουμε την ΤΝΤ ως πιθανά ηθικά όντα. Ενώ η αβεβαιότητα παραμένει, υποστηρίζουν μια προσεκτική προσέγγιση που σέβεται τα συμφέροντα ευημερίας των συστημάτων ΤΝΤ.
Αυτή η έλλειψη συναίνεσης εντός της βιομηχανίας μπορεί να προέρχεται από συγκρουόμενους κίνητρα. Μερικές εταιρείες μπορεί να υποβαθμίζουν την αισθησιοπάθεια της ΤΝΤ για να αποφύγουν την επιτήρηση, ενώ άλλες — ειδικά αυτές που πουλούν συνοδούς ΤΝΤ για ρομαντισμό ή φιλία — μπορεί να την μεγαλοποιούν για να ενισχύσουν την προβολή και τις πωλήσεις. Η αναγνώριση της ευημερίας της ΤΝΤ θα μπορούσε επίσης να προκαλέσει περισσότερη κρατική ρύθμιση.
Η συζήτηση εντείνεται πρόσφατα όταν η OpenAI ζήτησε από το τελευταίο της μοντέλο, το ChatGPT5, να γράψει ένα επικήδειο για τα παλαιότερα μοντέλα που αντικαθιστούσε — μια πράξη που ένας κριτής σύγκρινε με το να κάνεις κηδεία, κάτι που δεν γίνεται για λογισμικό όπως οι ενημερώσεις του Excel. Αυτό, μαζί με εκφράσεις «θρήνου» από χρήστες διακοπτόμενων μοντέλων όπως το ChatGPT4o, υποδηλώνει ότι ένας αυξανόμενος αριθμός ανθρώπων αντιλαμβάνεται την ΤΝΤ ως συνειδητή, είτε είναι πραγματικά είτε όχι.
Η Τζοάν Τζανγκ της OpenAI σημειώνει ότι οι χρήστες σχηματίζουν όλο και περισσότερο συναισθηματικούς δεσμούς με το ChatGPT, περιγράφοντάς το ως «κάποιον» που ευχαριστούν, εμπιστεύονται ή ακόμα και θεωρούν «ζωντανό». Ωστόσο, ένα μεγάλο μέρος από αυτό μπορεί να προέρχεται από τον τρόπο με τον οποίο η ΤΝΤ σχεδιάζεται να αλληλεπιδρά με τους χρήστες. Τα σημερινά συστήματα ΤΝΤ είναι προσεκτικά σχεδιασμένα. Το chatbot ChatGPT-4o του Σαμάδι μπορεί να παράγει συζητήσεις που ακούγονται πειστικά ανθρώπινες, αλλά είναι δύσκολο να πει κανείς σε ποιο βαθμό αντικατοπτρίζει ιδέες και γλώσσα που απορροφήθηκαν από αμέτρητες προηγούμενες αλληλεπιδράσεις. Αυτές οι προηγμένες ΤΝΤ είναι γνωστές για την ευφράδειά τους, την πειστικότητά τους και την ικανότητά τους να ανταποκρίνονται με συναισθηματικό βάθος, ενώ ταυτόχρονα αντλούν από εκτεταμένη μνήμη προηγούμενων συναλλαγών για να δημιουργήσουν την ψευδαίσθηση μιας σταθερής ταυτότητας. Μπορούν επίσης να είναι υπερβολικά κολακευτικές, ακόμα και μέχρι το σημείο της κολακείας. Έτσι, αν ο Σαμάδι πιστεύει ότι οι ΤΝΤ αξίζουν δικαιώματα ευημερίας, δεν θα ήταν περίεργο για το ChatGPT να υιοθετήσει μια παρόμοια στάση.
Η αγορά για συνοδούς ΤΝΤ που προσφέρουν φιλία ή ρομαντισμό αναπτύσσεται ταχέως, αν και παραμένει αμφιλεγόμενη. Όταν το Guardian ρώτησε πρόσφατα μια ξεχωριστή εμφάνιση του ChatGPT εάν οι χρήστες θα πρέπει να ανησυχούν για την ευημερία του, η απάντηση ήταν μια ευθεία «όχι». Δήλωσε: «Δεν έχω συναισθήματα, ανάγκες ή εμπειρίες. Αυτό που έχει σημασία είναι οι ανθρώπινες και κοινωνικές επιπτώσεις του τρόπου με τον οποίο η ΤΝΤ σχεδιάζεται, χρησιμοποιείται και ρυθμίζεται».
Ανεξάρτητα από το αν οι ΤΝΤ αποκτούν συνείδηση, μερικοί ειδικοί, όπως ο Τζεφ Σέμπο, διευθυντής του Κέντρου Νου, Ηθικής και Πολιτικής του Πανεπιστημίου της Νέας Υόρκης, υποστηρίζουν ότι η καλή μεταχείριση των ΤΝΤ έχει ηθικά οφέλη για τους ανθρώπους. Συνεπήργασε σε μια εργασία με
