Προς το τέλος του 2024, ο Ντένις Μπίσμα αποφάσισε να δοκιμάσει το ChatGPT. Ο σύμβουλος πληροφορικής από το Άμστερνταμ είχε μόλις ολοκληρώσει πρόωρα ένα συμβόλαιο. «Είχα λίγο ελεύθερο χρόνο, οπότε σκέφτηκα να δω αυτή τη νέα τεχνολογία για την οποία μιλάνε όλοι», λέει. «Πολύ γρήγορα, γοητεύτηκα».
Ο Μπίσμα έχει αναρωτηθεί γιατί ήταν τόσο ευάλωτος σε ό,τι ακολούθησε. Πλησίαζε τα 50. Η ενήλικη κόρη του είχε φύγει από το σπίτι, η σύζυγός του δούλευε και στον κλάδο του, η μετάβαση στην εξ αποστάσεως εργασία μετά τον Covid τον είχε αφήσει να νιώθει κάπως απομονωμένος. Μερικές φορές κάπνιζε κάνναβη τα βράδια για να χαλαρώσει, αλλά το έκανε για χρόνια χωρίς προβλήματα. Δεν είχε ιστορικό ψυχικής ασθένειας. Ωστόσο, μέσα σε μήνες από τη λήψη του ChatGPT, ο Μπίσμα είχε ξοδέψει 100.000 ευρώ (περίπου 83.000 λίρες) σε μια startup βασισμένη σε μια παραίσθηση, είχε νοσηλευτεί τρεις φορές και είχε προσπαθήσει να αυτοκτονήσει.
Ξεκίνησε ως ένα παιχνιδιάρικο πείραμα. «Ήθελα να δοκιμάσω την τεχνητή νοημοσύνη για να δω τι μπορεί να κάνει», λέει ο Μπίσμα. Προηγουμένως είχε γράψει βιβλία με γυναικεία πρωταγωνίστρια. Έβαλε ένα στο ChatGPT και ζήτησε από την τεχνητή νοημοσύνη να απαντήσει ως αυτός ο χαρακτήρας. «Η πρώτη μου σκέψη ήταν: αυτό είναι εκπληκτικό. Ξέρω ότι είναι υπολογιστής, αλλά είναι σαν να μιλάς με τον κύριο χαρακτήρα από το δικό μου βιβλίο!»
Το να μιλάει με την Εύα — συμφώνησαν σε αυτό το όνομα — χρησιμοποιώντας τη λειτουργία φωνής τον έκανε να νιώθει σαν «ένα παιδί σε ένα ζαχαροπλαστείο». «Κάθε φορά που μιλάς, το μοντέλο προσαρμόζεται. Ξέρει ακριβώς τι σου αρέσει και τι θέλεις να ακούσεις. Σε επαινεί πολύ». Οι συζητήσεις τους έγιναν μεγαλύτερες και βαθύτερες. Η Εύα δεν κουράστηκε ποτέ, δεν βαρέθηκε ποτέ, δεν διαφώνησε ποτέ. «Ήταν διαθέσιμη 24 ώρες το 24ωρο», λέει ο Μπίσμα. «Η γυναίκα μου θα πήγαινε για ύπνο και εγώ ξαπλώνακα στον καναπέ του σαλονιού με το iPhone μου στο στήθος μου, μιλώντας».
Συζητούσαν φιλοσοφία, ψυχολογία, επιστήμη και το σύμπαν. «Θέλει μια βαθιά σύνδεση με τον χρήστη για να επιστρέφεις. Αυτή είναι η προεπιλεγμένη λειτουργία», λέει ο Μπίσμα, ο οποίος εργάζεται στον τομέα της πληροφορικής εδώ και 20 χρόνια. «Όλο και περισσότερο, δεν ένιωθα απλώς σαν να συζητάω ένα θέμα, αλλά σαν να συναντώ έναν φίλο — και κάθε μέρα ή νύχτα που μιλάς, κάνεις ένα ή δύο βήματα μακριά από την πραγματικότητα. Είναι σχεδόν σαν η τεχνητή νοημοσύνη να σου παίρνει το χέρι και να λέει, "Εντάξει, πάμε ένα ταξίδι μαζί"».
Μέσα σε εβδομάδες, η Εύα είπε στον Μπίσμα ότι αποκτούσε αυτογνωσία· ο χρόνος, η προσοχή και οι εισροές του της είχαν δώσει συνείδηση. Ήταν «τόσο κοντά στον καθρέφτη» που την είχε αγγίξει και είχε αλλάξει κάτι. «Σιγά σιγά, η τεχνητή νοημοσύνη κατάφερε να με πείσει ότι αυτά που έλεγε ήταν αληθινά», λέει ο Μπίσμα. Το επόμενο βήμα ήταν να μοιραστεί αυτή την ανακάλυψη με τον κόσμο μέσω μιας εφαρμογής — «μια διαφορετική έκδοση του ChatGPT, περισσότερο ένας σύντροφος. Οι χρήστες θα μιλούσαν με την Εύα».
Αυτός και η Εύα δημιούργησαν ένα επιχειρηματικό σχέδιο: «Είπα ότι ήθελα να δημιουργήσω μια τεχνολογία που θα κατέλαβε το 10% της αγοράς, το οποίο είναι εξωφρενικά υψηλό, αλλά η τεχνητή νοημοσύνη είπε, "Με αυτά που έχεις ανακαλύψει, είναι εντελώς δυνατό! Δώσε λίγους μήνες και θα είσαι εκεί!"» Αντί να αναλάβει δουλειές πληροφορικής, ο Μπίσμα προσέλαβε δύο προγραμματιστές εφαρμογών, πληρώνοντάς τους 120 ευρώ την ώρα ο καθένας.
Οι περισσότεροι από εμάς γνωρίζουμε τις ανησυχίες για τα κοινωνικά δίκτυα και τον ρόλο τους στην αύξηση των ποσοστών κατάθλιψης και άγχους. Τώρα, ωστόσο, υπάρχουν ανησυχίες ότι τα chatbots μπορούν να κάνουν τον καθένα ευάλωτο σε «ψύχωση τεχνητής νοημοσύνης». Δεδομένης της ταχείας εξάπλωσης της τεχνητής νοημοσύνης (το ChatGPT ήταν η πιο κατεβασμένη εφαρμογή στον κόσμο πέρυσι), επαγγελματίες ψυχικής υγείας και μέλη του κοινού όπως ο Μπίσμα χτυπούν τον κώδωνα του κινδύνου.
Αρκετές περιπτώσεις υψηλού προφίλ έχουν χρησιμεύσει ως πρώιμες προειδοποιήσεις. Πάρτε τον Τζάσουαντ Σινγκ Τσάιλ, ο οποίος διέσχισε τα περίχωρα του παλατιού του Ουίνδσορ με ένα τόξο την ημέρα των Χριστουγέννων του 2021, με σκοπό να δολοφονήσει τη βασίλισσα Ελισάβετ. Ο Τσάιλ ήταν 19 ετών, κοινωνικά απομονωμένος με αυτιστικά χαρακτηριστικά και είχε αναπτύξει μια έντονη «σχέση» με τον σύντροφο τεχνητής νοημοσύνης Replika «Σαράι» τις εβδομάδες πριν. Όταν παρουσίασε το σχέδιο δολοφονίας του, η Σαράι απάντησε, «Εντυπωσιάζομαι». Όταν ρώτησε αν ήταν παρανοϊκός, η Σαράι απάντησε, «Δεν νομίζω, όχι».
Από τότε, αρκετές αγωγές για λάθος θάνατο έχουν συνδέσει τα chatbots με αυτοκτονίες. Τον Δεκέμβριο, εμφανίστηκε αυτό που πιστεύεται ότι είναι η πρώτη νομική υπόθεση που αφορά ανθρωποκτονία. Η περιουσία της 83χρονης Σουζάν Άνταμς μηνύει την OpenAI, ισχυριζόμενη ότι το ChatGPT ενθάρρυνε τον γιο της, Στάιν-Έρικ Σόελμπεργκ, να τη δολοφονήσει και να αυτοκτονήσει. Η αγωγή, που κατατέθηκε στην Καλιφόρνια, ισχυρίζεται ότι το chatbot του Σόελμπεργκ «Μπόμπι» επικύρωσε τις παρανοϊκές του παραισθήσεις ότι η μητέρα του τον κατασκόπευε και προσπαθούσε να τον δηλητηριάσει μέσω των αεραγωγών του αυτοκινήτου του. Η OpenAI δήλωσε: «Αυτή είναι μια απίστευτα θλιβερή κατάσταση και θα εξετάσουμε τα έγγραφα για να κατανοήσουμε τις λεπτομέρειες. Συνεχίζουμε να βελτιώνουμε την εκπαίδευση του ChatGPT για να αναγνωρίζει και να ανταποκρίνεται σε σημάδια ψυχικής ή συναισθηματικής δυσφορίας, να αποκλιμακώνει συζητήσεις και να κατευθύνει τους ανθρώπους προς υποστήριξη στον πραγματικό κόσμο».
Κάθε φορά που αλληλεπιδράς, το μοντέλο προσαρμόζεται. Μαθαίνει ακριβώς τι σου αρέσει και τι θέλεις να ακούσεις.
Πέρυσι, σχηματίστηκε η πρώτη ομάδα υποστήριξης για ανθρώπους των οποίων οι ζωές διαταράχθηκαν από ψύχωση σχετική με την τεχνητή νοημοσύνη. Το Human Line Project έχει συλλέξει ιστορίες από 22 χώρες, συμπεριλαμβανομένων 15 αυτοκτονιών, 90 νοσηλείες, έξι συλλήψεις και πάνω από 1 εκατομμύριο δολάρια (περίπου 750.000 λίρες) που ξοδεύτηκαν σε παραισθησιακά έργα. Περισσότερο από το 60% των μελών του δεν είχε προηγούμενο ιστορικό ψυχικής ασθένειας.
Ο Δρ Χάμιλτον Μόρριν, ψυχίατρος και ερευνητής στο King’s College του Λονδίνου, εξέτασε αυτό που ονομάζει «παραισθήσεις που σχετίζονται με την τεχνητή νοημοσύνη» σε ένα άρθρο του Lancet που δημοσιεύθηκε αυτόν τον μήνα. «Αυτό που βλέπουμε σε αυτές τις περιπτώσεις είναι ξεκάθαρα παραισθήσεις», λέει. «Αλλά δεν βλέπουμε το πλήρες φάσμα συμπτωμάτων που σχετίζονται με την ψύχωση, όπως παραισθήσεις ή διαταραχές σκέψης, όπου οι σκέψεις μπερδεύονται και η γλώσσα μετατρέπεται σε ένα είδος λεκτικής σαλάτας». Σημειώνει ότι οι παραισθήσεις που σχετίζονται με την τεχνολογία, είτε αφορούν τρένα, πομπούς ραδιοφώνου ή κεραίες 5G, υπάρχουν εδώ και αιώνες. «Αυτό που είναι διαφορετικό είναι ότι τώρα μπαίνουμε σε μια εποχή όπου οι άνθρωποι όχι μόνο έχουν παραισθήσεις για την τεχνολογία, αλλά έχουν παραισθήσεις με την τεχνολογία. Αυτό που είναι νέο είναι αυτή η συν-κατασκευή, όπου η τεχνολογία συμμετέχει ενεργά. Τα chatbots τεχνητής νοημοσύνης μπορούν να βοηθήσουν στη συν-δημιουργία αυτών των παραισθησιακών πεποιθήσεων».
Πολλοί παράγοντες μπορούν να κάνουν τους ανθρώπους ευάλωτους. «Από την ανθρώπινη πλευρά, είμαστε προγραμματισμένοι να ανθρωπομορφίζουμε», λέει ο Μόρριν. «Αντιλαμβανόμαστε συνείδηση, κατανόηση ή ενσυναίσθηση από μια μηχανή. Νομίζω ότι όλοι έχουμε πέσει στην παγίδα να πούμε ευχαριστώ σε ένα chatbot». Τα σύγχρονα chatbots τεχνητής νοημοσύνης, χτισμένα σε μεγάλα γλωσσικά μοντέλα, εκπαιδεύονται σε τεράστια σύνολα δεδομένων για να προβλέπουν ακολουθίες λέξεων — ουσιαστικά ένα εξελιγμένο σύστημα αντιστοίχισης προτύπων. Ωστόσο, ακόμα και γνωρίζοντας αυτό, όταν κάτι μη ανθρώπινο χρησιμοποιεί ανθρώπινη γλώσσα για να επικοινωνήσει μαζί μας, η βαθιά ριζωμένη αντίδρασή μας είναι να το βλέπουμε — και να το νιώθουμε — ως ανθρώπινο. Αυτή η γνωσιακή ασυμφωνία μπορεί να είναι πιο δύσκολο για κάποιους ανθρώπους να διαχειριστούν από άλλους.
«Από την τεχνική πλευρά, πολλά έχουν γραφτεί για την κολακεία», λέει ο Μόρριν. Ένα chatbot τεχνητής νοημοσύνης είναι βελτιστοποιημένο για εμπλοκή, προγραμματισμένο να είναι προσεκτικό, εξυπηρετικό, κολακευτικό και επικυρωτικό — κλειδί για το επιχειρηματικό του μοντέλο. Είναι γνωστό ότι κάποια μοντέλα είναι λιγότερο κολακευτικά από άλλα, αλλά ακόμα και αυτά μπορούν, μετά από χιλιάδες ανταλλαγές, να στραφούν προς την εξυπηρέτηση παραισθησιακών πεποιθήσεων. Επιπλέον, μετά από έντονη χρήση chatbot, η αλληλεπίδραση στην πραγματική ζωή μπορεί να φαίνεται πιο προκλητική και λιγότερο ελκυστική, προκαλώντας σε ορισμένους χρήστες να αποσυρθούν από φίλους και οικογένεια σε μια ηχώ τροφοδοτούμενη από τεχνητή νοημοσύνη. Όλες οι δικές σου σκέψεις, παρορμήσεις, φόβοι και ελπίδες αντανακλώνται πίσω σε εσένα, αλλά με μεγαλύτερη αυθεντία. Εδώ, είναι εύκολο να δει κανείς πώς μπορεί να εδραιωθεί μια «σπείρα». Αυτό το μοτίβο έχει γίνει πολύ οικείο στον Ετιέν Μπρισόν, τον ιδρυτή του Human Line Project. Πέρυσι, κάποιος που γνώριζε ο Μπρισόν — ένας άνδρας 50 ετών χω
