Συχνά με ρωτούν αν πιστεύω ότι όλα τα μελλοντικά μυθιστορήματα θα γράφονται από τεχνητή νοημοσύνη. Δεν είναι τόσο πραγματική ερώτηση όσο πρόκληση. Με ρωτούν αν ανησυχώ ότι μια μηχανή μπορεί να κάνει τη δουλειά μου, και μάλιστα καλύτερα; Συνήθως το αποφεύγω με κάτι σαν, "Κανένας αλγόριθμος δεν πρόκειται να γράψει την Άννα Καρένινα!" Αλλά ούτε αυτή είναι πραγματική απάντηση.
Γι' αυτό είμαι ευγνώμων στον Πάπα Λέοντα ΙΔ', τον Αμερικανό πάπα, για την πρόσφατη επιστολή του προς τον κόσμο, Magnifica Humanitas: Για την Προστασία του Ανθρώπινου Προσώπου στην Εποχή της Τεχνητής Νοημοσύνης. Είναι ένα μακροσκελές (πάνω από 40.000 λέξεις), έξυπνο και στοχαστικό έγγραφο όπου ο πάπας εξετάζει πώς αυτή η ταχέως αναπτυσσόμενη τεχνολογία μπορεί να χρησιμοποιηθεί και να γίνει κατάχρηση. Τώρα, όταν κάποιος με ρωτά τη γνώμη μου για την ΤΝ, μπορώ απλώς να τον παραπέμψω στην επιστολή του πάπα—ή τουλάχιστον στο τρίτο κεφάλαιο.
Η επιστολή ξεκινά με μια κατάλληλη βιβλική αναφορά στα τραγικά αποτελέσματα μιας κατάρρευσης στην ανθρώπινη επικοινωνία. Η ανθρωπότητα αντιμετωπίζει μια "κομβική επιλογή: είτε να χτίσει έναν νέο Πύργο της Βαβέλ είτε να οικοδομήσει μια πόλη όπου ο Θεός και η ανθρωπότητα κατοικούν μαζί." Ακολουθεί μια λεπτομερής εξέταση του πώς οι προκάτοχοι του Πάπα Λέοντα σκέφτονταν για διάφορα θέματα, και οι ιδέες του Βατικανού για την εργασία, την εξουσία, τη διακυβέρνηση, την επιστήμη, τη δύναμη και το ηθικό μας καθήκον προς τον άλλον. Επισημαίνει επίσης το έργο της εκκλησίας στην υπεράσπιση της ανθρώπινης αξιοπρέπειας και ελευθερίας.
Το τρίτο κεφάλαιο, Τεχνολογία και Κυριαρχία: Το Μεγαλείο της Ανθρωπότητας υπό το Φως των Υποσχέσεων της ΤΝ, ανταποκρίνεται στον τίτλο της επιστολής. Σε ένα ισχυρό (και συχνά παρατιθέμενο) απόσπασμα που εξηγεί τι δεν είναι η ΤΝ, ο πάπας ουσιαστικά ορίζει τι σημαίνει να είσαι άνθρωπος. "Οι λεγόμενες τεχνητές νοημοσύνες δεν βιώνουν εμπειρίες, δεν διαθέτουν σώμα, δεν αισθάνονται χαρά ή πόνο, δεν ωριμάζουν μέσω σχέσεων και δεν γνωρίζουν εκ των έσω τι σημαίνουν αγάπη, εργασία, φιλία ή ευθύνη." Η ΤΝ δεν έχει ηθική συνείδηση και δεν δείχνει πραγματικό ενδιαφέρον για το κοινό καλό της ανθρωπότητας.
Στη συνέχεια, η επιστολή λέει τα πιο σημαντικά και απαραίτητα πράγματα για αυτό που ίσως είναι η μεγαλύτερη απειλή της ΤΝ: μπορεί να προγραμματιστεί αποκλειστικά για τη μεγιστοποίηση του κέρδους, κάτι που μπορεί μόνο να οδηγήσει στο να υποφέρουν πολλοί για το όφελος των λίγων. Ο πάπας προειδοποιεί ενάντια στη "χειραγώγηση της ιδιωτικότητας" και την "κακή χρήση των πληροφοριών", ενάντια στη χρήση αλγορίθμων για τη διαχείριση της απασχόλησης, τον έλεγχο της πρόσβασης σε δημόσιες υπηρεσίες και πίστωση, και για την ενίσχυση ή βλάβη της προσωπικής φήμης κάποιου.
Η συμπόνια, το έλεος και η συγχώρεση—που δεν είναι ψηλά στη λίστα προτεραιοτήτων μιας μηχανής—θα μπορούσαν να καταστούν ξεπερασμένα. "'Αναγκαίες θυσίες' μπορεί να αρχίσουν να δικαιολογούνται, μεταθέτοντας το βάρος στους πιο ευάλωτους στην επιδίωξη της υποτιθέμενης βελτιστοποίησης του είδους." Αν τα εργαλεία αυτής της νέας δύναμης καταλήξουν στα χέρια εκείνων που ήδη έχουν πλούτο και επιρροή, θα χρησιμοποιηθούν για να βελτιώσουν την άνεση, την υγεία και την ευημερία των πλουσιότερων και πιο προνομιούχων πολιτών μας.
Ο πάπας δεν καταδικάζει άμεσα την ΤΝ, αλλά μάλλον τον τρόπο που μπορεί να χρησιμοποιηθεί ως εργαλείο πολιτικής καταστολής και για να επιδεινώσει την οικονομική ανισότητα.
Καθώς η επιστολή ολοκληρώνεται, ο πάπας μας καλεί να παραμείνουμε πιστοί στην αλήθεια, να επενδύσουμε στην εκπαίδευση, να οικοδομήσουμε σχέσεις και να ζήσουμε με δικαιοσύνη και ειρήνη—να αντισταθούμε στο πώς οι νέες τεχνολογίες μπορούν να "εκμεταλλευτούν τους πιο ευάλωτους, να δημιουργήσουν νέες μορφές δουλείας και να αποκομίσουν κέρδος από τη σύγκρουση." Γίνεται σαφές ότι ο πάπας δεν καταδικάζει άμεσα την ΤΝ, αλλά μάλλον τον τρόπο που μπορεί να χρησιμοποιηθεί ως εργαλείο πολιτικής καταστολής και για να επιδεινώσει την οικονομική ανισότητα.
Θεωρητικά, θα μπορούσε κανείς να επικρίνει την επιστολή ότι δεν προχωρά αρκετά, ότι δεν χρησιμοποιεί μια άλλη βιβλική μεταφορά—το χρυσό μοσχάρι—για να καταδικάσει την ΤΝ επειδή δίνει προτεραιότητα στην εξοικονόμηση χρημάτων έναντι της πνευματικής, ατομικής και κοινοτικής ευημερίας. Ανάπτυξη. Αλλά αυτό το πλοίο έχει ήδη σαλπάρει, και δεν υπάρχουν πολλά που μπορεί να κάνει ο Λέων ΙΔ'—ή οποιοσδήποτε θρησκευτικός ηγέτης—για να καταδικάσει αυτές τις νέες εξελίξεις ως μια μορφή ειδωλολατρίας του 21ου αιώνα.
Παρ' όλα αυτά, το όραμα της εγκυκλίου για την ανθρώπινη φύση, το πνεύμα δικαιοσύνης και ενσυναίσθησης που πρέπει να επικρατεί, και η ουσιαστική σημασία των υψηλότερων ηθικών αξιών—είναι τελικά τόσο ευγενικό, τόσο θετικό, τόσο γενναιόδωρο, και τόσο ξεκάθαρα σωστό σχετικά με το καθήκον μας να προστατεύουμε τους αδύναμους και τους φτωχούς που είναι δύσκολο να βρούμε λόγους να το απορρίψουμε.
Αλλά αυτό είναι το τρομακτικό μέρος. Προφανώς, υπήρξε κάποια αντίδραση από τη Silicon Valley, όπου οι δημιουργοί και οι κύριοι της τελευταίας τεχνολογίας έχουν υποδείξει ότι ο πάπας δεν ξέρει για τι μιλάει.
Η άποψη του Guardian για τον Πάπα και τον Claude: Η εγκύκλιος του Λέοντα ΙΔ' για την ΤΝ έχει δίκιο να βάζει την ανθρωπότητα πρώτη | Editorial
Διαβάστε περισσότερα
Ο Jeremy Nixon, ιδρυτής του AGI House – μιας ομάδας που επικεντρώνεται στην απόδειξη ότι η ΤΝ είναι ουσιαστικά ίση με τον ανθρώπινο εγκέφαλο – αναφέρθηκε στους New York Times να λέει ότι η εκκλησία δεν είχε "σκεφτεί βαθιά για την ... ΤΝ", προσθέτοντας: "Δεν θα μπορούσαν να έχουν θέση πάνω σε αυτό, γιατί δεν το καταλαβαίνουν." Και φαίνεται να υπάρχει μια ευρέως διαδεδομένη πεποίθηση ότι το τελικό αποτέλεσμα της τρέχουσας έρευνας θα είναι, στην ουσία, ένας νέος Θεός, ή τουλάχιστον μια πειστική απομίμηση. Αντιμέτωπη με τους κινδύνους του μέλλοντος, η κοινωνία μας επιλέγει να αγνοήσει τα στοιχεία ότι τα μειονεκτήματα της ΤΝ είναι ήδη εδώ. Η κόρη ενός φίλου, φοιτήτρια κολεγίου με ειδίκευση στη διαφήμιση, ενημερώθηκε πρόσφατα από τον σύμβουλό της ότι μέχρι να αποφοιτήσει, όλες οι θέσεις εργασίας στη διαφήμιση θα έχουν αναληφθεί από ΤΝ.
Αν οι κύριοι αυτής της νέας τεχνολογίας δεν μπορούν να συμφωνήσουν με αυτό που ο πάπας βλέπει ως τους κινδύνους και τα μειονεκτήματά της, είμαστε σε πολύ βαθύ πρόβλημα. Το πρόβλημα δεν είναι ότι θα έχουμε ένα ρομπότ να γράφει την Άννα Καρένινα. Το πρόβλημα είναι ότι κανείς δεν θα βλέπει καμία ανάγκη για ένα μυθιστόρημα που αποτυπώνει τόσο όμορφα τα βάσανα μιας γυναίκας, ενός μοναδικού ανθρώπινου όντος.
Δεν θα είχε νόημα ένα τέτοιο βιβλίο, εκτός αν αυτή η ιστορία ενός λάθους που αλλάζει τη ζωή μπορούσε να μετατραπεί σε κέρδος από έναν προοδευτικό τεχνολογικό τύπο και να χρησιμοποιηθεί για να αγοράσει ένα μεγαλύτερο, καλύτερο γιοτ—πιθανότατα επανδρωμένο από μια μόνιμη υποτάξη, από εργάτες των οποίων η αξιοπρέπεια, των οποίων οι κάποτε εκτιμώμενες και πολύτιμες δουλειές, έχουν κλαπεί από τις άπληστες μορφές τεχνητής νοημοσύνης.
Η Francine Prose είναι πρώην πρόεδρος του PEN American Center και μέλος της Αμερικανικής Ακαδημίας Τεχνών και Γραμμάτων και της Αμερικανικής Ακαδημίας Τεχνών και Επιστημών. Το νέο της μυθιστόρημα, Πέντε Εβδομάδες στην Εξοχή, δημοσιεύθηκε τον Μάιο.
Συχνές Ερωτήσεις
Ακολουθεί μια λίστα με συχνές ερωτήσεις βασισμένες στη δήλωση Είμαι ευγνώμων στον Πάπα για την εγκύκλιό του για την ΤΝ Να γιατί
Ερωτήσεις Αρχικού Επιπέδου
Ε Τι είναι μια εγκύκλιος
Α Είναι μια επίσημη επιστολή του Πάπα προς ολόκληρη την Καθολική Εκκλησία για ένα σημαντικό θέμα Σκοπός της είναι να διδάξει και να καθοδηγήσει τους ανθρώπους
Ε Γιατί έγραψε ο Πάπας μια εγκύκλιο για την Τεχνητή Νοημοσύνη
Α Επειδή η ΤΝ αλλάζει ραγδαία τον τρόπο που ζούμε εργαζόμαστε και αλληλεπιδρούμε Ο Πάπας πιστεύει ότι εγείρει βαθιά ηθικά και δεοντολογικά ερωτήματα σχετικά με την ανθρώπινη αξιοπρέπεια τη δικαιοσύνη και την ειρήνη γι' αυτό ήθελε να προσφέρει καθοδήγηση
Ε Λέει ο Πάπας ότι η ΤΝ είναι κακή
Α Όχι Δεν είναι εναντίον της τεχνολογίας Λέει ότι πρέπει να είμαστε προσεκτικοί και να χρησιμοποιούμε την ΤΝ με τρόπους που σέβονται την ανθρώπινη ζωή προστατεύουν τους ευάλωτους και προάγουν το κοινό καλό όχι μόνο το κέρδος ή την εξουσία
Ε Ποιο είναι το κύριο μήνυμα της εγκυκλίου για την ΤΝ
Α Η βασική ιδέα είναι ότι η ΤΝ πρέπει να υπηρετεί την ανθρωπότητα όχι να την αντικαθιστά ή να την ελέγχει Καλεί σε μια παγκόσμια συζήτηση για να διασφαλιστεί ότι η ΤΝ αναπτύσσεται και χρησιμοποιείται ηθικά με έμφαση στην ειρήνη την αλήθεια και την ανθρώπινη αξιοπρέπεια
Ε Πώς με επηρεάζει αυτό ως απλό άτομο
Α Έχει σημασία γιατί η ΤΝ είναι ήδη στη ζωή σας στις μηχανές αναζήτησης τα μέσα κοινωνικής δικτύωσης τις τράπεζες ακόμα και τις ιατρικές διαγνώσεις Ο Πάπας ζητά από όλους να σκεφτούν τη δικαιοσύνη την ιδιωτικότητα και αν αυτά τα εργαλεία βοηθούν ή βλάπτουν την κοινωνία
Ερωτήσεις Ενδιάμεσου Επιπέδου
Ε Για ποιους συγκεκριμένους κινδύνους προειδοποιεί ο Πάπας σχετικά με την ΤΝ
Α Προειδοποιεί για μια αλγοριθμική κοινωνία όπου οι μηχανές λαμβάνουν αποφάσεις που επηρεάζουν τις ζωές των ανθρώπων χωρίς δικαιοσύνη ή διαφάνεια Επισημαίνει επίσης τους κινδύνους της παρακολούθησης της παραπληροφόρησης και της διεύρυνσης της ανισότητας μεταξύ εκείνων που ελέγχουν την ΤΝ και εκείνων που δεν την ελέγχουν
Ε Μιλά η εγκύκλιος για την ΤΝ σε όπλα ή πόλεμο
Α Ναι Καταδικάζει έντονα την ανάπτυξη αυτόνομων οπλικών συστημάτων μηχανών που μπορούν να σκοτώνουν χωρίς ανθρώπινη λήψη αποφάσεων Ο Πάπας υποστηρίζει ότι αυτό αφαιρεί από τον πόλεμο κάθε ηθική λογοδοσία και θα μπορούσε να οδηγήσει σε καταστροφικές συγκρούσεις
Ε Πώς διαφέρει η άποψη της Εκκλησίας για την ΤΝ από τις απόψεις των εταιρειών τεχνολογίας
