When a journalist uses AI to "interview" a deceased child, shouldn't we question where to draw the line? | Gaby Hinsliff

When a journalist uses AI to "interview" a deceased child, shouldn't we question where to draw the line? | Gaby Hinsliff

Ο Χοακίν Όλιβερ ήταν 17 ετών όταν πυροβολήθηκε στο διάδρομο του σχολείου του. Την ημέρα του Αγίου Βαλεντίνου, ένας αποβληθείς πρώην μαθητής άνοιξε πυρ με ένα ισχυρό τουφέκι σε αυτό που έγινε η πιο θανατηφόρα σχολική σφαγή στην Αμερική. Επτά χρόνια αργότερα, ο Χοακίν λέει ότι είναι σημαντικό να μιλάμε για όσα συνέβησαν εκείνη την ημέρα στο Πάρκλαντ της Φλόριντα, «έτσι ώστε να μπορέσουμε να δημιουργήσουμε ένα ασφαλέστερο μέλλον για όλους».

Αλλά η σπαρακτική αλήθεια είναι ότι ο Χοακίν δεν επέζησε. Η φωνή που μίλησε στον δημοσιογράφο Τζιμ Ακόστα σε μια πρόσφατη συνέντευξη δεν ήταν πραγματική — ήταν μια τεχνητή αναπαράσταση, εκπαιδευμένη στα παλιά του post στα social media. Οι γονείς του, που αγωνίζονται για πιο αυστηρούς νόμους για τα όπλα, ελπίζουν ότι αυτή η ψηφιακή εκδοχή του γιου τους θα ενισχύσει το μήνυμά τους. Όπως πολλές θρηνούσες οικογένειες, έχουν μοιραστεί την ιστορία τους επανειλημμένα, με ελάχιστη αλλαγή. Τώρα, δοκιμάζουν τα πάντα για να κάνουν τους νομοθέτες να ακούσουν.

Ο πατέρας του, Μανουέλ, παραδέχεται ότι ήθελαν απλώς να ακούσουν ξανά τη φωνή του γιου τους. Η μητέρα του, Πατρίσια, περνάει ώρες μιλώντας με την τεχνητή νοημοσύνη, ακούγοντάς την να λέει, «Σ’ αγαπώ, μαμά».

Κανείς δεν θα κατακρίνει έναν θρηνούντα γονέα. Αν το να αφήνουν αμετάβλητο το δωμάτιο του παιδιού τους, να επισκέπτονται τον τάφο του ή να κρατούν ένα πουκάμισο που μυρίζει ακόμα σαν αυτό τους φέρνει παρηγοριά, αυτό είναι δικαίωμά τους. Οι άνθρωποι κρατιούνται από ό,τι μπορούν. Μετά την 11η Σεπτεμβρίου, οι οικογένειες ξαναέπαιζαν τα τελευταία μηνύματα από αγαπημένα τους που ήταν παγιδευμένοι σε καμένα κτίρια ή αεροπλάνα. Μια φίλη μου διαβάζει ξανά παλιά μηνύματα WhatsApp από την αποθανούσα αδερφή της· μια άλλη στέλνει ενημερώσεις στον αριθμό του αποθανόντα πατέρα της, γνωρίζοντας ότι δεν θα απαντήσει αλλά δεν είναι έτοιμη να σταματήσει. Μερικοί ακόμη στρέφονται σε μέντιουμ για ασαφή μηνύματα «από το άλλο πλευρό».

Αλλά η απελπισία του πένθους το κάνει ευάλωτο στην εκμετάλλευση — και σύντομα, η ψηφιακή αναβίωση των νεκρών μπορεί να γίνει μεγάλη επιχείρηση.

Αυτή την εβδομάδα, ο Ροντ Στιούαρτ έπαιξε ένα βίντεο που δημιουργήθηκε από τεχνητή νοημοσύνη με τον αποθανόντα Όζι Όσμπορν να χαιρετά άλλους νεκρούς μουσικούς θρύλους — μια συναισθηματική, αν και τεχνητή, προσφορά. Στην Αριζόνα, η οικογένεια ενός θύματος χρησιμοποίησε ένα ψηφιακό avatar για να απευθυνθεί στο δικαστήριο κατά την καταδίκη του δολοφόνου του αγαπημένου τους. Αλλά τι γίνεται αν η τεχνητή νοημοσύνη μπορούσε να δημιουργήσει μόνιμα αντίγραφα των νεκρών — ρομπότ ή φωνές — επιτρέποντας συζητήσεις που συνεχίζονται για πάντα;

Η ανάσταση είναι θεϊκή δύναμη, όχι κάτι που δίνεται ελαφρά σε τεχνολογικούς επιχειρηματίες. Ενώ οι νόμοι προστατεύουν όλο και περισσότερο τους ζωντανούς από deepfake, τα δικαιώματα των νεκρών είναι θολά. Η φήμη πεθαίνει μαζί μας — οι νεκροί δεν μπορούν να δυσφημιστούν — αλλά το DNA προστατεύεται μετά θάνατον. (Η κλωνοποιημένα πρόβατο Ντόλι προκάλεσε παγκόσμιες απαγορεύσεις στην ανθρώπινη κλωνοποίηση.) Η τεχνητή νοημοσύνη δεν χρησιμοποιεί σώματα· εξορύσσει μηνύματα φωνής, κείμενα και φωτογραφίες — την ουσία του ποιος ήταν κάποιος.

Όταν πέθανε ο πατέρας μου, ποτέ δεν ένιωσα ότι ήταν πραγματικά στο φέρετρο. Έζησε μέσα από τα γράμματά του, τον κήπο του, τις ηχογραφήσεις της φωνής του. Αλλά το πένθος είναι προσωπικό. Τι γίνεται αν το μισό της οικογένειας θέλει η μητέρα τους να αναβιώσει ψηφιακά, ενώ το άλλο μισό το βρίσκει ανυπόφορο; Τα ηθικά διλήμματα μόλις ξεκινούν.

Ο μισός κόσμος φαίνεται να φοβάται να ζήσει με φαντάσματα, ενώ ο άλλος μισός δεν μπορεί να φανταστεί τη ζωή χωρίς αυτά. Το γεγονός ότι η τεχνητή εκδοχή του Χοακίν Όλιβερ θα παραμείνει για πάντα 17 ετών — παγιδευμένη στη ψηφιακή στιγμιότυπα της εφηβείας του στα social media — είναι τελικά ευθύνη του δολοφόνου του, όχι της οικογένειάς του. Ο Μανουέλ Όλιβερ καταλαβαίνει ότι αυτό το avatar δεν είναι πραγματικά ο γιος του, και δεν προσπαθεί να τον αναστήσει. Για αυτόν, μοιάζει με μια φυσική επέκταση της εκστρατείας τους, που ήδη κρατάει τη μνήμη του Χοακίν ζωντανή.

Ωστόσο, υπάρχει κάτι ανησυχητικό στο να δίνεις στην τεχνητή νοημοσύνη πρόσβαση σε ένα λογαριασμό social media, επιτρέποντάς της να δημοσιεύει βίντεο και να κερδίζει followers. Τι γίνεται αν αρχίσει να δημιουργεί ψευδείς αναμνήσεις ή να εικάζει για θέματα που ο πραγματικός Χοακίν δεν είχε ποτέ την ευκαιρία να εκφράσει γνώμη;

Αυτή τη στιγμή, τα AI avatars εξακολουθούν να έχουν μια τεχνητή, μη φυσική ποιότητα, αλλά καθώς η τεχνολογία βελτιώνεται, μπορεί να γίνουν αδιάκριτα από πραγματικούς ανθρώπους στο διαδίκτυο. Μπορεί να μην περάσει πολύς καιρός πριν εταιρείες — ή ακόμη και κυβερνητικοί φορείς — αρχίσουν να χρησιμοποιούν AI εκπροσώπους για να χειρίζονται ερωτήσεις των μέσων. Ο Τζιμ Ακόστα, πρώην ανταποκριτής του Λευκού Οίκου, θα έπρεπε να ξέρει καλύτερα από το να θολώνει τα όρια στον ήδη θολό κόσμο της μετα-αλήθειας, κάνοντας συνέντευξη σε κάποιον που τεχνικά δεν υπάρχει. Ο μεγαλύτερος κίνδυνος, ωστόσο, είναι ότι οι θεωρητικοί συνωμοσίας θα το χρησιμοποιήσουν ως «απόδειξη» ότι οποιαδήποτε άβολη ιστορία μπορεί να είναι ψεύτικη — αντηχώντας τις αβάσιμες ισχυρισμούς που έκαναν μορφές όπως ο Άλεξ Τζόουνς για την τραγωδία του Σάντι Χουκ.

Αλλά αυτές οι προκλήσεις δεν αφορούν μόνο τους δημοσιογράφους. Καθώς η τεχνητή νοημοσύνη εξελίσσεται, όλοι θα ζούμε δίπλα σε ψηφιακές εκδοχές του εαυτού μας — όχι μόνο βασικοί βοηθοί όπως η Alexa ή chatbots, αλλά συναισθηματικά εξελιγμένοι σύντροφοι. Με το ένα στους 10 Βρετανούς ενήλικες να παραδέχονται ότι δεν έχουν στενούς φίλους, δεν προκαλεί έκπληξη ότι θα υπάρξει μια αγορά για AI συντροφικότητα, όπως οι άνθρωποι στρέφονται σε κατοικίδια ή social media για επαφή.

Η κοινωνία μπορεί τελικά να αποδεχτεί την τεχνολογία να γεμίζει τα κενά όπου οι ανθρώπινες σχέσεις αποτυγχάνουν. Αλλά υπάρχει μια βαθιά διαφορά ανάμεσα στη δημιουργία μιας παρηγορητικής παρουσίας για τους μόνους και στην ψηφιακή ανάσταση των νεκρών, έναν χαμένο αγαπημένο κάθε φορά. Όπως λέει και ο παλιός επιτάφιος στίχος, υπάρχει «καιρός να γεννηθείς και καιρός να πεθάνεις». Τι συμβαίνει όταν δεν μπορούμε πλέον να ξεχωρίσουμε ποιος είναι ποιος;