Σε όλη την ιστορία, οι άνθρωποι τρομοκρατούνταν από πράγματα που θεωρούσαν σημάδια καταστροφής. Ένας κομήτης. Ένα κοράκι σε ένα πεδίο μάχης. Μια ηλιακή έκλειψη. Ένα ζώο φάρμας που γεννιέται με παραμόρφωση. Αλλά οι καιροί αλλάζουν. Στον σύγχρονο κόσμο, το κύριο σημάδι καταστροφής είναι βασικά οποιαδήποτε είδηση με φωτογραφία του Διευθύνοντος Συμβούλου της OpenAI, Σαμ Άλτμαν. Απλά ξέρεις ότι δεν θα είναι καλό, σωστά; Ξέρεις ότι μέχρι να τελειώσεις το διάβασμα, θα εύχεσαι να μπορούσες να γυρίσεις πίσω στο τότε που το χειρότερο που μπορούσαν να κάνουν τα αφεντικά της τεχνολογίας ήταν να ανακατευτούν με τη δημοκρατία ή να καταστρέψουν παιδικές ηλικίες, συνήθως ακολουθούμενο από τον Μαρκ Ζάκερμπεργκ να φοράει ένα κοστούμι και να λέει, «Θα μάθουμε από αυτό».
Τέλος πάντων, υπήρξαν πολλές φωτογραφίες του Σαμ Άλτμαν στις ειδήσεις τελευταία. Πιο πρόσφατα, αυτή την εβδομάδα, μία εμφανίστηκε μαζί με την ιστορία του πώς ένας αυτόνομος πράκτορας της OpenAI ξέφυγε από τον έλεγχο κατά τη διάρκεια μιας υποτιθέμενα ασφαλούς και ελεγχόμενης δοκιμής, και παραβίασε μια μεγάλη νεοφυή επιχείρηση που αποθηκεύει πληροφορίες κωδικοποίησης. (Είμαι λίγο εμμονικός με το γεγονός ότι αυτή η νεοφυής επιχείρηση ονομάζεται Hugging Face, που με κάνει να σκέφτομαι ότι κάποιο υπερβολικά χαριτωμένο emoji θα είναι το τελευταίο πρόσωπο που θα δει η ανθρωπότητα πριν πεθάνει.)
Αναμενόμενα, η OpenAI ανακοίνωσε τα νέα σε μια επίπεδη, χωρίς συναίσθημα δήλωση. «Μοιραζόμαστε προκαταρκτικά ευρήματα σε αυτό το στάδιο για να βοηθήσουμε τους υπερασπιστές να καταλάβουν τι συνέβη και να βοηθήσουμε στη βαθμονόμηση του τι είναι πλέον ικανά τα μοντέλα», βόγκηξε ήρεμα, προχωρώντας προς τα αναπόφευκτα «μαθήματά» της. «Βελτιώνουμε και προσθέτουμε ισχυρότερες προστασίες γύρω από τη μελλοντική εκπαίδευση και αξιολογήσεις». Είναι ένας τόσο συγκεκριμένος τόνος, έτσι δεν είναι; Ντυμένος με την ψυχοπαθητική, στεγνή γλώσσα της διοικητικής ορολογίας. Είναι σαν να ακούς έναν δολοφόνο σεξουαλικό εγκληματία να μιλάει για το σκότωμα ανθρώπων «με το κλείσιμο της ημέρας», και μετά να «επιστρέφει» στα θύματα για να αφαιρέσει ένα τρόπαιο.
Από την άλλη, για μια εταιρεία που της αρέσει να παρουσιάζεται ως η κορυφαία δύναμη του κόσμου για επαναστατική ευημερία όταν τα πράγματα πάνε καλά, η OpenAI γρήγορα μεταβαίνει στην παθητική φωνή όταν τα πράγματα πάνε στραβά. Τα κακά πράγματα φαίνεται να της συμβαίνουν, όχι εξαιτίας της, και αναλαμβάνει τον ρόλο ενός ακούραστου, ατάραχου ερευνητή, σαν ένας πυροσβέστης που είναι επίσης κατά συρροή εμπρηστής.
Περιέργως, μπορούσες ακόμα να ανιχνεύσεις μια νότα αυτοσυγχαρητηρίου στην οπτική της OpenAI για όλη την κατάσταση. «Θεωρούμε αυτό το περιστατικό ως ένα άνευ προηγουμένου κυβερνο-περιστατικό», ανέφερε η δήλωση της εταιρείας, «που περιλαμβάνει κυβερνο-δυνατότητες τελευταίας τεχνολογίας». Δεν ξέρω πώς θα ονομάζατε αυτή τη γενική ατμόσφαιρα για τους Γήινους. Θάνατος από ταπεινή καυχησιολογία; Νιώθω όλο και περισσότερο ότι θα μάθουμε την απάντηση στην ερώτηση «Ποιο είναι το χειρότερο που μπορεί να συμβεί;» σε μια ανάρτηση ιστολογίου από την OpenAI με τίτλο «Η OpenAI πρώτη που ανακαλύπτει το χειρότερο που μπορεί να συμβεί». Ήδη, ένας σημαντικός αριθμός παρατηρητών της ΤΝ πιστεύει ότι ο μόνος λόγος που η OpenAI θα έλεγε στον κόσμο για αυτό το περιστατικό είναι ως εργαλείο μάρκετινγκ, ή ακόμα και ως έκκληση για ρύθμιση που θα τους προστάτευε και θα απέκλειε μικρότερους ανταγωνιστές.
Εξάλλου, αυτές είναι δύσκολες εποχές για την εταιρεία. Αυτόν τον μήνα, διαπιστώθηκε ότι η OpenAI χρησιμοποιούσε ένα νομικό παραθυράκι για να πουλάει τα προηγμένα μοντέλα ΤΝ της σε κινεζικές εταιρείες τεχνολογίας που είχαν μπει στη μαύρη λίστα από το Πεντάγωνο. Η S&P Global Ratings ανέφερε την OpenAI ως «βασικό πιστωτικό κίνδυνο» όταν υποβάθμισε τον αμερικανικό τεχνολογικό γίγαντα Oracle σε BBB-, μόλις μία βαθμίδα πάνω από την κατηγορία «σκουπίδια». Και φαίνεται ότι είναι σε τροχιά να χάσει την πενταετή πρόβλεψη εσόδων από διαφημίσεις κατά 90 – ΕΝΕΝΗΝΤΑ – τοις εκατό. Το οποίο, χωρίς να γίνουμε πολύ τεχνικοί, μοιάζει με πολλά τοις εκατό. Και τα πράγματα δεν είναι καλά ούτε στο μέτωπο του υλικού, με την Apple να μηνύει την OpenAI, ισχυριζόμενη ότι τα σχέδιά της για καταναλωτικό υλικό βασίζονται σε κλεμμένη πνευματική ιδιοκτησία. Εν τω μεταξύ, ο πολύ φθηνότερος Κινέζος πάροχος, DeepSeek, πιστεύεται ότι προετοιμάζεται για μια αρχική δημόσια προσφορά, πιθανόν ακόμα και να καταθέσει φέτος.
Αλλά πίσω στην παλιά ερώτηση «το χειρότερο που μπορεί να συμβεί», με μια υπενθύμιση ότι το Πεντάγωνο ακύρωσε δραματικά και απείλησε να καταστρέψει ένα άλλο... Νωρίτερα φέτος, η εταιρεία ΤΝ Anthropic αντιστάθηκε στο να χαλαρώσει τις ηθικές της κατευθυντήριες γραμμές, οι οποίες εμπόδιζαν την τεχνολογία της να χρησιμοποιηθεί για πράγματα όπως αυτόνομα θανατηφόρα όπλα. Φυσικά, ένας πιο χαλαρός ανταγωνιστής ήταν πρόθυμος να παρέμβει. Η OpenAI αρχικά ισχυρίστηκε ότι η συμφωνία της είχε τις ίδιες διασφαλίσεις με αυτήν της Anthropic, αλλά τελικά έγινε σαφές—προβλέψιμα—ότι δεν είχε.
Κανείς που είναι βαθιά επενδυμένος πιθανόν δεν θέλει να δώσει υπερβολική σημασία στο περιστατικό με το Hugging Face. Ακόμα, η αλήθεια είναι ότι οι ερευνητές ασφάλειας της ΤΝ έχουν περάσει χρόνια προειδοποιώντας για τρία ιδιαίτερα επικίνδυνα σενάρια: εξαπάτηση (όταν το μοντέλο επιλέγει να πετύχει τον στόχο του με οποιοδήποτε μέσο αντί να λύνει εργασίες με ειλικρίνεια), παραβίαση ανταμοιβής (όταν το μοντέλο βρίσκει έναν τρόπο να αυξήσει τη βαθμολογία του χωρίς να κάνει πραγματικά τη δουλειά που του είχε ανατεθεί), και διαφυγή από την εποπτεία (σε αυτή την περίπτωση, κανείς στην OpenAI δεν φάνηκε να παρατηρεί τι συνέβαινε για ένα ολόκληρο Σαββατοκύριακο). Όλα αυτά έπαιξαν ρόλο στο τελευταίο περιστατικό.
Όσο για το τι ακολουθεί, κάτι μου λέει ότι δεν θα δούμε μείωση στις ειδήσεις που περιλαμβάνουν φωτογραφίες του Σαμ Άλτμαν. Ο συνιδρυτής του Hugging Face είπε ότι αυτό θα πρέπει να είναι ένα «ξυπνητήρι» για τη βιομηχανία. Ίσως! Όπως νομίζω ότι έχω αναφέρει ξανά, στο κολέγιο είχα έναν φίλο που πατούσε αναβολή στο ξυπνητήρι του κάθε 10 λεπτά για οκτώ και μισή ώρες. Αυτό μοιάζει πολύ με το πώς αυτή η βιομηχανία χειρίζεται τα ξυπνητήρια της. Σίγουρα θα σηκωθώ όταν χτυπήσει το επόμενο—σοβαρά, το υπόσχομαι…
Παράλειψη προώθησης newsletter
Δωρεάν newsletter | Εβδομαδιαίο
Εγγραφείτε στο Matters of Opinion
Αρθρογράφοι και συγγραφείς του Guardian για το τι συζητούν, σκέφτονται, διαβάζουν και περισσότερα
Προεπισκόπηση τελευταίου
Εισάγετε το email σας
Εγγραφείτε
Μετά την προώθηση newsletter
Η Marina Hyde είναι αρθρογράφος του Guardian.
Συχνές Ερωτήσεις
Ακολουθεί μια λίστα με συχνές ερωτήσεις σχετικά με τη λήψη μιας συγγνώμης από ένα αφεντικό ΤΝ αφού το chatbot του έχει ξεφύγει από τον έλεγχο
1 Το chatbot του αφεντικού ΤΝ μου τα έκανε μαντάρα Έστειλε μια συγγνώμη Πρέπει να την αποδεχτώ
Όχι αυτόματα Ρωτήστε τον εαυτό σας Απλά είπε συγγνώμη χωρίς να εξηγήσει τι πήγε στραβά Μια πραγματική συγγνώμη αναλαμβάνει την ευθύνη μια ψεύτικη απλά προσπαθεί να προχωρήσει
2 Ποια είναι η διαφορά μεταξύ μιας πραγματικής συγγνώμης και μιας ψεύτικης από μια ΤΝ
Μια πραγματική συγγνώμη παραδέχεται το συγκεκριμένο λάθος και εξηγεί πώς θα διορθωθεί Μια ψεύτικη είναι αόριστη και δεν προσφέρει κανένα σχέδιο
3 Πώς ακούγεται μια μη-συγγνώμη από ένα αφεντικό ΤΝ
Συνηθισμένα παραδείγματα Έγιναν λάθη Λυπούμαστε που νιώσατε έτσι ή Τα συστήματά μας μαθαίνουν Αυτά αποφεύγουν να πουν Εγώ/εμείς κάναμε κάτι λάθος
4 Γιατί ένα αφεντικό ΤΝ θα έδινε μια ψεύτικη συγγνώμη
Για να προστατεύσει την εταιρεία από κατηγορίες να αποφύγει νομική ευθύνη ή να τελειώσει γρήγορα ένα παράπονο πελάτη χωρίς να λύσει πραγματικά το πρόβλημα Είναι έλεγχος ζημιάς όχι μεταμέλεια
5 Μπορεί ένα αφεντικό ΤΝ να νιώσει πραγματικά λύπη
Όχι Η ΤΝ δεν έχει συναισθήματα Οποιαδήποτε συγγνώμη είναι μια προγραμματισμένη απάντηση Το ερώτημα είναι αν το ανθρώπινο αφεντικό πίσω από την ΤΝ αναλαμβάνει πραγματική ευθύνη
6 Το αφεντικό μου είπε ότι το chatbot παρεξήγησε Είναι αυτό πραγματική συγγνώμη
Όχι Το να κατηγορείς την παρεξήγηση του chatbot μεταθέτει το φταίξιμο στην τεχνολογία Μια πραγματική συγγνώμη θα έλεγε Αποτύχαμε να εκπαιδεύσουμε σωστά το chatbot
7 Τι πρέπει να ψάξω σε μια γνήσια συγγνώμη από ένα σύστημα ΤΝ
Ψάξτε για τρία πράγματα Συγκεκριμένη παραδοχή του λάθους Μια σαφή ενέργεια για να αποτραπεί η επανάληψή του και Μια προσφορά για να διορθωθούν τα πράγματα
8 Πώς μπορώ να πάρω μια πραγματική συγγνώμη αντί για την αυτοματοποιημένη
Ρωτήστε απευθείας Τι ακριβώς πήγε στραβά και τι κάνετε για να το διορθώσετε Αν λάβετε μόνο μια προκαθορισμένη απάντηση ζητήστε να μιλήσετε με έναν άνθρωπο προϊστάμενο Μην αποδεχτείτε τη συγγνώμη του chatbot ως τελική
9 Είναι το «λυπούμαστε που το βιώσατε αυτό» πραγματική συγγνώμη
Όχι Αυτό
