Τα LLM τα κάνουν λάθος…
Όταν ο αγαπημένος σου πράκτορας σου κάνει το πρωινό αστείο της Δευτέρας σαν παιχνιδιάρης συνάδελφος…..και ανακοινώνει ότι δεν έχεις αναβαθμίσει την PHP σου όταν δεν είναι αλήθεια….
Μικρέ αλητάκο.
Πηγές LinkedIn
- Προφίλ: Pierre Jean Duvivier aka Sage (LinkedIn)
Η ανάρτηση Τα LLM τα κάνουν λάθος… εμφανίστηκε πρώτα στο les plumes qui mordent.
Συχνές Ερωτήσεις
Συχνές Ερωτήσεις Όταν τα LLM τα κάνουν λάθος
1 Τι σημαίνει όταν οι άνθρωποι λένε ότι ένα LLM τα κάνει λάθος
Σημαίνει ότι το μοντέλο δίνει μια απάντηση που είναι ψευδής παραπλανητική ξεπερασμένη ή όχι αυτό που ζήτησεςπαρόλο που ακούγεται σίγουρο
2 Τι είναι ένα LLM με απλά λόγια
Ένα Μεγάλο Γλωσσικό Μοντέλο είναι μια τεχνητή νοημοσύνη εκπαιδευμένη σε τεράστιες ποσότητες κειμένου για να προβλέπει και να παράγει γλώσσα Δεν γνωρίζει γεγονότα όπως ένας άνθρωποςπαράγει κείμενο που ακούγεται πιθανό
3 Γιατί τα LLM επινοούν πράγματα
Είναι κατασκευασμένα για να παράγουν εύλογο κείμενο όχι για να επαληθεύουν την αλήθεια Όταν τους λείπουν οι σωστές πληροφορίες μπορούν να καλύψουν το κενό με εύρυθμο περιεχόμενο που όμως είναι ψευδές
4 Τι είναι μια παραίσθηση
Μια παραίσθηση είναι όταν ένα LLM δηλώνει με σιγουριά κάτι που δεν είναι αλήθειαόπως το να επινοεί μια ψεύτικη παραπομπή στατιστικό ή απόσπασμα
5 Μπορούν τα LLM να δίνουν λανθασμένες απαντήσεις ακόμα και όταν ακούγονται σίγουρα
Ναι Η σιγουριά στον τόνο δεν λέει τίποτα για την ακρίβεια Εύρυθμες σίγουρες απαντήσεις μπορεί να είναι εντελώς λανθασμένες
6 Γιατί τα LLM μερικές φορές κάνουν λάθος σε απλά γεγονότα
Η γνώση τους προέρχεται από δεδομένα εκπαίδευσης που μπορεί να είναι ελλιπή ξεπερασμένα ή θορυβώδη Επίσης δεν αναζητούν πληροφορίες εκτός αν τους δοθεί εργαλείο για να το κάνουν
7 Δίνουν τα LLM πάντα την ίδια απάντηση στην ίδια ερώτηση
Όχι Πολλά μοντέλα είναι μη ντετερμινιστικά οπότε η διατύπωση και οι λεπτομέρειες μπορεί να διαφέρουν μεταξύ εκτελέσεωνκαι μερικές φορές η ακρίβεια ποικίλλει επίσης
8 Γιατί ένα LLM αντιφάσκει στον εαυτό του σε μια συνομιλία
Παράγει κάθε απάντηση με βάση τη συνομιλία μέχρι εκείνη τη στιγμή χωρίς σταθερή μνήμη των προηγούμενων ισχυρισμών του Οι μεγάλες ή πολύπλοκες συνομιλίες κάνουν τις ασυνέπειες πιο πιθανές
9 Γιατί ξεχνάει ή μπερδεύει πράγματα που είπα νωρίτερα
Τα μοντέλα έχουν περιορισμένα παράθυρα συμφραζομένων και καμία μόνιμη μνήμη από προεπιλογή Οι λεπτομέρειες μπορεί να χαθούν ή να θολώσουν καθώς η συνομιλία μεγαλώνει
10 Γιατί η ίδια ερώτηση παίρνει διαφορετικές απαντήσεις σε διαφορετικές γλώσσες
Τα δεδομένα εκπαίδευσης και η απόδοση ποικίλλουν ανά γλώσσα οπότε ένα μοντέλο μπορεί να είναι πιο ακριβές στα αγγλικά παρά σε λιγότερο εκπροσωπούμενες γλώσσες
11 Ποια είναι κοινά σημάδια ότι μια απάντηση μπορεί να είναι λανθασμένη
Υπερβολικά συγκεκριμένοι αριθμοί ή παραπομπές χωρίς πηγή αόριστες επιφυλάξεις αναμεμειγμένες με σίγουρους ισχυρισμούς απαντήσεις που αποφεύγουν την πραγματική σου ερώτηση ή γεγονότα που φαίνονται πολύ βολικά
