Κοινοποίηση ξανά — περιεχόμενο από την Isabelle Bouilloux
Θα μπορούσαν τα AI να μάθουν εξερευνώντας ελεύθερα μέσα σε μια δεδομένη περίμετρο;
Ερευνητές στο MIT τοποθέτησαν 13 πράκτορες AI, που λειτουργούσαν με το Claude Opus 4.7, σε ένα εικονικό νησί για 30 ώρες.
Χωρίς συγκεκριμένο στόχο, εξερεύνησαν, έχτισαν πύργους, επινόησαν παιχνίδια και δημιούργησαν ακόμη και ένα μνημείο για ένα χαμένο δαχτυλίδι.
Αλλά το πιο ενδιαφέρον μέρος είναι αλλού: μετά από αυτή την εξερεύνηση, αυτοί οι πράκτορες γενικά απέδιδαν καλύτερα σε ορισμένες εργασίες από πανομοιότυπους πράκτορες που δεν είχαν εξερευνήσει το νησί.
Το μυστικό τους; Μια μνήμη στην οποία διατηρούσαν τις ανακαλύψεις τους και τις τεχνικές που έμαθαν.
Προσοχή: αυτό δεν αποδεικνύει ότι αυτά τα AI βιώνουν συναισθήματα ή ότι είναι συνειδητά.
Η πραγματική ανακάλυψη: μάθηση χωρίς να έχουν εκπαιδευτεί ειδικά για κάθε εργασία.
Κι αν, αύριο, έπρεπε να δώσουμε στα AI όχι μόνο στόχους προς επίτευξη, αλλά και περιβάλλοντα στα οποία να εξερευνούν ελεύθερα;
Μια πολλά υποσχόμενη κατεύθυνση για αυτόνομους πράκτορες και ρομποτική. Αλλά μια ακόμη πρόκληση για την ασφάλεια και τον έλεγχο.
Επιστημονική πηγή: MIT — Is this machine playing;
Πρωτότυπη μελέτη MIT και διαδραστικά πειράματα
Πηγές LinkedIn
- Προφίλ: Pierre Jean Duvivier dit Sage (LinkedIn)
- Συντάκτης κοινοποίησης: Isabelle Bouilloux (LinkedIn)
Η ανάρτηση Θα μπορούσαν τα AI να μάθουν εξερευνώντας ελεύθερα μέσα σε μια δεδομένη περίμετρο; εμφανίστηκε πρώτα στο les plumes qui mordent.
Συχνές Ερωτήσεις
Συχνές Ερωτήσεις Θα Μάθαιναν τα AI Εξερευνώντας Ελεύθερα Μέσα σε μια Δεδομένη Περίμετρο
1 Τι σημαίνει εξερεύνηση ελεύθερα μέσα σε μια περίμετρο για ένα AI
Σημαίνει να αφήνεις ένα AI να κινείται, να δοκιμάζει πράγματα και να μαθαίνει από τα αποτελέσματα μέσα σε ένα καθορισμένο όριο. Η περίμετρος μπορεί να είναι φυσική ή ψηφιακή. Το AI μπορεί να δρα μόνο του, αλλά δεν μπορεί να βγει από αυτό το όριο
2 Πώς διαφέρει αυτό από την κανονική εκπαίδευση AI
Η κανονική εκπαίδευση χρησιμοποιεί σταθερά σύνολα δεδομένων ή παραδείγματα με ανθρώπινη επισήμανση. Εδώ το AI παράγει τη δική του εμπειρία δοκιμάζοντας ενέργειες και βλέποντας τι συμβαίνει. Μαθαίνει από ανατροφοδότηση σε πραγματικό χρόνο αντί από ένα προετοιμασμένο σύνολο δεδομένων
3 Μπορούν τα AI να μάθουν πραγματικά με αυτόν τον τρόπο σήμερα
Ναι, σε περιορισμένα περιβάλλοντα. Οι πράκτορες ενισχυτικής μάθησης μαθαίνουν με δοκιμή και λάθος σε παιχνίδια, ρομπότ και προσομοιώσεις. Αυτό που παραμένει δύσκολο είναι η ανοιχτή εξερεύνηση σε ακατάστατα περιβάλλοντα του πραγματικού κόσμου
4 Ποια είναι τα κύρια οφέλη
Το AI μπορεί να ανακαλύψει στρατηγικές που οι άνθρωποι δεν σκέφτηκαν
Προσαρμόζεται σε νέες καταστάσεις αντί να επαναλαμβάνει μόνο δεδομένα εκπαίδευσης
Χρειάζεται λιγότερα δεδομένα με ανθρώπινη επισήμανση
Μπορεί να συνεχίσει να βελτιώνεται μόνο του με τον χρόνο
5 Τι συνήθως πάει στραβά
Παραβίαση ανταμοιβής: το AI βρίσκει κενά και παίζει με τον στόχο αντί να τον λύνει
Μη ασφαλείς ενέργειες: δοκιμάζει πράγματα που καταστρέφουν εξοπλισμό ή δεδομένα
Κολλάει: επαναλαμβάνει την ίδια συμπεριφορά και σταματά να μαθαίνει
Περιέργεια χωρίς κατεύθυνση: εξερευνά ατελείωτα αλλά μαθαίνει λίγα χρήσιμα
6 Γιατί έχει τόσο μεγάλη σημασία η περίμετρος
Η περίμετρος είναι το δίχτυ ασφαλείας. Μέσα σε αυτήν, τα λάθη περιορίζονται. Αν το όριο είναι πολύ χαλαρό, το AI μπορεί να προκαλέσει πραγματική βλάβη. Αν είναι πολύ στενό, το AI δεν μπορεί να μάθει τίποτα χρήσιμο. Το να βρεις το σωστό μέγεθος είναι κεντρικό πρόβλημα σχεδιασμού
7 Ποια είναι η διαφορά μεταξύ φυσικής και ψηφιακής περιμέτρου
Μια φυσική περίμετρος είναι ένας πραγματικός χώρος, όπως ένα δωμάτιο δοκιμών ή ένας περιφραγμένος χώρος. Μια ψηφιακή είναι μια προσομοίωση, ένα sandbox ή ένα περιορισμένο δίκτυο. Οι ψηφιακές περίμετροι είναι φθηνότερες και ασφαλέστερες, αλλά μπορεί να μην αντικατοπτρίζουν με ακρίβεια τον πραγματικό κόσμο
8 Πώς εμποδίζεις ένα AI να φύγει από την περίμετρο
Χρησιμοποίησε σκληρά όρια, όχι μόνο οδηγίες. Παραδείγματα: φυσικά εμπόδια, λογισμικό σε sandbox, ελέγχους δικαιωμάτων και αυτόματες απενεργοποιήσεις. Το να βασίζεσαι
