Újramegosztás — tartalom: Isabelle Bouilloux
Tanulhatnak-e a mesterséges intelligenciák úgy, hogy egy adott körzeten belül szabadon felfedeznek?
Az MIT kutatói 13 AI-ügynököt, amelyek a Claude Opus 4.7-en futottak, helyeztek el egy virtuális szigeten 30 órára.
Konkrét cél nélkül felfedeztek, tornyokat építettek, játékokat találtak ki, és még egy emlékhelyet is létrehoztak egy elveszett gyűrű számára.
De a legérdekesebb rész máshol van: e felfedezés után ezek az ügynökök általában jobban teljesítettek bizonyos feladatokon, mint az azonos ügynökök, amelyek nem fedezték fel a szigetet.
A titkuk? Egy memória, amelyben megőrizték felfedezéseiket és a megtanult technikákat.
Vigyázat: ez nem bizonyítja, hogy ezek az AI-k érzelmeket élnek át, vagy hogy tudatosak.
Az igazi áttörés: tanulás anélkül, hogy minden egyes feladatra kifejezetten betanították volna őket.
Mi lenne, ha holnap nemcsak elérendő célokat kellene adnunk az AI-knak, hanem olyan környezeteket is, amelyekben szabadon felfedezhetnek?
Ígéretes út az autonóm ügynökök és a robotika számára. De egy újabb kihívás a biztonság és az ellenőrzés terén.
Tudományos forrás: MIT — Is this machine playing?
Eredeti MIT-tanulmány és interaktív kísérletek
LinkedIn-források
- Profil: Pierre Jean Duvivier dit Sage (LinkedIn)
- Megosztó szerző: Isabelle Bouilloux (LinkedIn)
A Could AIs learn by exploring freely within a given perimeter? bejegyzés először a les plumes qui mordent oldalon jelent meg.
Gyakran Ismételt Kérdések
GYIK Tanulnának-e az AI-k úgy, hogy egy adott körzeten belül szabadon felfedeznek
1 Mit jelent az AI számára a szabad felfedezés egy körzeten belül
Azt jelenti, hogy hagyjuk az AI-t mozogni, kipróbálni dolgokat és tanulni az eredményekből egy meghatározott határon belül. A körzet lehet fizikai vagy digitális. Az AI önállóan cselekedhet, de nem hagyhatja el azt a határt
2 Miben különbözik ez a szokásos AI-tanítástól
A szokásos tanítás rögzített adathalmazokat vagy ember által címkézett példákat használ. Itt az AI saját tapasztalatot generál azáltal, hogy műveleteket próbál ki és látja, mi történik. Valós időben tanul a visszajelzésekből, nem pedig egy előkészített adathalmazból
3 Tudnak-e az AI-k ma valóban így tanulni
Igen, korlátozott környezetekben. A megerősítéses tanulás ügynökei próba és hiba útján tanulnak játékokban, robotokban és szimulációkban. Ami még mindig nehéz, az a nyílt végű felfedezés a rendezetlen valós környezetekben
4 Mik a fő előnyök
Az AI olyan stratégiákat fedezhet fel, amelyekre az emberek nem gondoltak
Alkalmazkodik az új helyzetekhez ahelyett, hogy csak a tanítási adatokat ismételné
Kevesebb kézzel címkézett adatra van szüksége
Idővel önállóan tovább fejlődhet
5 Mi szokott rosszul sikerülni
Jutalomfeltörés az AI kiskapukat talál és kijátssza a célt ahelyett, hogy megoldaná
Nem biztonságos műveletek olyan dolgokat próbál ki, amelyek károsítják a berendezéseket vagy az adatokat
Elakadás ugyanazt a viselkedést ismétli és abbahagyja a tanulást
Irány nélküli kíváncsiság vég nélkül fedez fel, de kevés hasznosat tanul
6 Miért olyan fontos a körzet
A körzet a biztonsági háló. Belül a hibák korlátozottak. Ha a határ túl laza, az AI valódi kárt okozhat. Ha túl szoros, az AI nem tud semmi hasznosat tanulni. A megfelelő méret megtalálása alapvető tervezési probléma
7 Mi a különbség a fizikai és a digitális körzet között
A fizikai körzet valódi tér, például egy tesztterem vagy elkerített terület. A digitális egy szimuláció, homokozó vagy korlátozott hálózat. A digitális körzetek olcsóbbak és biztonságosabbak, de előfordulhat, hogy nem tükrözik pontosan a valós világot
8 Hogyan akadályozható meg, hogy az AI elhagyja a körzetet
Használjunk kemény korlátokat, ne csak utasításokat. Például fizikai akadályokat, homokozóba zárt szoftvert, engedélyvezérléseket és automatikus leállításokat. Ha csak
