Споделяне отново — съдържание от Isabelle Bouilloux
Могат ли ИИ да се учат, като изследват свободно в рамките на определен периметър?
Изследователи от MIT поставиха 13 ИИ агента, работещи на Claude Opus 4.7, на виртуален остров за 30 часа.
Без конкретна цел те изследваха, строяха кули, измисляха игри и дори създадоха мемориал за изгубен пръстен.
Но най-интересното е другаде: след това изследване тези агенти като цяло се справяха по-добре на определени задачи от идентични агенти, които не бяха изследвали острова.
Тяхната тайна? Памет, в която запазваха откритията си и техниките, които научиха.
Внимание: това не доказва, че тези ИИ изпитват емоции или че са съзнателни.
Истинският пробив: учене без специално обучение за всяка задача.
Ами ако утре трябва да дадем на ИИ не само цели за постигане, но и среди, в които да изследват свободно?
Обещаващ път за автономни агенти и роботика. Но още едно предизвикателство за безопасността и контрола.
Научен източник: MIT — Is this machine playing?
Оригинално изследване на MIT и интерактивни експерименти
Източници от LinkedIn
- Профил: Pierre Jean Duvivier dit Sage (LinkedIn)
- Автор на споделянето: Isabelle Bouilloux (LinkedIn)
Публикацията Could AIs learn by exploring freely within a given perimeter? се появи първо на les plumes qui mordent.
Често задавани въпроси
ЧЗВ Бихa ли се учили ИИ чрез свободно изследване в рамките на определен периметър
1 Какво означава свободно изследване в рамките на периметър за един ИИ
Това означава да позволиш на ИИ да се движи, да опитва неща и да се учи от резултатите в рамките на зададена граница. Периметърът може да бъде физически или цифров. ИИ може да действа самостоятелно, но не може да напусне тази граница
2 Как се различава това от нормалното обучение на ИИ
Нормалното обучение използва фиксирани набори от данни или примери, етикетирани от хора. Тук ИИ генерира собствен опит, като опитва действия и вижда какво се случва. Той се учи от обратна връзка в реално време вместо от подготвен набор от данни
3 Могат ли ИИ наистина да се учат по този начин днес
Да, в ограничени условия. Агенти за обучение с подсилване се учат чрез проба и грешка в игри, роботи и симулации. Това, което все още е трудно, е отвореното изследване в сложни среди от реалния свят
4 Какви са основните предимства
ИИ може да открие стратегии, за които хората не са се сетили
Той се адаптира към нови ситуации, вместо само да повтаря данни от обучението
Нуждае се от по-малко ръчно етикетирани данни
Може да продължава да се подобрява самостоятелно с времето
5 Какво обикновено се обърква
Злоупотреба с наградата: ИИ намира вратички и мами целта, вместо да я решава
Небезопасни действия: той опитва неща, които повреждат оборудване или данни
Зацикляне: той повтаря едно и също поведение и спира да се учи
Любопитство без посока: той изследва безкрайно, но научава малко полезно
6 Защо периметърът е толкова важен
Периметърът е предпазната мрежа. Вътре в него грешките са ограничени. Ако границата е твърде разхлабена, ИИ може да причини реална вреда. Ако е твърде тясна, ИИ не може да научи нищо полезно. Правилният размер е основен проблем при проектирането
7 Каква е разликата между физически и цифров периметър
Физическият периметър е реално пространство, като тестова стая или оградена зона. Цифровият е симулация, пясъчник или ограничена мрежа. Цифровите периметри са по-евтини и по-безопасни, но може да не отразяват точно реалния свят
8 Как се спира ИИ да напусне периметъра
Използвайте твърди ограничения, не само инструкции. Примери: физически бариери, софтуер в пясъчник, контроли за разрешения и автоматични спирания. Разчитането
