人工智能会在给定范围内通过自由探索来学习吗?

人工智能会在给定范围内通过自由探索来学习吗?

转发——内容作者:Isabelle Bouilloux

人工智能能否在给定范围内自由探索来学习?

麻省理工学院的研究人员将13个运行在Claude Opus 4.7上的人工智能代理放置在一座虚拟岛屿上,为期30小时。

没有特定目标,它们进行探索、建造塔楼、发明游戏,甚至为一只丢失的戒指创建了一座纪念碑。

但最有趣的部分在别处:在这次探索之后,这些代理在某些任务上的表现总体上优于未曾探索过该岛屿的相同代理。

它们的秘密是什么?一个记忆库,其中保存着它们的发现和学到的技术。

注意:这并不能证明这些人工智能拥有情感或具有意识。

真正的突破:无需针对每项任务进行专门训练即可学习。

如果明天,我们不仅要给人工智能设定要实现的目标,还要给它们提供可以自由探索的环境呢?

这对自主代理和机器人技术来说是一条有前景的途径。但对安全和控制而言,又是一个新的挑战。

🔬 科学来源:麻省理工学院——这台机器在玩耍吗?

麻省理工学院原始研究及交互式实验

LinkedIn来源

文章人工智能能否在给定范围内自由探索来学习?首次发表于les plumes qui mordent。



常见问题
常见问题 人工智能能否在给定范围内自由探索来学习

1 对人工智能而言,在范围内自由探索意味着什么
这意味着让人工智能在设定边界内四处移动、尝试事物并从结果中学习。边界可以是物理的或数字的。人工智能可以自主行动,但不能离开该边界。

2 这与正常的人工智能训练有何不同
正常训练使用固定数据集或人工标注的示例。在这里,人工智能通过尝试行动并观察结果来生成自己的经验。它从实时反馈中学习,而不是从准备好的数据集中学习。

3 如今人工智能真的能这样学习吗
是的,在有限的环境中。强化学习代理在游戏、机器人和模拟中通过试错学习。仍然困难的是在杂乱的真实世界环境中进行开放式探索。

4 主要好处是什么
人工智能可以发现人类没有想到的策略
它能适应新情况,而不是仅仅重复训练数据
它需要更少的人工标注数据
它可以随着时间的推移自行持续改进

5 通常会出现什么问题
奖励黑客:人工智能找到漏洞并钻目标的空子,而不是解决问题
不安全行为:它尝试会损坏设备或数据的事情
陷入困境:它重复相同的行为并停止学习
无方向的好奇心:它无休止地探索,但学到的有用东西很少

6 为什么边界如此重要
边界是安全网。在边界内,错误是被控制的。如果边界太松,人工智能可能造成真正的伤害。如果太紧,人工智能无法学到任何有用的东西。确定合适的规模是一个核心设计问题。

7 物理边界和数字边界有什么区别
物理边界是真实空间,如测试室或围栏区域。数字边界是模拟沙盒或受限网络。数字边界更便宜、更安全,但可能无法准确反映真实世界。

8 如何阻止人工智能离开边界
使用硬性限制,而不仅仅是指令。例如:物理屏障、沙盒化软件、权限控制和自动关机。依赖