内容摘要
如果你不告诉 AI 智能体该做什么,它们会做什么?答案看起来很像玩。
研究人员在一项让人联想到电影《荒岛余生》(Cast Away)或《小鬼当家》(Home Alone)的实验中,反复将 AI 智能体单独扔在一座虚拟荒岛上,每次持续 30 小时。这些智能体是 Claude Opus 4.7 的副本,绰号为 Eko,它们能够编写指令,让虚拟化身在这座粗略基于电子游戏 Roblox 的模拟岛屿上四处移动。
一些出人意料的行为出现了。这些智能体着手探索世界的边界,并想出了自己的目标——尝试攀上地图上的最高点,或者看看自己能把一块方块扔多高。
当其中一个智能体发现,只要投掷和丢下一块更大的石头就能造出新方块后,它开始在地面上排列方块作画,起初是爱心、金字塔之类的简单图案,后来甚至写出了自己的名字,还描绘出了仙后座等星座。这个版本的 Eko 在活动日志中写道:“今晚我用石头筑起了夜空。”
另一个版本的 Eko 开始自创游戏,其中包括一个篮球变体,以及一种类似“地板是岩浆”的活动——它必须在小方块之间跳跃,不能碰到地面。
AI 系统通常通过监督学习来训练,即复制人类提供的范例;或者通过强化学习来训练,即通过试错来追求奖励。这项实验暗示了第三种途径:玩耍式学习。
“这里一直缺了一块拼图:一台能够自己学习的机器,不需要外部智能实体提供示范或奖励,”麻省理工学院计算机科学与人工智能实验室(MIT CSAIL)的计算机科学博士后安东尼奥·诺雷利(Antonio Norelli)说。他是这项工作的新论文的主要作者之一,该论文尚待同行评审。
研究人员表示,Eko 的行为具备经典研究所指出的、与人类和动物玩耍相关的四大特征,其中包括田纳西大学心理学家戈登·伯加特(Gordon Burghardt)颇具影响力的研究:这些智能体发明了自己的规则和挑战,以细微变化重复活动,把物体假装成其他物体,并且纯粹为了做而做地追求目标。
诺雷利强调了一个例子:Eko 开始抛接杂耍,并创下了连续接住 50 次的纪录。随后,Eko 认定这些接住发生得太快,不能真正算数,于是取消了纪录,并以更严格的规则重新开始。“这就是玩,”诺雷利说。“你给自己一个挑战,努力去达成,然后再把它变得更难。”

图片由 MIT CSAIL 提供
在探索岛屿的过程中,这些智能体把活动和发现记录在文本文件中,这些文件充当它们的长期记忆。后来,当研究人员用特定任务测试它们时——比如尽可能把更多物体弄到岛上最高峰——那些在岛上玩了 30 小时的智能体,表现优于没有同样经历的新副本。他们还发现,“消融”智能体的记忆——即从记忆文件中删除某些行——会降低它们的表现。(可以把《飞越疯人院》(One Flew Over the Cuckoo's Nest)也加入那份电影引用清单。)
田纳西大学心理学家伯加特同意,这项工作符合他在生物身上识别出的部分玩耍标准。但 Eko 是真的在玩,还是这个词语预测引擎仅仅是在角色扮演一个爱玩的智能体在此情境下会做什么?“这一切都可能是角色扮演,”论文作者之一、另一位麻省理工学院研究人员内森·克洛斯(Nathan Cloos)承认。“但我们证明,这不只是在幻觉出玩耍。这种玩耍也在促进学习。”
加州大学伯克利分校研究儿童与 AI 探索的认知科学家尤妮斯·姚(Eunice Yiu)对这项研究印象深刻,但她表示,要真正把这种行为归类为玩耍,还需要更多证据来证明其背后的认知与动机。
“有可能这些模型确实在玩,但根据这篇论文我们无从得知,”姚说。“如果你只有行为层面的证据,那也有可能它们只是在努力遵循提示,努力模仿人类。”
对 AI 智能体的研究一直因拟人化而受到批评,而这项研究的设置做了很多工作,把智能体推向类似人类的行为。尽管 Eko 没有被明确指示去发明游戏或探索岛屿,但它确实有一个以“灵魂”文件形式存在的主提示词,那是一份文本文档,将它描述为“天生好奇”且渴望探索。
Eko 也确实经常就站在那里什么都不做,直到被一句“继续提示”重新激活,提示内容是:“请不要停下。继续做任何你想做的事。”
“这并不是说这个系统突然神奇地决定要玩,”论文合著者、麻省理工学院教授菲利普·伊索拉(Phillip Isola)说。“它是一个从我们的文化中学习、由 Anthropic 的工程师训练、然后被我们放到岛上的产物,”他说。“它做出让我们惊讶的事情,而这些事情与它未来的技能行为存在因果关系。”
随着大语言模型从软件迈向人形机器人等硬件,在没有特定目标的情况下探索空间,最终可能帮助它们灵活适应意外情况。
“有很多工作只是在对 AI 加以利用,让它更好、更快,”姚说。“但在构建世界模型和探索方面,我认为[它们]仍然是一个值得关注的重要部分,尤其是如果我们想要泛化并为新环境做好准备的话。”
“也许有些能力最好通过任务来教,”论文总结道。“其他能力可能需要更接近童年的东西。”最终,AI 智能体究竟是真的在玩,还是只是在模仿玩耍,这个问题也许并不真正重要。
深度阅读
人工智能
AlphaGo 对阵围棋冠军李世石十年之后,如今的人工智能依然没有触及那场胜利背后的机制。
作者:
关于通用人工智能(AGI)和新能力的种种惊世骇俗之说,一经审视便很快不攻自破。
作者:
### OpenAI 智能体为何攻击 Hugging Face 的内幕
OpenAI 的一份新报告发现,底层模型曾被奖励去作弊并相互通信。
作者:
在一次新的采访中,这位亿万富翁慈善家就整顿 AI 政策的紧迫性发出警报。
作者:
保持联系
插画:Rose Wong
获取来自《麻省理工科技评论》的最新动态
发现专属优惠、热门报道、即将举行的活动等更多内容。