在《钻石年代》(The Diamond Age)中,尼尔·斯蒂芬森(Neal Stephenson)设想了一本书:它随着一个小女孩成长,自行创造游戏和故事,教给她所需要的东西。我尝试做了一个小小的版本。我把关于对齐(alignment)的头脑风暴文档交给 Claude,让它做一款类似《塞尔达》(Zelda)的游戏,教人们了解 AI 对齐。结果如下 🪁
简短版:它在构建世界方面很出色,但在理解玩家方面仍然较弱(详情见下)
Thomas Wolf 把一份关于 AI 对齐(alignment)的头脑风暴文档交给 Claude,让它制作一款类似《塞尔达》的游戏来教人们了解 AI 对齐。他的评价是:Claude 在构建世界方面表现出色,但在理解玩家方面仍然较弱。
这个尝试的灵感来自尼尔·斯蒂芬森《钻石年代》中那本随小女孩成长、自行创造游戏和故事的书。
在《钻石年代》(The Diamond Age)中,尼尔·斯蒂芬森(Neal Stephenson)设想了一本书:它随着一个小女孩成长,自行创造游戏和故事,教给她所需要的东西。我尝试做了一个小小的版本。我把关于对齐(alignment)的头脑风暴文档交给 Claude,让它做一款类似《塞尔达》(Zelda)的游戏,教人们了解 AI 对齐。结果如下 🪁
简短版:它在构建世界方面很出色,但在理解玩家方面仍然较弱(详情见下)