用ChatGPT控制NPC，斯坦福谷歌新研究爆火！基于大模型 ...

笑狼

萧箫 发自 凹非寺
量子位 | 公众号 QbitAI

放任25个AI共同生活，他们竟然模拟起了人类的行动！



不仅像人一样起床、刷牙、吃饭、睡觉，还会被迫“出门打工”，甚至在闲暇时分一起庆祝节日。
这一切，来自斯坦福和谷歌的一项新研究——
他们做了一个很新的实验，创造了25个AI NPC，每个NPC都有不同的身份和行动决策，并让它们在一个沙盒环境中共同生活，背后依靠ChatGPT大模型来完成行动决策。



结果发现，这些AI NPC不仅会像人一样生活，如作家就去写作、店主就去经营商店，而且他们彼此之间还会发生交互，甚至产生对话：



研究一po出就爆火，宾大沃顿商学院教授Ethan Mollick表示：

这些行动相比“角色扮演”，更像是正常人类会做出来的行动。

OpenAI科学家Andrej Karpathy更是直呼“这让开放世界游戏相形见绌”：



所以，这个研究究竟构建了一个怎样的“AI社会”？
当AI玩起模拟人生

从Demo展示来看，这25个AI有着不同的身份、性格和年龄：



他们会在一个共同社区中生活，这些社区的构造非常详细，包括居住区、大学、公园、咖啡厅等：



可以看见，每个AI都有自己的基础行程，包括起床、洗漱、吃饭、睡觉等，根据不同的身份设定，又会做出不同的行动，共同维持社区的运转。
其中，Demo中的emoji简单代表了AI正在进行的操作，如收发信件和吃饭：



但在这其中，也会有交互行为产生：



用的也不是AI的语言，而是人类说话的方式：



不仅如此，这些相互之间可以产生互动的AI，甚至还能听取人类玩家的要求，并采取对应的行动。
例如论文作者提到，他们以人类的身份告诉其中一个AI NPC，希望在社区举办一个“情人节派对”的活动。
没想到，这位AI NPC不仅热情地答应了作者们的请求，自发开始组织起这场活动，包括时间地点和到场人物等：



看到这里，已经有网友表示“太疯狂了”——
对于玩家来说，相比遵循步骤，以后在游戏中可能真的需要去说服NPC或思考并采取行动，才能完成任务。



还有脑洞大开的网友想到了更加“邪恶”的玩法：

想象你杀死了一个NPC，然后坐车回到城市，看着他们为他举办葬礼……

那么，这些AI究竟是如何自发行动，构建起一个自运转的AI互动社会的呢？
用大模型控制行动决策

具体来说，斯坦福和谷歌分两步让AI们采取行动、与其他AI发生交互。
第一步，是构建各种各样的AI“人设”，并让他们做出符合设定的日常行动来。
这里我们以其中一个AI角色John Lin为例，在Demo中可以找到他的设定列表。
可以看见，他的设定非常详细，包括基础信息（姓名、年龄、位置、时间），注意力设定（视野范围等），个人情况（性格、家庭背景、工作等）。



以此为参照，这位名叫John Lin的AI就能形成每天固定的生活习惯，包括早起例行洗漱，然后上班，最后回家睡觉。



但在他的生活过程中，必定会与其他AI沟通、或是遇到新人，于是——
第二步，就是要让AI人设对外界环境和其他人的行动做出反应，产生交互。
于是，这项研究构建了一种赋予AI记忆力、检索记忆、感知、反馈和交互等能力的架构。



从架构图来看，AI会首先感知周遭环境，并将一定视野（注意力）范围内发生的事件记录下来，加进自己的记忆流（memory stream）中；
随后，无论是AI计划要做的事（plan）、还是对外界发生的事情给出反馈（reflect），都会受到这个记忆流的影响，具体方式是通过从记忆中检索对应的事件，并依靠大模型ChatGPT来进行决策；
（当然，无论是计划还是反馈，对应的事件也会加入记忆流中，成为新的记忆）
最后，这些决策的结果将被转变为具体的方案，促使AI思考并做出具体的行动。
研究提到，之所以采用大模型+记忆架构的方式，是因为大模型虽然已经具备非常好的行动逻辑性，但无论是GPT-4还是其他大模型，长期规划和保持清晰的记忆仍然是一种挑战。
基于此，需要一套记忆系统作为大模型的“参照物”，让它在采取决策的时候有清晰的事件列表可以回溯。



不过，这项研究也提出了一些关于AI安全的问题。
包括如何防止它对社会产生的影响，同时被有心之人用于生成Deepfake和“定制版”AI诈骗等——
例如，以后和你聊天的AI卖茶小妹，可能不仅会记得你说过的每一件事情、每一个生日，甚至还能以此为参照，生成更加“贴心”的回答，让“她”看起来更像一个人……



One More Thing

值得一提的是，此前国内也已经有名叫超参数科技的公司做出了类似的AI NPC系统GAEA。
和斯坦福谷歌这项研究一样，GAEA同样具备记忆系统，并依靠大语言模型来帮助NPC做出行动决策。



不过，二者促使AI产生行动的激励机制有一些差异。相比这项研究依靠大模型来完成行动决策：



GAEA中的AI还会额外依靠更具体的数值，进一步影响NPC的行动决策（饥饿值、心情值等）：



对于这类AI NPC技术，你还想到了什么脑洞大开的玩法？
试玩地址：
https://reverie.herokuapp.com/arXiv_Demo/#
论文地址：
https://arxiv.org/abs/2304.03442
参考链接：
[1]https://twitter.com/emollick/status/1645499660402925576
[2]https://twitter.com/karpathy/status/1645485475996790784
—完—
@量子位 · 追踪AI技术和产品新动态
深有感触的朋友，欢迎赞同、关注、分享三连վ'ᴗ' ի ❤

凡事明天说

量子位产量好高[爱]

茂茂哥

赛博朋克，数字生命[赞同]

乐儿妈妈

饶是我接受能力已经很强，看到这个竟然觉得这个有点邪恶[捂脸]…以后是不是可以弄个模拟人然后做医学实验实体解剖看他有什么反应…

小小小小羽

或者这意味着很多医学和心理学实验可以搬到电脑上进行模拟了[捂脸]

老胡的路

换而言之这 tm 不就是西部世界吗？[捂脸]

成都律师贺博士

看到有人评论说他们会不会怀疑自己生活在虚拟世界？

老张哥

这要是能够套一个强化学习，去独立的更新各自的语言模型。那不就真的和人差不多了？

零泣

b 站关注的一个 up 做过类似的游戏 [惊喜]：https://b23.tv/DwJLsgx

风树

我曾想过模拟生态系统，和这个差不多，只是没有基于语言的信息交互和规划。