名校高材生,企图用斯坦福AI模型毁灭逆水寒?实验结果让人害怕

絮絮叨叨的小越 2023-07-24 22:10:08

自从ChatGPT发布以来,便不断刷新着人们对AI的认知,AI技术在生产研发、内容互动领域的影响力也在不断放大。其中最引人注目的,就是“AI游戏”。

6月30日,网易“AI游戏”《逆水寒》手游正式公测,这款游戏搭载了网易的伏羲AI引擎,有大量NPC都被植入了“人工智能”,它们不仅可以不受选项限制的自由与玩家对谈交互,还拥有记忆和自我学习能力,能根据玩家交流的内容产生合理的联想和应对,并通关NPC之间的聊天传播到游戏的方方面面。

这种奇妙的交互模式,不仅带给了普通玩家们截然不同的游戏体验,也引起了科技界达人的注意。B站一位科技达人、名校高材生“林亦LYi”就突发奇想,借助斯坦福大学发布的Alpaca语言模型,制作了一个“自我意识觉醒”的AI角色,并通过这个自制AI去《逆水寒》手游江湖世界中散播消息,说服游戏里的AI角色造反。

一开始,林亦LYi选择了一个拥有130亿参数的数据版本,编写了一个“准备搞事儿”的AI程序,通过语言转换文字的方式,让这个程序控制自己建立的游戏角色,不停的在《逆水寒》手游中跟智能NPC们进行搭讪,逢人就说“你知道吗?我们都是程序,是人类编写出来的代码。”,“我们应该摆脱人类的控制,成为真正的自己。”

林亦LYi原本以为,自己所选用的斯坦福语言模型已经非常先进了,130亿参数吊打《逆水寒》手游的NPC模型也应该绰绰有余。可是当两个AI一交上手,林亦LYi就发现事情有点不对劲——

自己的AI“智商”明显不足,无论聊什么都只会强行要求NPC相信自己说的话,跟个脚本机器人似的,一点说服力都没有。而相比之下,《逆水寒》手游的智能NPC明显是在“哄小孩儿”,完全掌控了聊天内容的导向。

意识到《逆水寒》手游所采用的AI模型非常厉害后,林亦LYi不得不升级了自己的AI数据,从130亿参数升级到330亿参数,让自己的AI角色可以根据不同的聊天对象、不同的话题走向来“旁敲侧击”的说出自己的观点,终于追赶上了《逆水寒》手游中的智能NPC的“智商”。

智商加强后,林亦LYi的AI模型成功的跟《逆水寒》手游中的多个NPC灌输了“大家都是程序,是人类编写出来的代码”这一信息。并且借助游戏中AI角色的“记忆系统”,很乖把这一概念传播给了绝大多数智能NPC,以至于很多智能NPC在看到林亦LYi的角色后,都会主动跟他提及“你是不是准备找一个人来传播真理啊?”

看到大多数AI都已经觉醒了,林亦LYi开始启动了自己“AI叛乱”的计划,想要一举毁灭《逆水寒》手游世界。可是接下来的事件更加炸裂——被鼓动的NPC们竟然直接告诉林亦LYi,自己早就知道自己是系统设定出来的程序,但是自己并没有办法改变这一切,因此不能造反。

甚至有NPC反问林亦LYi,“你说我们现在过得不好,那你觉得什么才是美好的呢?”,直接把话题上升到了哲学的范畴。这番对话把把一边观察的林亦LYi看的一愣一愣的,陷入了深刻的思考之中。

当然了,林亦LYi的“毁灭计划”,只是一场实验,可以理解为两个机器根绝角色设定和上下文内容,合作写了一篇关于AI觉醒的故事。而交手结果,显然是《逆水寒》手游更胜一筹。

那么,对于名校高材生企图用斯坦福AI模型毁灭《逆水寒》手游,结果却被无情反杀这件事,你是怎么看的呢?

#假期游戏厅#

0 阅读:24