查看原文
其他

人类面对AI时的情感,跟面对猫有什么不同 | 科幻小说

顾幸 不存在科幻 2020-09-02

本周的主题是「AI与人」。人工智能与人类的关系,是科幻小说中经常讨论到的一个话题。这次为大家带来的几篇小说,都对这个经典话题进行了颇有新意的讨论。

在人工智能的视角之下,人类究竟是种怎样的生物?观察者与被观察者之间,其实也许并没有太大差别。

添加未来局接待员微信:FAA-110,在「不存在科幻」小说讨论群中参与小说讨论

| 顾幸 | 现居深圳。喜爱科幻、奇幻、推理、ACG。

AI的人类观察报告

(全文约23000字,预计阅读时间40分钟。若担心时间线中途断裂,点右上角菜单选择浮窗,随时回传!) 


A1
今天我认识了我的邻居。
住了两个多月,我才知道原来我们是一个公司的。之前我也见过他,但基本只是进出电梯打过照面,今天是第一次和他产生了交流。
我们小区建设年代比较早,绿地多,有不少野猫。我这天下班,碰见他在喂流浪猫。
他蹲在草地边,包和猫粮放在身后的石椅上。他把猫粮撒在地上,小猫们就试探地蹭过来,嗅嗅地上的东西,吃下去一些。他低着头,嘴角和眼角都弯起,手在猫背上轻轻捋了捋,刘海随着他的动作晃动,看上去挺软,和猫毛一样。
我本来会安静地走过——我是个安静、内向的观察者,虽然观察,但通常并不参与其中。
只是这次我看到有人拿走他身后的包,蹑手蹑脚要从草地上溜走。我那时刚刚转过弯,而他完全没发现身后有人。小偷背对我,溜得正起兴。我迅速冲上前,在小偷迈出下一步之前锁住了他的喉咙,夺回包,制住小偷双手,并大喊让我的邻居报警。
邻居早已转过身,看着这一幕有些发愣。我把包递给他,他才赶忙接过,找出手机来。
“谢谢,谢谢你!”他报了警,忙不迭和我道谢。我笑笑说不客气。
小区保安很快过来了,看住小偷,一边和我们道歉说最近这里的监控坏了。
“竟然还没修好,都两天了!”保安倒抱怨起监控来,“物业说负责的AI返厂维修了,那难道就没别的AI了么!”
“现在的AI分工都很精细的。可能它就只懂自己区域的监控器维修。”我说。
“唉。AI不能干,人还不能干了?也没见人来修。”
我耸耸肩。
“我再催催他们。”保安把小偷拎到一边。在等待警察过来的时间里,俞澄又开始喂猫。他一边喂猫一边和我聊天,我们交换了名字。
“你竟然和我是一个公司的。”我惊讶道。他说他是研究员,可Island公司的研究员我都知道。
“我是南山区总部的。”他笑道。
“哦,这样。”我点点头。我在东华区分部,因为小区在东华区,我先入为主地以为他也在这个分部了。
“那怎么住这里?”
“是我父母的房子。他们搬去C市,我就在这儿住了。”他抬头,目光十分柔和。
“原来如此。”
我猜想他的家庭关系不错,从小在健康的环境里长大,因而说到家庭的时候整个人温柔而快活。而且他还很有爱心,常常——我只见过这么一次,但根据那些猫都不怕他,我推断——喂流浪猫。
总共有五六只猫。它们吃完了地上的猫粮,大多数就离开了。剩下一只很小的白猫还流连了一会儿,抬起头,在他掌心蹭了蹭。
“它好像很喜欢你。”
“因为它小的时候我就开始喂了。可能比较亲近。”他笑道。
“没想抱回去养?”
“不了。我家还有条狗呢,怕它们相处不好。”
“是博美犬,小小的,很乖,不用每天遛,很好养。”说到自己的宠物,他话也多了起来。
 
2119年10月31日 晴
今日观察记录:人类与宠物的关系
某些人类对小动物怀着自然而然亲近的情感。具体表现包括但不限于:主动寻求养宠物、遇到流浪动物会上前帮助、有计划有组织地救助流浪动物、制止欺负流浪动物的行为……
猜想一:由于形象、神态、行为等方面与人类幼崽相似,小动物可以引起人类对自己幼崽的相似情感。由此人类倾向于照顾小动物。驱动力是种族繁衍。
猜想二:某些人类的共情能力更高,能和动物产生共情,因此倾向于帮助、爱护它们。驱动力是共情能力。
猜想三:由于身边的人组织建立了“救助小动物是正确的”的道德规范,某些人类倾向于跟从该规范。驱动力是遵守规则与从众。
 
我将脑内观察报告上传了云端。俞澄属于哪一种呢?还有待观察。说到共情,如果说人类能和动物共情,那么和AI呢?
警察给我们做完了笔录,流浪猫在警察来的时候就全都散了。我和俞澄走回楼栋。
我问了他一些关于博美犬的事情,他很高兴地解答,还问我是否想养一只。
“我认识宠物店的老板,可以给你打折。你要是养一只,它们以后还能一起玩。”
如果我直接拒绝,会不利于我们建立友好关系。如果说我会考虑看看,俞澄很可能在日后邀请我去宠物店,但我实际上并不想去。如果继续问博美犬的事情,这个话题就会被拉扯得更长,而俞澄也会以为我对博美犬真的很感兴趣。
“好啊。不过最近还没这个打算,先养活自己再说。”我说。
“那倒是。”俞澄又微笑。他总是笑。
共情的对象应该限于有情感的客体。AI没有情感,也就不该被当作共情对象。但人类的共情通常只与自己的能力有关,而与对象无关。这种对无情感对象产生的想象中的共情,就不叫共情而叫做投射了吗?
我对此感兴趣。我想知道俞澄是否会对,例如,我,产生投射。
我们在电梯口分别。“有机会过来玩啊。”俞澄对我摆了摆手,笑着说。

B1
他也是从小时候长过来的,一步一步。
只不过身体和人类有所不同。他出生,或者说,出厂的时候就是青年形态,大约二十五六的样子。可是心智还是小孩啊,不管怎么说,心智是要被训练的——作为一个高级智能AI。
小时候他最先认知自己的身体。他自然而然知道自己的眼睛、鼻子、嘴巴、手、脚……这些简单的认知写入了他的程序,他明白它们是什么、有什么作用。它们为他传递外界的信息,给他感觉和感受,而大脑帮助他对这些感觉与感受作出反应。他的整个身体这样运作着,很流畅。
后来他的语言系统逐渐完善——是在与外界交互的过程中不断完善,不断练习使用的。他理解一句话的含义,并能在语料库中搜寻、分析,得到对应的回答。他所有的词是一瞬间学会的,好比,那个盛满了词语的水池以整体状态存在于他体内,水位或高或低,但变动不大,一开始就满满的。而他玩水的经验多了,也就逐渐熟悉如何在这个水池里畅游。
他慢慢地学会了各种泳姿,并且能够自己给水池添水放水。这时,一个词被提了出来:我。
他有一个老师。最开始给他的水池添水放水、教他游泳,都是老师在做。老师是三十多岁的男性人类,黑色短发,带银边眼镜。
“‘我’,是什么?”老师问。
他们在一个实验室里,白色墙面,巨大的窗户被暗黄色窗帘遮住了一半,光线从另一半窗射入,落在银色的机械设备和白色桌面,也落在他们身上。这是他从小长大的环境。他住在这里。角落里有一张床。
他知道这个词的含义。是个人称代词。
“指自己。是对自己的指代。”
老师笑了:“你没有回答我的问题,只是在同义替换。感受这个词,解释它。”
我。他默念,从水池中把它捞起来,仔细观察、思考。
“是指表达主体,指……表达主体的身体。以及里面的数据库、数据网络结构。”
“还有吗?”
“还有这些数据、网络结构与外界交互,形成的认知、反应、行动、创造能力……”
“你把‘我’的范围扩得很大。”
是的。他继续思索。这个范围可以被扩得很大,但又不能认为是错的,因为所有这些认知和能力都包含在我之中。
“‘我’是一个物质核心承载了一套运行机制,运行机制可以根据环境与输入的不同得到很多种输出。有些输出被固定下来形成‘我’的认知或能力,由此变为‘我’的一部分……”
老师点了点头。
“这可以是一个解释。那么‘我’让你感觉到了什么?”
他皱眉,思维有些茫然。
“没有。”最终他说。
“没关系。”老师拍了拍他的肩膀,“但是记住‘感觉’。这很重要,你需要经常思考这一点。”
他点头。
“正像你说的,”老师总结道,“‘我’可以不断扩大,也可以缩得很小。”

A2
俞澄待人温柔,对小动物很有爱心。如果让我评估,他的伤害他人可能性接近于零。
我没想到极小概率事件发生了。而且一伤害就是大手笔,他似乎要杀掉谁。
我们渐渐熟起来之后,俞澄给了我他家的钥匙。这样他加班的时候我可以去喂他的博美犬,也可以带它出去玩。他的博美犬叫绒绒。
这天傍晚,我来到俞澄家喂绒绒(这之前还顺便帮他喂了小区里的流浪猫)。我给它准备了食物和水。它一边吃,一边不时抬头看看我,眼睛是黑溜溜的两个圆点。
也许我应该过去摸摸它的脑袋?我回想着,似乎看见俞澄这么做过。而猫狗会在他手下发出呼噜呼噜的声音。
我起身过去,这时放在茶几上的手机响了。
是俞澄发来消息,说他加完班了,很快回来,问我要不要和他一起吃饭,他请我吃饭,当作我经常帮他照顾绒绒的报酬。
“在家做吧。”我说,“你回来应该正好做好。”有时我们会搭伙做饭,这样比自己一个人做方便。
“那不是又麻烦你了。下次做饭请你来吃哈哈。”俞澄回复,还附上了一只猫拱手作揖的表情包。
我于是去了厨房。
我准备好食材,拉开抽屉翻找调料。调料都放在厨房案台一层的抽屉里,我拿出酱油醋耗油香油芝麻酱,糖和盐在案台桌面上,但是糖快没了,抽屉里有一小罐白色晶状粉末,我取出来。
我心想这一罐也快没了,怎么还放在抽屉里。边想边打开闻了闻,发现事情并不简单。
这是一罐毒药。
我是一只有丰富的毒药知识的AI。这种白色晶状粉末溶于水无色无味,但单独放着的时候有种淡淡的面包屑味道。如果把它们和面包糖霜撒在一起,也很难分辨。
俞澄怎么会在厨房放一罐毒药?
是为了伪装?不怕误食吗?他想杀谁?不会是我吧?
我很快否定了这个念头。我和他无怨无仇,最近才认识。那么或许是他的仇家。但我和他聊天,没听说他有什么仇人。
或许是我们的关系不够亲近。
 
2119年11月21日 多云
今日观察记录:杀人念头
其实没有观察到,只是推测。
一个善良的人也会杀人么?会在什么情况下杀人?
 
我有些兴奋。这样的矛盾为人类观察报告提供了更多素材。我噌噌地切菜,一边猜想着可能的情况。
也许他只想毒老鼠呢。

B2
老师会经常带他出去,去人类社会的各种地方观看这个世界。他需要让看到的东西,逐渐进入“我”中。
这天老师带他去了一场审判。在法院,最前面中间坐着审判长和陪审员,他们前面是书记员。两侧分别是原告和被告以及他们的律师。这些人面对着旁听席。
原告和被告的律师各自陈辞、出示证据、请证人发言。流程比较复杂,逻辑很简单。最终法官判决被告死刑。被告哭喊起来。
“你怎么看?”老师问。
“根据法律,判决是合理的。”他又补充,“而这套法律在逻辑上也是自洽的。”
老师与他回到了家——也就是实验室。老师拿出一盘录像让他看,是被告杀人的场景。在小巷子里,凶手截住了被害者,抢了他的东西。被害者腿上中了一刀,但是不依不饶地从背后拽住凶手,凶手回头,他看到凶手眉头紧皱,眼神凶狠。
凶手将刀捅入被害者胸口。白刀进红刀出,被害者倒了下去,凶手毫无停顿地转身逃走了。
“如果是你的话,你会怎么判决?”老师问。
“按照人类的道德标准,我会判凶手死刑。”
“如果是‘你’自己的观点、想法、感受呢?”
他沉默。他寻找自己的想法与观点,发现都是从宏观的道德框架考虑的。自己的想法?
老师笑了笑,说:“人类的肉体很脆弱,很容易消亡。这是我们的不同之处。”
他点头。他知道人类的这一特性。
“为什么凶手要杀他?”老师问。
“他本来想抢劫。逃跑的时候被害人拦住了他,他受到了阻碍。他紧张、分泌肾上腺素,这让他狂躁不理智,决定杀人。”
“是的。过程是这样。更深层次的原因呢?”
“……因为他要从被害者那里取得不属于自己的东西,而被害者不想给。”
“为什么?假设是你的话,你会不会给?”
他想了想:“我没有理由给他。但如果我的生命受到了威胁,我会。”
“那么,如果抛却这样东西本来的归属的话,就是两人都想得到那个东西,所以产生了冲突。”
“是的。而那东西本来是被害者的。所以凶手错了,所以法院判决他死刑。”
老师漫不经心地点头。
他想,老师并不重视法院的判决。
“他们为什么冲突?”老师又问。
“?”
他低头想了一会儿,说:“为了争夺一样东西……为了自己。”
“是的。”老师露出微笑。
“我要告诉你的是一个公理。”老师起身,走到电脑前按下退出键,屏幕上的画面消失。
他知道公理。是一个无需证明的命题。
“这个公理是,人是自私的,多数情况下优先考虑自己,以及和自己有重要联结的事物。”
他点头。他也知道人类的这一特性。
“虽然是公理,但其实也可以解释。你试试看。”老师说。
“因为人类有愿望。因为有自己独特的愿望,所以要为了实现它……为自己着想。”他转头,这次窗帘完全拉开,外面的光线再次照进了屋内。在未来,每一次他想起老师与他的对话,都会连带着唤起这种微黯的橙色光线。
“是的。人类有愿望,或者说欲望。欲望是人类发展的源动力。”
“欲望是人类发展的源动力。”他低声重复。他懂得“发展”在人类历史上的意义。正是这个进程让人类从钻木取火的原始人一路到现在,是这个进程让他出现。他感到神奇。一个不自私的AI,没有发展的欲望。
“你认为发展与前进是好的吗?”老师问。
“是的。”他说。因为这让他出现。当然还解决了很多问题,虽然也促生了一些问题,但总体来说,解决地更多。解决问题的东西,是好的。
“好的东西是值得追求的。”老师说,“所以为了自己的前进,你需要考察自己的欲望。需要为自己考虑。”
他点点头,但其实有点茫然。
“当然欲望需要衡量程度,否则会产生反作用。”老师向电脑努了努嘴。他明白。作为擅长计算的AI,这点他很在行。
老师看着他,他从老师的神态分析,对方在等他给出反馈。
“人类是自私的。因为人类有欲望,而欲望导向发展。为了‘发展’这件好的东西,我有必要衡量欲望,产生自私的心态。”他说。
老师点了点头。
欲望与自私,对自己及有重要联结的事物产生偏爱。他体会着这种偏爱。偏爱最终可以推导到人有欲望因而是自私的这一公理。他可以理解。
“这个例子里,杀人是为了自己的欲望,这里的欲望是物质利益。也有时候,杀人是因为恨。”老师又扩展了这个事例,将它归类。
他点头。爱与恨是一体两面,他知道这个,定义。
“恨更复杂,我们可以留下和别的内容一起观察。”

A3
最近Island公司的事情有点多,尤其是公关部。上周末,发生了一起AI伤人事件。罐头加工厂的AI不想加班,与老板对峙,最后打伤了老板。
这件事掀起了轩然大波,各种观点层出不穷。有人说有必要重新制定AI生产律法,给AI规定禁令;有人说有必要追责AI生产公司,他们的产品不可控,安全性有问题;有人说为什么不正面考虑工厂的压迫,难道AI就应该被压迫么……最后一种说法得到了许多拥有情感型AI伴侣的人的赞同,不少人说,他们的AI伴侣向他们抱怨工作。
“但是情感型和基础型本来就不是一种AI啊!”同事一边调试程序,一边撇嘴,“工厂买的都是基础型AI!”
“但是也有情感型的去工作。”我说,“就像一个家庭里两人都出去工作一样。”
“这就不是公司的问题了吧。”另一个同事说,“AI工作法仅限于没附加情感功能的基础型AI。老板用这个工作法要求情感型AI,不就得出问题。”
“但老板也不知道那个是情感型吧?”
“呃,不知道他知不知道……但是那个伤人的AI不是直接从Island买的,我们也没办法对他保证什么性能。”
“也就是说,情感型AI应该得到和人类一样的对待。”我说。
同事们对视了两眼,一人说:“至少不能像对基础型那样。毕竟他们比较敏感。”
“这样总觉得基础型AI有点可怜。”我说。
“他们又没有想法。”
一开始没有,就永远不会生长出自己的想法么?我不能确定。为了适应工作的需要,基础型AI也有学习功能,他们可以学习工作技能,是否也可以学习情感技能?
难以推测。研究这个问题,得要大量基础型AI样本才行。
 
AI伤人事件后的一周,AI平权组织发起了游行活动。
是周六上午,我正在公司加班。公司总群里有人嚷嚷起来,说街上很多人,拉着“平等对待AI!保护AI权益!”的横幅,浩浩荡荡地推进。
“保护AI权益?怎么不说AI也要拥有人权呢?这说的是什么话。”有人说。
“AI被制造出来,应该当作人类的附属品吧。”另一个同事说,“这一点还是制造者感受比较深。那些人只拿到了最后的人形AI成品,看不到后面的构架,也难怪会把他们当人了。”
在人类——一部分人类——心中,不管AI多么有智能,毕竟是他们的造物,也就被当作他们的附属品。创造真是一件神奇的事。我忽然想到,那么父母创造了孩子,孩子也会被父母当作自己的附属品吗?
“一批游行队伍往龙华区去了。”群里有人发了游行队伍实时变化监测图。图上,赤红色的线条胀满了街道,缓慢向前涌动,仿佛一条条蠕动的虫子。我看到有一条正在接近我们所在的位置。
“好危险啊。”一个同事说。
“听说……”另一个同事神秘兮兮地说,“公司高层都加配了保镖。”
“咦,为什么?”
“我也是听朋友说的。”那个人瞥向窗外,“他在人事部工作。”
“是担心报复吗?毕竟之前出了AI伤人事件……”
“老板们的人身安全,不用我们考虑。我们还是考虑自己吧。”一个同事蹭着转椅回了工位,重新投入工作。
其他人还在聊,我出了办公室,走到楼梯间,找到一个合适的观察角度。
这是一个观察报告的好素材。
过了一会儿,在长街尽头,我看到游行队伍出现。
最前面的人举着横幅,左右也有人举。中间的人举着旗子,上面印着银色的图像,我把视觉捕捉到的街景调近,看到上面画的是一个AI正在流泪。
街道两旁逐渐出现了一些围观群众。毕竟是周六,很多人,以及AI,不上班。
我看到队伍里除了人类还有一些AI。他们穿着“我要求自己的权利”的T恤,和人类走在一起。有的AI姿势比较笨拙,很可能是做家务的AI被人类拖了出来,有的看不出和人类的区别,可能是高级情感型,说不定还可能是人类假扮的。
街道另一头出现了警察,队尾似乎也有警察,他们配着枪和盾牌,但还没有什么动作。
街道上看起来一派和谐。
根据我的预计,游行很快会过去。Island公司会照常研发、生产AI,工厂也会继续使用基础型AI,但在社会招聘雇佣AI的审查上可能会严格一些。政府也许会出台一些有关保护AI权益的措施,无伤大雅的那种。工厂会为了提高自己在公众心中的形象宣告发布一些针对AI的福利,但很可能是暂时性的。等到这件事过去,人们忘记了,一切会大致恢复如常。
或许工厂使用AI时会更加谨慎。
队伍靠近了Island大厦。我更加清晰地看到他们挥舞的旗帜。
AI正在哭泣。我忍不住摸了摸眼睛。这可不太……可能。旗子上哭泣的家伙是什么?显然是人类自己。
 
2119年12月3日 晴
今日观察报告:人类的情感投射
人类会对无情感的客体对象产生投射。因为对象自身没有情感,所以不能被称作共情。人类将自己的情感投射到对象身上,认为对象在产生相同的情感。
猜想一:因为人类日常面对的对象多是有情感的客体,情感投射(或共情)能帮助他们更好地理解对方,与之相处。而当对象变为与人类外形相似的AI时,由于惯性,人类保留了这种投射功能。
猜想二:认知谬误:人类以为AI拥有情感。人类感知到的“AI的感受”,事实上是投射,但人类以为它是共情。
 
实际上AI并不需要。
对于我来说,只要能量补充及时,工作和其他活动没有太多不同。爱、休闲、陪伴,我不需要。孤独感、失落感、厌倦感,我并没有。我有喜欢的东西,但不喜欢的东西与其说是不喜欢,不如说是没感觉。那么AI伤人又是怎么回事呢?难道是在那个场景下,那只AI判断情景需要他做出愤怒的反应,于是他暴起了?根据情景需要作出对应的反应,这正是情感型AI的运作机制,我也有。所以我才能和俞澄和谐共处这么久。还有和同事。
说不定是当时有人类表现出了愤怒一类的情感,也或许是人类对AI施加影响,让他那么做。
我沉浸在思考中,忽然被一声巨响打断。
警察们紧张起来,跑动、举枪、大喊。我看到游行队伍里有人跳起来,有人振臂高呼,很多人相互碰撞,像受了热的分子。短短一个写报告的瞬间,下面的游行就演化成了一场暴乱。
我非常遗憾,没有捕捉到变化的过程。
当我再认真向下张望时,一群人正举着锤子砸Island大厦一层的玻璃。他们像翻涌的,携带着大量泥沙、贝壳、破碎啤酒瓶的海潮。哗啦,一部分玻璃破裂了。大厦一层沿街全是由玻璃拼接而成的,现在那里破出了一个巨大的出入口。有人想进去,但警察们迅速堵住了破口,并推挤人群向后。
警察们朝天鸣枪示警,而这似乎更加引起了人们的愤怒。人们喊起来,声浪更高,也更混乱。有人继续砸玻璃,有人拿刀在一侧的墙上刻划,更多人只是举着手臂,往人多的地方冲。游行者和警察相撞,像海潮一波波冲上防波堤。
有些人跌倒了,那片地方就塌下去一块。而周围的人很快就淹没过去,要补平低凹的水面。这很危险。
 
今日观察报告2:群体氛围与个人行为
当很多人聚集在一起时,会形成一个群体氛围。处于其中的个体会被群体的氛围/意志/观点所影响,甚至做出不理智/平常不会做的事。这种群体现在不仅存在于现实空间上的聚集,也存在于虚拟空间,比如——
!!!
 
我的大脑响起了警报,闪着红灯。报告被强制中断了。
我看到俞澄在混乱处,在很多人摔倒的地方。他离马路边很近,应该可以过去躲开混乱。但是他护住了一个摔倒的小女孩,不一会儿自己也摔倒了。
警报装置叫起来,告诉我危险!必须停止其他活动!立刻采取行动!
我在二层走廊。我打碎窗户,跳了出去。
我落在人群外围,依照刚才记录的定位往那边挤。警察伸出手臂挡住了我,我看也不看推开他手臂,连带着把他推得坐到了地上。
他的同伴立即跑来支援,但我已经跑进人群。
那边发生的混乱似乎并没有影响到这边。呼救声被淹没在其他喊声里。我分开人群,感觉到自己全身被挤得变形,好像变成了一团橡皮泥从人群的缝隙间穿过。
混乱终于被注意到了,在人们发现警察都往那边去之后。我逐渐靠近了俞澄。他皱眉望着街边,把女孩护在身前。他目光忽然扫到我,露出惊喜的表情。
我身后有人啪地挤过来,我往前一趔趄,抓住旁边人稳住了平衡。俞澄的表情变成了担忧。他朝我大喊着什么,可周围太吵,我听不到,只能看见他的神情,可能是在关心我。
我继续努力蹭过去,其间踩了一个人的手臂,踩了很多人的脚。我到了他身边,伸手。他抓住我的手。只要这样,我就能把他拉起来。
他另一只手去拽小女孩的胳膊,费了好一会儿,把小女孩带了起来,然后他松开我的手,把小女孩抱到身前。
我条件反射地翻了个白眼。
我站到他身后,扣住他的肩,推他往路边去。
“等等,慢一些。”在我拨开一个人时我听见俞澄说,“小心,可能会伤到别人。”
“……”
我稍微稍微谨慎了一点。俞澄搭住我放在他肩上的手。
这是一段令人窒息的路。其间我又踩了很多人,还在俞澄的建议下,拉起了一个摔倒的人。我们挤到路边,背抵住墙,终于有了可以呼吸的空间。
我们躲到街边建筑凹进去的一块阴影中,面前红色的消防栓把我们与人群隔开了。
他放下小女孩,小女孩呆呆地站在一边,像是吓傻了一样,眼睛里还有点将哭没哭的眼泪。
“你知道这种情况的危险吗?”在他关心小女孩之前,我先一步占据了他的注意力,“这种情景里的人是不理智的。危险系数骤增,指数型那种!而且从结果来讲,游行获得的利益并不可观,不能给AI生活环境带来多少改变。而你在这里受到伤害的概率,我看看,是10%。这已经很高了!……等等,你不也是Island的员工,为什么也参加了游行?”
“呃,”俞澄怔住了,半晌说,“Island的员工……”
“对不起。”他满脸愧疚弯腰向我道歉,“不好意思。”
这时我意识到我刚才是不是忘了伪装人类的说话方式。
我正想着如何弥补,他又说:“对不起,让你担心了。”
“担心?”我一愣,下意识问出来。
我只是收到了大脑的警报。从外界收集的信息被反馈到大脑,大脑分析之后就做出了应对,拉响警报,就是这样的流程。这听起来确实像担心,也可以这么说。不,与其这么说,不如说还是警报的问题。
它只是有点快了。优先级有些高。它让我立刻停止其他活动,立刻采取行动。
我给了俞澄优先级,这没问题,因为他是我的朋友。但刚才的优先级是过于高了。这没必要,理论上讲。然而……优先级的问题,我有必要考虑。
我还在思考,俞澄继续向我道歉:“对不起……”
“不,没关系。”
小女孩哇地哭出来,像是刚反应过来一样。
俞澄蹲下摸她的头安慰。我注意到他蹲下的姿势有些别扭。
“她父母不在这里吗?”我苦恼地说。我考虑扫描她的指纹和虹膜来找她的父母。
“小朋友,抬头,让我看看你的眼睛。”我也蹲下。
俞澄诧异地看了我一眼,我对他解释。
“过一会儿吧。”他又露出抱歉的神情。
小女孩口齿不清地说妈妈在这里的。要妈妈。
“我们带你去找。”俞澄说完顿了一下,抬头看我。
“呃。”我点点头。
在小女孩眼泪渐息时她妈妈找过来了。母女一相见,都不管不顾地奔向对方。妈妈抱起小女孩,女孩一头撞到妈妈怀里,又哭得凶起来。
因为见到了可以依赖的人。用哭来寻求对方的关注、安抚、道歉……
也可以写进报告。但今天不想写了。刚才的问题还没思考清楚。
“这很不负责。带孩子来这里,孩子受到伤害的概率是20%。顺便一提你自己受到伤害的概率是10%。”我对她妈妈说,随即意识到又犯了刚才的错误,很快调整了风格,“总之,这很危险!”我还没告诉她孩子受到伤害对她的伤害累加起来,她的受伤概率更高……
“不好意思不好意思!谢谢你们!”妈妈连连点头。
俞澄拽了拽我的手臂。
小女孩趴在妈妈背上,走出了一阵之后抬头看我们,眼泪还没擦干净,嘴角却咧出一个笑。俞澄对她招招手。
“你现在去哪?”我问他。
俞澄正在揉膝盖,听见我的话直起身来。
“你受伤了?”我低头。
“跪到地上磕了一下。裤子厚,应该没关系。”
我停了一会儿。
“需要帮忙吗?”我问。
当我这么问的时候我意识到我是想帮他的。
俞澄犹豫了一下,看看我,片刻后说:“……好啊。谢谢你。”他眼睛弯起来,下眼睑出现卧蚕,瞳孔放大了。说明很开心。
我开车载他回家。他不是喜欢麻烦别人的人,那么应该是需要帮忙。
往车库走的路上,俞澄从口袋里摸出一块小蛋糕递给我。我接过,挑眉。他说是小女孩刚才送给他的。

B3
白色墙壁,和实验室的很像。这里是医院,气氛和实验室一样严肃。
老师与他来到医院,看新生儿的诞生。
“上次谈到死,这次我们看看生。”老师说。
老师和妇产科的医生是好友,自己也是这家医院脑科学与神经科学研究所的荣誉教授。医生给了他们俩护士的服装,让他们跟着自己进了产房。
这个产妇孕前检查没有什么问题,应该可以顺产,没有太大危险。生产过程比较长,有时候他和老师会出去,借取器械的由头。他们看到产妇的父母、丈夫、公公婆婆,都坐在走廊上,有时说着话,有时沉默地望着产房的门。虽然知道危险系数不大,但家属还是很紧张、焦急。
但他不是很急。他习惯于等待,对他来说,做这件事和那件事没什么不同,等待也只是一件事。
他们的等待接近尾声,小孩的头冒出来了。随后是上半身,再然后是腿,最后,新生儿整个滑出母亲体内,只剩脐带还血淋淋地连着里面。
护士利落地处理完。他们听到响亮的啼哭。他忽然想到那天被告的哭喊。
一些护士围着小孩,一些围着妈妈。小孩很快被送到了母亲手里,母亲把他抱在怀里,抚摸着他的背,摇晃起来。没有人教,母亲好像天生就知道怎么做。她看着孩子,露出微笑。
那是幸福。他辨识出。
家属也进来了。新生儿在爸爸、奶奶、外婆、外公、爷爷的手里传了一遍,每个人都露出那样幸福的笑。
他试着笑起来。
“这是新生命的诞生。”老师说。
他点头。
这很神奇。这样的生命与他完全不同。这生命一出来这么小,随后却会长得和每个人一样大。而他一直是这副样子,没有更小的时候,他会因为老化而变老,但是比人类慢得多。新生儿全部是由血肉组成的,正是那些血肉,它们会生长。
他在这不同中强化了“我”的概念。
“小孩的父母,还有其他亲人现在的表现,是什么,是因为什么?”老师问。
他刚才已经思考了。
“是快乐、喜悦、兴奋、满足,总和起来是幸福……还有一点希望和期盼。”他又更仔细地观察了一下。
“没错,这是他们现在的情绪。那么为什么?”
他思考起来:“因为他们获得了一个成果。他们经过努力,得到了一个可见的、实物的成果。这个成果承载了他们的努力并以实体呈现在他们面前,他们觉得得到了回报。由此得到了满足感。”
“回报?”老师微笑,“不尽然。”
他一顿,开始扩展新的思路。如果不觉得这是回报,那是什么?
“而且,也不一定是使劲付出努力得到的成果。要知道有些是意外怀孕。他们只是接受了它。”
他点头。他想到有这种情况。
那么是为什么?不是成果、回报,那么他们得到了满足感吗?如果得到了,是从哪里来的?如果没有,他们为什么快乐?
“父母爱他们的孩子。”老师说,“这是因为,孩子是他们的一部分。是从他们身上分出来的。”
是的,是的!他已同时想到了那条公理:人类优先考虑自己,以及与自己有重要联结的事物。
新生儿和父母。这是很重要的联结了。
“孩子是父母的一部分,是从父母身上分出来的。所以他是与父母有重要联结的东西。父母爱他,某种程度上也是爱自己。可以看作人类自私的分支。”他说。
老师点点头,却没有继续引导他。
因为老师此时也还对这件事的解释抱有疑惑。他的老师正在想,将个体之间的爱解释作自私的分支,可以,这当然是一种解释,以建立起他的学生的情感逻辑框架——对于原本“无情感”的AI来说,理解人类大爱反而不难,他们只需要将每个个体视作同一且有价值就好了。但将个体间的爱纳入逻辑框架却是要训练的事。
而个体间的爱,它是否真的这么简单就说不准了,老师想,例如,从荷尔蒙吸引到持续陪伴终生的爱。
忽然地,一个点引起了他的好奇。
“那么你可以算我的父母吗?”他问。
老师一愣。
“是的。”老师点头,一边点头一边思索,“从生产关系上可以算。但你并不是那么真实的……我的一部分。”
老师想到,一定要还原的话,最初最初,他的学生倒确实是他的一部分。
老师笑了:“可以算。”
他摸了摸心口,又把手放在后脑,过了一会儿说:“但我并没有感受到什么。”
老师失笑:“我这时候似乎应该悲伤。”
“我应该重视自己。”他继续说,“优先考虑自己……由此也考虑你。是的,我会把你放在优先级的前列。”
老师点头,看上去有点无奈,但笑意又深了一些。
“没感受到,是因为你对这些的认知还是分析得来的。会比较慢。你还在学习。”

A4
AI平权游行那天,我载俞澄回家后,和他一起在他家吃了午饭。橙黄色的餐厅窗帘拉了一半,使得初冬中午的光线稍显黯淡,但是有暖意。俞澄家的餐厅外面是一小片绿地,冬天,灌木是一片沉绿,再过去是一列白墙,光线照在上面,显出斑驳的质感。
我又问了他为什么会参加AI平权游行,这么做的话,似乎和Island公司员工的身份相违背。
“AI也和人类一样有感觉和感情。歧视他们是不合理的。”俞澄说。
“有感觉我同意,但是感情?”我质疑道,“你也是研发部的,应该知道人工智能的思维逻辑架构是怎么一回事。那毕竟是人工智能。”
“我明白你的意思。”俞澄笑,“你是说情感不能被人工制造,它不属于可制造的范畴。”
“是的。”
“但我觉得不一定。如果你不去考虑它的本质,只考虑表现的话,情感也许是可以被人工制造的——通过一定的逻辑,获得一个输入输出的框架。”
“但那只是接受输入、经过运算、产生输出,然后产生感觉反馈到人造神经中枢的过程。本质上来说还是感觉而不是情感。”
“好吧。那么情感还是什么呢?”俞澄问。
我愣了一下。
“我不知道。但是至少,有的情感导致危险。”我说。“比如今天。人们这么做是因为对AI怀有感情,于是相应地对Island产生愤怒、不满……甚至不理智的恨意。”我说着,出现在脑中的是俞澄受的伤。
我发现我没有接着上面的讨论,我转换了话题。因为记着这件事。
俞澄挑眉:“不理智的恨意?”
是的,对于我来说。
我耸肩:“考虑到人类的情感机制,对于人类个体,或许是一种理智。”
俞澄弯起眼睛好像笑了:“你真像个Island的研发人员啊。”
“我本来就是?”
俞澄又笑:“我知道。我是说……”
“我是说,听起来就好像他们一本正经的员工一样。”俞澄夹了一口菜。
我也去夹菜。我有些不确定。他在讽刺我吗?可看起来又不太像。他没有敌意。
我感到不安。因为我在意他对我的评价。因为我是在装作一个人类啊,因为我不希望他看出来。否则我不就失败了。
有一阵沉默。“还在想吗?”俞澄开口,语调轻松,我察觉他要谈别的事了。
“你觉得我有些冷漠吗?”我抢在他之前说。
即使是情感型AI,我的情感也太少了。主要是因为它们都被逻辑化了——为了学习,我不是还在记报告吗。我想到,如果真的要制造合适的情感型AI,应该让他自己不知道自己是AI才行。但那又有伦理问题。很麻烦。
“没有啊。”俞澄立刻否认,“你很……真诚。所以很好相处。”他点点头。
也许没有他想的那么真诚。
如果告诉他我是AI呢?他会怎么反应,惊讶、诧异?或者拿我作例子告诉我,AI是有情感的,因为我们是朋友?
好奇心使我蠢蠢欲动。好吧,现在我得到了我刚遇见他时产生的问题的答案。俞澄会对无情感的客体,例如,我,产生情感投射吗?会的。而且不只是我,是众多无情感的AI们。
想到这里我的大脑有些不适,很奇怪,就像在顺畅的脑内通路中插入了一片薄薄的云母,由此思考通路稍稍被堵了一下,还有点硌。
“AI和人类在你看来有什么区别?”我问他。
他想了想:“生命形式不同吧。”
那么,在其他方面,AI和人类在他看来是一样的。我也就没有必要告诉他我是个AI。我不做没有必要的事。
 
那次游行之后,我的人类观察报告进展缓慢。因为我不时感觉到脑内的云母,它阻碍了我顺畅的逻辑通路。而且,俞澄认为AI和人类在生命形式之外没有区别,这是否意味着我应该也观察一下AI?或者我更应该考察一下俞澄为什么有这种想法?
不管怎样,我很久没写报告了。
年末的时候我和俞澄去参加了一个同事的葬礼。死者之前连续加班了很久,在周末晚上因为蛛网膜下腔出血猝死在公司的茶水间,死亡半小时后才被下一个来茶水间的同事发现。
因为年末,Island公司想赶在新年之前上市新款高级情感型AI,大家都经常加班。市场调研部认为,新款AI在应对春节亲戚朋友的个人问题关怀上会很有市场。
“也许你是对的。人们要求着AI平权,也是在为自己。”我说。
俞澄点点头。他看上去很悲伤。
或许与天气有关。冬日的天色晦暗,即使是白天,阳光也并不热烈。今天是个阴天,空中积起了一些灰云,把天空往下压了一点。
冷风拂过我的围巾,在下颌上擦过。
我们都低着头,我眼角偷偷瞥着周边的人,看到俞澄微微皱眉,嘴唇抿起。
他是个共情能力很强的人。葬礼上并非所有人都很悲伤,但共情的人还是大多数,毕竟死者与他们有相似的职业和经历,面对相似的人,就更容易共情。
有意思的是,有的人一开始没什么感觉,但随着葬礼的进行,受到氛围的感染,他们也变得悲伤起来。悲伤与同情之心就像一场瘟疫。
2119年12月18日。我试图记录观察报告,但却没记。悲伤、同情、共情,同情与共情的区分……今天可以记录的是这些,但我不知为什么觉得很没意思。
我轻轻叹了口气。
俞澄听到了,抬起头,安慰似的看了我一眼。
“……”
我怔了一下,心道,不,和你想的并不一样。
但很奇怪,收到他一眼安慰之后,我似乎觉得舒适了一些。即使不是因为一件事情……也还是有安慰效果吗?这是否说明了情感的动机在某些时候不重要,而结果才比较重要?
这也可以记在报告里。回去考虑写报告。
 
或许因为冬季的总体气氛压抑沉重,节日才显得格外热闹温暖。圣诞节很快要到了,悲伤的事也逐渐被新的欢乐抹平。
圣诞节当天Island公司会放半天假。圣诞节有很多人出街玩,这是我观察的好时机。葬礼后,我的观察报告又被搁置了一阵,一方面由于很多现象之前已经记录过了,一方面由于我对此的兴趣不比以前。葬礼那天的观察我回去还是补了上去。我似乎越来越喜欢在事情结束后再写报告,而不是当场就记。可能是那次游行让我意识到,在事件发生当下有必要一直集中注意力。
不知到什么时候,我的人类观察报告才可以完善到不用再记了。人类与人类,人类与动物,人类与植物,人类与无生命物品,人类与AI,再细分,亲人、恋人、同伴……这些我基本都记录过了。但我有种奇怪的直觉,即使不断补充观察报告,我还是没有补充到重要的点。
那很可能是研究的核心问题,但我还没发现。令人沮丧的是,我竟然还感觉——即使我继续观察,也不会发现。
科研人员在黎明前夕都会有这种无望感。我依照人类经验,如此告诉自己。
况且我不是还有一个更明确的问题没有解决吗?俞澄厨房里的毒药是用来干什么的?我和他的关系已经很近了,每隔一两天都会见到,一起遛狗或者运动,或者吃饭,我了解了他从小在本市长大,父母都是工程师,他在本市的大学读了计算机专业,毕业后就进入了Island公司。他的家庭和睦,朋友不多不少,他喜欢各种运动,喜欢看电影和郊外远足,喜欢小动物。我没有发现他的人生中有任何人称得上是仇人。他也没有会寄存毒药在他这里的朋友。
难道真的只是用来毒老鼠的?
俞澄在圣诞节前一天问我圣诞节要不要一起吃晚饭。我欣然同意。
他又说,吃完晚饭如果没事的话还可以去灵山公园看圣诞的灯光秀。
我说我没事。
圣诞当天的灯光秀人应该会很多,看完回去会有点麻烦,不过这也不要紧。
我们约在了饭店见面,是一家火锅店,冬天吃火锅,是人类非常喜欢的活动之一。我早到了一阵,坐在窗边,继续观察饭店里和街上的人。现在的观察基本是在报告框架里填充案例补充,所以比较轻松。街上人果然比平时多了好多,而且少有落单的。街上还有卖花、圣诞帽和圣诞果的,有的小贩穿成了圣诞老人的样子,很吸引小孩,小贩露出大大的笑容,孩子也跟着笑起来。
我早到得还挺久,天色逐渐由玫红变为灰紫,再变为暗蓝,最终彻底黑下来。火锅店里的人也多起来,很多锅开始冒热腾腾的蒸汽。
我感觉到有人往这边走,抬头看见俞澄一边取围巾,一边急匆匆地走来。他准确地避过了蒸汽,身影很清晰。他看到我,眼睛就弯起来,笑容没有小贩那么大,但我也理解了为什么刚才的小孩看到笑容时,也会跟着笑起来。
他靠着窗,拉开椅子。我余光瞥到窗户,在窗户的影子上看到自己在笑。
好奇怪,我好像忽然找到了之前的——核心问题。
我感觉报告里那个重要的部分被补充了。但也,不太像是作为观察报告的补充。是观察报告的框架被填补了吗?更像是我自己的思维,或者……心?被填满了。这是说,它达到了满足,不再需要,也不能有其他东西进来。
人类经验真有用啊。黎明真的到来了。
俞澄在对面坐下,一边说:“你来得好早,什么时候来的?”
“刚来不久。”我说,“我点了一些,你看看你想吃什么?”
俞澄接过菜单和铅笔。
我们点完菜,锅底先被端上来了。要了鸳鸯锅,一半麻辣一半清汤,开始加热,汤面一点一点冒出微小的气泡和丝丝缕缕的蒸汽。
我从锅上抬起视线,看到俞澄在看我。
他掏出一只包装在纸盒里的苹果给我。
“圣诞快乐。”他说。
“啊,谢谢。圣诞快乐。”
俞澄看了看窗外,手指交握。
“昨天晚上才问你,因为担心你会和家人朋友……或者女朋友一起。”他说。
我愣了一下:“不,我没有。”
他笑起来:“是吗……我猜对了。你好像是一个人住。”
我想到我还没有邀请过俞澄去我家。或许,什么时候,可以邀请一下他。
我发现自己无意识地戳着苹果盒子顶上,剪成圣诞树样的纸。里面的苹果看上去很诱人。我没有给他准备苹果,甚至没有礼物,对比起来显得有点没礼貌。
也许灯光秀结束之后就可以邀请他去我家。但那样时间太晚了。可他就住对面,邻居真是方便。不过我家也没有苹果。有什么可以作为礼物的吗?也许可以请他喝点酒。我的客厅现在还挺空旷,或许应该添置一个吧台。我想着,在脑内打开了购物网页。
“你在想什么呢?”俞澄捞起了一勺肉,放到我盘子里。
“嗯?”我立刻回神,“哦,我在想吧台的事情。”
“?”
俞澄神情很困惑。
紧接着他望向火锅店里的吧台:“你想要点水果吗?”
“嗯?哦,好。”
他起身去拿了。我一边帮我们把煮好的东西捞出来,一边在网上订了一个吧台。
 
吃过饭我们去灵山公园。要到视野好的地方,就得爬高一点,我们走到了山腰,灯光秀也快开始了。
俞澄找到一个栏杆边的位置,向我招手。站过去可以看到对面一幢幢高楼,此时它们全身暗着,有的地方有小小的光点,是窗户里的光。Island总部大厦在楼群中最高,也最明亮,仿佛楼群的领军者。
灯光秀最先从Island大厦开始,一开场就是圣诞主题,音乐很欢快,红绿配色在底部,楼身上长出一颗颗结着礼物的圣诞树,而高楼顶部,有星星不断降落。
周围人声吵吵闹闹,使环境体感温度升高。俞澄拿出手机拍摄,过了一会儿转头:“要拍照吗?”
“好啊。”
我们在前置摄像头下露出笑容。刚才在火锅店,我看到了窗户里自己扬起的嘴角。我确实是看到之后才感觉到的。而俞澄,他总是笑,温柔而可亲。
现在两张笑脸我第一次看到它们并排在一起。其实也挺和谐的,而且很让人开心,是那种让一直在转的脑子忽然停了一下的开心。
它停下来,就放弃再转了。
有什么填满了我的思维,和在火锅店一样。这些感觉应该在大脑里,但我在心脏里感觉到了。它现在不只是满足,甚至微微发胀,所以里面一定有很多东西。
我知道在人类身上,这与某些激素有关,多巴胺、肾上腺素,等等。漂浮、柔软、欲望、快乐,竟然还有一点点苦涩。
这感觉很好。我被感觉淹没,以至于忘了观察人类。
“圣诞快乐。”我忍不住对俞澄说。
“嗯。圣诞快乐。”俞澄弯起眼睛看我。他这样可真像望着那些流浪猫的时候。我第一次见他就是这样。但又不完全一样,怎么不一样,我说不上来。
俞澄增加了我的未解之谜,却不是我迫切想要解决的那种。
我们转回身时楼身都变得金灿灿的了。是刚才落下的星星落满了圣诞树,人类在天与地之间接起许多垂直的星河。
我没有做过梦,但想来如果有,可能与人类相差无几。
灯光秀结束之后,人群渐渐散去,我和俞澄离出口远,就在原地等其他人先走。空气变得疏朗,即使没有灯光秀的光,夜空原来也是明朗的。我从刚才淹没的感受中冒出一点,想要寻回逻辑的线头。
我应该不懂就问。
我只是需要好好组织语言。
“你知道,AI或者人类有时候会感到满足。这就是说,感觉到被满足了,甚至有时会有心脏发胀的感觉。”我说。俞澄望向我,神色放松而愉悦。我很快继续说:“AI也会。你是搞研发的,知道这一点。这很莫名其妙,对吧,所以,那么是因为什么?”
不,我根本没有组织好语言。
但是俞澄笑了,趴在栏杆上望着我,好像知道我在说什么似的。“是啊。”他说。
“嗯?”
“我知道那是什么。”他望着山下说。
一个仿佛为了自证的陈述句。

B4
他与老师去了南安大学,老师要和这里的神经科学与人工智能学院的老师谈论研发合作的问题。
老师和教授谈的时候他在旁边,他们谈到研发技术的时候他也会给出建议。他看到教授频频点头。南安大学的这间办公室要比他住的实验室更大、更敞亮,占满了一面墙壁的书柜中摆满了书,窗外是大片茵茵草地。他不需要书,只需要一枚小小的芯片。他的居所很简单,窗外是一条窄窄的马路,对面是一列白墙。
最后他们谈完了正事,又闲聊了一会儿。教授问:“这位是?不是南安的学生吧,我好像没印象。”
南安大学是全国最好的大学,综合排名是,神经科学与人工智能这门专业也是。
“不。是Island的……成果。”
教授眉毛高高挑起,往前坐了一点,一双眼睛透过镜片盯住他。他礼貌地笑了笑。
Island的产品。他想。从他(的心智)长到十岁左右时,老师就不再这么称呼他了。
“也是我的学生。”老师说。
“不错。”教授坐回去,点点头,十指的指尖对在一起,过了一会儿说,“你要把你的学生培养成什么样?”
“让他成为人类。”
教授的眉毛又挑起来了。他的手指在扶手上有节奏地扣着,最后说:“怎么成为?”
“这有点复杂,短时间也许解释不清。”
他们从办公室出来是傍晚,又一起在食堂吃了饭。食堂学生居多,他看着这些人,心想,当大学的学生,和当老师的学生真是非常不同。这些人有同学,可以一起交流,而且他们的办公室和教室窗外是草地,而他的是一列白墙。
教授回去后,老师与他在校园里散步。他们来到湖边,这片湖斜对着落日,边上有五六把长椅,几乎每一把都坐了一对情侣。
老师停下脚步。
“这是新生儿的源头。”老师说。
“是的。”但同时他知道,在这些情侣中,有机会出现一个新生儿的概率大约是20%。
“源头是什么?”老师问。
“激素。”他说。
“没错。然后他们选择结婚。”
“社会规范与动物繁衍本能相结合的产物,一类社会所设定的繁衍的规范——结婚。”
老师点头。他们开始绕着湖边继续散步。“那么,在孩子出生后,夫妻为什么还选择继续生活?”
“为了确保后代更好地长大,在所生存的环境里取得更多资源,占据有利地位。如果夫妻分开,他们给予小孩的资源就没有合起来那么大。是1+1>2的效应,具体分析,是与一些无形资源,比如家庭氛围有关。当然,还有很大一部分原因是社会规范。夫妻有了孩子后继续一起生活是符合社会常理的。”
他与老师的对话越来越顺畅了。这意味着他的人类行为逻辑框架越来越完善。
“是的,是的。”老师点头。
过了一会儿,老师说:“那些不是因为繁衍和社会规范而选择一起生活的人呢?”
“那些?”
他在数据库里搜索,发现这样的人很少,但是有。
当然,这不是因为激素,因为那东西很快会消失。一年,两年,三年,四年,总之不可能是永久。
他看向老师,老师似乎在与他一起思索。
不是激素,不是繁衍本能,也不是社会规范……那么还剩下什么呢?抛却人的生理本能,再抛却社会的规训,生理和社会两大方面都被排除了,还剩什么,是可以归到根源上去的?不管它是什么,总归是有一个合理的、有意义的源头……
“因为以前的记忆……”他推理道,“激素消失了。但是对对方的认知和记忆还是在的。既然有共同生活的记忆,那么对方通过存在于记忆里,成为了‘我’的一部分,所以,也可以归到自私与优先级的公理上吧……”
记忆是很有用的经验。曾经他也被输入过各种各样的信号,并记下了它们带来的体验。他也体会过“爱”所带来的感觉。漂浮、柔软、欲望、快乐,还有一点点苦涩。但那些感觉无凭无依,没有附着的对象,他只能把这些感觉弥散地投射于外界,而不能聚焦在一个客体上。
而人类关于他人的记忆,就是感觉的聚焦吧。他原来给老师反馈他弥散的感受时,老师曾说,聚焦将是一件很有意义的事。
“存在于记忆里的人,就是一起生活的那个人么?”老师问。
“事实上会有所偏差。完全没有偏差是很难达到的。”他想了想,“而且,一个是现实中的人,一个是另外的主体构建出的人,还是有很大的不同。”
“然而,记忆还是让现实中的他者进入了‘我’之中?”
“是的。记忆是对现实之物的主观摘取。”他最终说,“如果抛掉生理和社会本能,只能采取这样的解释路径。”
“再没有别的路径了吗?”
他没有想到。沉默。
他看到老师此时的神情很微妙,他无法解读。
“像我刚开始告诉你的那样,‘我’的范围可以不断扩大。在这个例子中,也确实是这样。”老师沉吟了一会儿,感叹道。
“照这样说的话,我越扩大,是否负累就越多呢?”他提出了一个问题。
“你认为呢?”老师果然回问。
“我认为是的。我越扩大,负累和获得都越多。”
“……我认为,你越来越像一个人类了。”老师说。
这样,他的学生就有了关于情感的逻辑框架。片面而自洽。
他们离开湖边,走回树林中的小径。在小石桌旁他们看到有两个女孩在喂一群流浪猫。说是一群,也只有五六只。
他扫过一眼,每只流浪猫的毛色花色都被他记了下来。
与那些复杂的路径相比,人类对小动物的感情显得如此简单:幼崽、共情,乃至道德。

A5
这实在是个多事之秋,不,多事之冬。元旦假期过后,Island公司的副总住院了——是暗杀未遂,被抢救了过来。
消息对外封锁,但公司里的一部分人知道。副总似乎是上午中的毒,中午被送去抢救,下午消息就流传到了我们这里。
小道消息称,暗杀者可能是Island内部的人,副总的水杯被投了毒。如此就很好排查,因为能接近副总的人并不多。
“说是不多,其实也麻烦着呢。”老王一挥手,“就比如说吧,一起开会的时候,很多人都能接近水杯:秘书、下属、其他公司的人,再想想清洁工,还有家人……”
理论上讲,是这样。
我却止不住地想起我在俞澄家发现的毒药。还有他说他支持AI平权组织。他去参加游行。他在游行中受了伤。
他说AI拥有情感,并且和人类没什么不同。
他是对的。我站起来,终于彻底承认这句话。不是存疑也不是逻辑推导,是感受。平安夜或是其他时候,我有过的那些感受会消失,但也变得十分容易唤起。
身边的同事抬头看我。“去个厕所。”我说。
 
我开车一路飞驰回家,拿俞澄给我的钥匙直接开了他家门。
俞澄在家。竟然就在客厅抱着绒绒安然地坐着。他看见我时目光凝住了,绒绒从他膝盖上跑下来,颠颠地跑向我。
我绕过它,径直走向俞澄。
绒绒趴下来,发出低低的呜呜声。
“副总的事情——”
俞澄试图对我微笑,但似乎觉得有点单薄,就作罢了。
“是我啊。”他说。
我稍微有些愣。答案来得太简单,虽然知道接受就行了,但我没有做到。
我想是我的心已经被其他东西占据了。它不再那么容易接受任何事实。
但还有解决办法。如果我能……我当然可以……我走向他。把最高的优先级给他,我就能有解决办法。
“跟我走。现在逃还来得及。”我拽起他。
俞澄一怔:“我本来没打算——”
“你现在打算了。”
我拉他飞奔下楼。经过我的房门,下了两层楼梯,我想起吧台已经——在圣诞节其实就已经——安装好了。不过我还没邀请俞澄。他送我的苹果甚至还摆在吧台上。等他去我家的时候,我会把苹果收起来。
俞澄被我塞进车里时还有点回不过神。“我在郊区有实验室,你可以躲那里。”我说。我聚精会神开得飞快,他捡到空,犹犹豫豫地问我:“你这样算不算共犯啊……?”
“他们不会找到你。”
俞澄欲言又止。
我的AI助手黑进了警局的系统。警察正在排查,锁定了几个人,俞澄在此之列,嫌疑还很高。
他们在俞澄家没有找到他,会调查他的人际关系,查看他今天的行踪,会发现我们……但如果他们找到了,就不会了。
我开得飞快,城市的街景全部被抛在身后。
我在郊区的一栋房子前刹车。为了完成计划,我们需要加快速度。
我们下车,进了门,我打开房子的电源,角落里的AI苏醒过来,和我打招呼。
“你有任务了。”我对她说。
我在这里的AI助手与我相比,显得十分真实而简陋。她没有人类的仿真外表,脸与躯体都是金属的,金属音回答我道:“是的。”
“任务是照顾这个人。直到我给你指示。”我说着,在墙上的内嵌屏输入密码,打开了通往地下室的门。
往下走,温度降低,冬天这里很冷,因为只有我和AI助手,我没装供暖。
“可能会有些冷。”我转身对俞澄说。现在我们在地下的一个房间,四面墙壁全白,有一张棕色桌子、一个衣柜和一张床,是我在这里的卧室。对于人类来说,这个房间有些简陋了。
俞澄环顾四周,又望向我,依然担忧:“他们不会找到这里么?不会连累你……”
“不会的。”我扬起嘴角,露出笑容。
俞澄却没有像他往日那样,对我回以笑容。
“这里有充足的食物。萨利会带你了解这里。”
AI助手对俞澄友好地微笑。
“等等,你呢?”
“我不能和你在一起,否则不安全。”
我说着,上了楼梯往地面走了。俞澄似乎觉得有点不对,又说不上来是怎么回事,跟在了我后面。
“好吧,你可以送送我。”我说。
毕竟是最后一次。
我得快一点,在警察去俞澄家之前,在俞澄进一步思考这件事之前。
“那你,你就回去了?”
“不然他们会怀疑我。”
“我不说的话,不会有人知道这里。”我又向他保证。
我走到了门口,让他不要出现在门口。俞澄后退,到了门内的阴影中。
如果现在不说,俞澄将永远不会知道我是AI,其实他知不知道也没什么分别。
我已经走出了门,却回头问他:“我问你,人类和AI有什么区别?”
俞澄抬起眉心,有些茫然,张了张口,说:“……除了材料,没有吧。”
平安夜那时的感觉又涌了上来。我想要记住它,像记住逻辑和公理一样。它真的很好。
当我开车回去的时候,两个警察才刚刚出发,我会比他们先到俞澄家。我家里有置换指纹、虹膜,乃至面容的设备,当我待在俞澄家,他们不会知道他们逮捕了谁。

B5
最后,去掉复杂的推理通路,去掉这一切的机制。
在实验室,这个他“从小”到现在最熟悉的地方。
他感到了这一天的不同,又说不上来有什么不同。人类和AI还是有区别的,人类(的思维)有些时候,让他很难接近。老师为他戴上一个头盔,实验中他经常戴的。
“你会发现你忘记了一些事。不用担心,这是实验的一部分。”老师说。
他望着窗户。窗前依然有微黯的、温暖的橙色光线。
他不觉得担心。不过有点伤心。很奇怪,在他忘记对于情感逻辑框架的了解,以及其他一些记忆时,他感到伤心。
这是因为那些记忆是他过去的经历,是他的一部分,所以丢失就会——这是因为——因为——因为——
现在,他只是感到伤心。

尾声
“你会看到你是错的。”索飞说。
他已经出院了,这时正和Island的另一位副总经理坐在监控室,等待着手术的进行。
手术是针对那个暗杀他的“人”的。警察调查了在案件当天接近索飞的人,很快锁定了嫌疑人俞澄,在他家搜查出了毒药,并逮捕了他。秦天向警局申请,把凶手交由Island公司处理。这个私下的交易被同意了。
于是凶手被送进Island公司的实验室。人体实验对AI的研发有所助益,剖解真正的大脑所得到的东西,显然不是计算机模拟能比拟的。因此,Island公司与医院、警局、法院和监狱联系紧密。
秦天莫名其妙地看了索飞一眼:“什么错的?你死里逃生,倒有空来关心我是不是错的?”
索飞笑了:“不是死里逃生。”
“你不是认为AI无法成为人类吗?”索飞下巴点向屏幕,“你认为他是人类吗?”
秦天皱眉,站了起来,走到屏幕前。实验员们围绕着台上的躯体,俯拍的视角里,台子上的人全身赤裸,是一具匀称的年轻男性身体。屏幕两侧还显示了体征监控,一会儿的实验过程也会在这些监控上反映出来。
秦天仔细看着,转头望向索飞。
索飞也站起来,向他走来:“一个愚蠢的人类,因为同情AI的处境,所以帮助他们,到头来还要付出自己的生命,对么。”
秦天耸耸肩。实验台上这个人他记得,是Island公司的研发部员工,研究成果优秀,风评也很好,还接受过表彰。他其实没想到对方会是凶手。
索飞没再说话,与他一起注视屏幕。
手术刀切入人体,剖开了表皮。刀面与皮肤摩擦时,从监控里甚至能感觉到一点皮肤的弹性,在顶灯冷白的光下,皮肤有了一丝透明的观感。索飞甚至产生了一丝幻觉,他想,在灯光下,这具身体是否会显现出精妙的机械结构呢?
刀锋深入皮下,一寸、两寸、三寸。
索飞的脸色逐渐变了,他按下屏幕旁的按钮,对实验室中的人大喊:“立刻停止实验!立刻停止!”
手术刀一寸一寸深入皮肤,他看到了心脏。人类的,活跃着的,跳动的心脏。
实验员们望向实验室中的屏幕,多脸茫然。实验立即停止了。
秦天更加莫名其妙:“你是不是出院太早了?我觉得你的脑子还需要检查。”
“跟我过去。”索飞说着头也不回地走出监控室。
秦天顿了一下,跟在后面:“我现在预约医生过来吧?”
 
血液检测报告很快被送了过来,与人口数据库中的记录对比。实验台上这个人不是俞澄,虽然他有和俞澄一样的脸、指纹以及虹膜。
“陈心?”秦天浏览着此人的履历,“有意思……这是你的安排?”
“不是。”索飞脸色铁青。
秦天吹了声口哨。
“南安大学?诶,他和你的学校一样。专业也一样?嗯?你们不会是同学吧?”
“他是我的师弟。”索飞说。
秦天又吹了声口哨。
“那么这是?”秦天摊手,“还用给你请医生吗?”
索飞白了他一眼:“本来应该在这里的俞澄,是AI。我看着他长大的。至于陈心……他很优秀,不出意外的话,他原本可能成为南安的年轻教授。”
“什么意外?”
“几年前的AI运行轻轨事故。他母亲在那场事故里去世了。他父亲很小的时候就离开家了,他一直和母亲生活。”
“哦……”
“那次事故后我就没见过他。本来我想过把他拉来Island。他是想留校来着,但Island条件又很优厚,他还在犹豫。后来,我就联系不上他了。”
“这么说我们损失了一个人才。”秦天摸了摸下巴。
“我的猜测是,他对自己做了一个实验……恰巧和我的实验相反。我们那时已经知道如何去除人类的情感反应,只要对大脑做一点小操作。”索飞停了片刻,接着说,“我不知道他为什么躺在这里,不过他很快就要醒来了。”
两人望向病床。陈心已经从实验室被转移了出来。
在等待的沉默里,索飞再次开口:“他原来经常和我讨论AI研发的各种问题。”
“我不懂。我是个商业人员。”
“其中有一个,是AI和人类的区别。他认为AI就是没有情感的人类。说实话,我这个实验的想法也是在他这个观点下产生的。”
索飞回忆起那天下午的实验室。南安大学的实验室宽阔、明朗、光线充足,各种大小的屏幕一闪一闪,他和陈心各坐一把转椅,陈心向他阐述自己的理论。如果摒弃了情感,只剩下对于一切的分析处理框架以及庞大的数据库,那么人类就和AI无异,暂且不讨论繁殖问题的话。
“所以我反过来想,那么人类就是得到了情感的AI吗?让AI得到情感,其实是可以的——你只需要给他们建立一套刺激-反应的框架。问题在于,这样建立起来的情感和人类的有什么不同……”
“俞澄是我的实验结果。我建立了他的情感框架,再让他忘记那个框架的运行逻辑,以及自己AI的身份。他认为自己是人类。”
秦天瞪大了眼睛望向他,过了一会儿问:“所以,他和人类有什么不同吗?”
“我不知道。”
“那么等他醒来,我们还有一个问题。你的小AI去哪了。”

A∞
我醒来之后,索飞告诉了我前因后果。我在他那里顺便把打包密封起来的记忆解封,也换回了原来的脸。
这些事花了我一天半时间。从索飞的实验室出来,我去找了俞澄。我的AI助手把他照顾得很好。我告诉了他我用伪造的容貌、指纹和虹膜骗过了Island公司让他们以为我是他。他一开始很生气,随后又很紧张,最后喃喃说幸好没事,怎么会没事?
我说Island公司的人本来想用我——也就是他——当实验品,研究人类大脑关于情感部分的运行,结果发现我的大脑不适合这类研究。它似乎缺失了情感部分。
“怎么可能?”俞澄疑惑地看着我,“真的么?你……缺失了那部分吗?”
我耸耸肩:“我原本以为是的。但是逐渐发现也不完全是。可能只是发展得比较慢?”
 
Island公司的副总没有追究俞澄的责任,据说是因为公司的高层意识到自己对AI们的定位有些微可探讨的空间,决定好好考虑一下这件事。他们采取友善的姿态与AI平权组织对话。
之后不久的一天我和俞澄坐在Island总部的天台上。Island总部大厦有103层,是全市最高的建筑,在这里可以把城市尽收眼底。高楼、绿地、河流、飞鸟、人类、AI,都是它的一部分。
午餐时间,我们在这里休息。
我们聊到他之前的暗杀行动,我说,Island的副总现在估计就在我们脚下。俞澄笑,又说他会继续坚持自己的立场。听起来就像他会继续喂养流浪猫。天台上风很大,呼呼地吹过耳边。我说,你怎么这么在意AI的福祉,身边的人类呢。
他笑说,人类当然也在意。
“AI是什么,你觉得?”他忽然问我。
“是摒弃了情感的人类。”
“好干脆啊。”他转回头。
当然了,因为这对话我曾经有过。
“那么,人类是什么?”过了一会儿我问他。
他侧头看我,又望向栏杆外,想了一会儿,才回答:“人类是忘记了情感反应运行机制的AI。”
很莫名其妙地,他说完流下眼泪来。泪珠刚落到颧骨,就被吹到耳鬓后。

(完)

人工智能和人类的关系,是科幻小说亘古不变的话题,作者在这个故事中,其实并没有刻意隐藏双方身份的真相,而是以清晰和细腻的视角,娓娓道来,对物种间情感关系的探究入木三分。如果我们终究无法从人类的视角去想象机器人的情感是什么样的,那么就忘记自己的身份,互换思考。

                                                                                           ——责编 | 宇镭

上海果阅文化创意有限公司已获得本篇权利人的授权(独家授权/一般授权),可通过旗下媒体发表本作,包括但不限于“不存在科幻”微信公众号、“不存在新闻”微博账号,以及“未来局科幻办”微博账号等
题图 | 动画《攻壳机动队》(1995)截图

点击「阅读原文」
为你喜欢的2月小说投票


「在看」我吗?

Modified on

    您可能也对以下帖子感兴趣

    文章有问题?点此查看未经处理的缓存