第四章（1/3）

一连几天，兰灵都没有消息传来，马明空并不着急，事实上，他有点怕接到兰灵的电话，告诉他：“马科长，小黑确实有问题。”新型案件侦破科成立后，他一直在想，“新型”二字“新”在哪里？这三个月来，虽然没立过一起案件，他和艾新好等人也没有闲着，参加各种学习班培训班成了他们的日常工作，同时，艾新好作为资深网络及安全专家，义不容辞的在内部开展了技术摸底考试和扫盲学习，艾新好是个认真的人，所有的学习都要经过考试，更让大家叫苦不迭。至于他自己，还要常常出差到其他城市参加经验学习和交流讨论，在这个过程中，他逐渐明白一个道理，虽然从没人讲过他们科负责的案件范围，但“新型案件”在可见的将来恐怕主要集中在和ai人工智能相关的案件上。

在上个月省局组织的研讨会上，有人讲述了不久前发生的一个案例，ai矿工机器人在井下作业时，挖穿了地下水，造成三名人类矿工受伤被困在坑道内，当时井下尚有一台完好无损的ai矿工，在地面的遥控指挥下，这台ai矿工先后救出了两名人类矿工，就在它返回井下准备实施最后一次救援时，次生灾难发生，矿井坍塌，留在井下的最后一名矿工不幸罹难，由此引发了复杂的责任认定和诉讼关系：首先，地下水挖穿是谁的责任？机器人制造商、煤炭公司还是设计方？当时有没有人类矿工在附近监督？其次，矿难发生后，为什么不派更多的ai矿工下井，一次将人类矿工救出？再者，次生灾难又是如何引发的？是随着时间推移而必然发生的，还是的救援过程导致的？最后，也是最有争议的，是谁决定了这三名人类矿工被救出的先后顺序？地面指挥部矢口否认是他们的决定，按他们的说法，他们只要求那台ai矿工尽快救出所有人，这三名人类矿工并不是困在一处，ai矿工没有按他们离出口的远近距离实施救援，第一个被救出的反而是距离最远的那人，由于这台ai矿工最后也没有脱困被深埋于地底，已经没有直接数据来研究当时这台ai矿工作出如此决策的逻辑了。

事后，一个由数名专家组成的独立调查团给出了一个推测，这台ai矿工起初也许作出了最优的决策，理论上，它一次可以救出两名矿工，也许，它是想先找到最远那人，在返程时顺路再携带一人出井，但不知何故，ai矿工第一次只带出了最远那人，也许是ai矿工判断最远那人当时受伤严重急需出井救治，但这个推测很难解释ai矿工在第二次下井时，仍然先找到离出口第二远的人，并且再次只携带他一人出井。

此案在研讨会上引起了热烈的讨论，更有人提出了一个颇为震惊的假设，这台ai矿工的决策没有问题，但两次，都是被救的人类矿工要求自己尽快出井，不许它再花时间去找同伴。此话一出，会场上顿时鸦雀无声，连马明空都能感到，也许才是最有可能的真相。

不管如何，这些研讨让他明白，ai案件是一样会死人的。多年前，他刚加入警队，那时他常常期盼着案件的降临，每侦破一个刑事案件，他的荣誉簿上就增加了浓重的一笔，嘉奖立功是彼时的他的人生目标，直到有一天，没人和他说，他自个突然想到，每一个刑事案件背后，都至少有一个受害人的身影，他怎么能盼望着多一点案件分给他呢？因此，当新型案件侦破科三个月没开张，他内心深处，反而一片安详。

当然，事情已经发展到这个地步，马明空不可能完全保持住内心的平静，所以当周三快下班、兰灵打电话约他下来见面时，他是一路急走，奔至分局斜对面的小茶店，见到兰灵面带倦容、神色憔悴的坐在临街窗边的一张小桌前，不由吃了一惊，忙问她何事？兰灵没有回答，只淡淡一笑，道：“这里怎么样？我记得你喜欢在茶社里谈秘密。”

马明空虽喜饮茶，但此间却从未光顾过，他略略环视四周，这是一间不起眼的小茶店，点点头道：“还行吧，”顿了一顿，忍不住问道：“你还好吗？”

兰灵摇了摇头，侧眼向窗外看了一会，才回转目光，说道：“我一直很疑惑，人类的记忆为何会出现偏差？这似乎是人类这一物种特有的现象，有种解释说是在追溯记忆时，信息可能会被伪造、误导，重新写入时，记录的就是与事实不符的记忆了，可为什么要伪造？是人类的自主意识有意为之吗？如果在原始狩猎采集阶段，原始人出现记忆偏差，是会导致灭顶之灾的，这种意识能力，为什么会遗传下来？”

马明空听了，一句话也答不上来，只好默默的看着对方，茶店甚小，老板就是店员，他要了一壶玫瑰花茶，给兰灵和自己斟上，呷了一口，等着兰灵继续。

晶莹剔透的玻璃杯中散发着香甜的玫瑰花香，兰灵却似乎没有品尝的意愿，依旧陷入自己的沉思之中，过了好半晌，才道：“我叫你下来，是想告诉你，这几天，我尝试解读了小黑ai大脑的部分可见部分，对比了它在本体、边缘、云端的记忆数据，数据本身没有发现异常，没有不一致的地方，但我发现了一个问题，它的记忆，似乎被扰动过。”

马明空奇道：“数据一致，但记忆被扰动过？怎么个扰动法？”

“我不知道，”兰灵的脸上显出愈发痛苦的表情，马明空想安慰她却又不知如何开口，兰灵看了他一眼，摇头道：“我没事，”隔了一会，又道：“我在楚蕙家里时，曾问过小黑，‘柯先生以往对楚女士家暴的时候，楚女士是常常反抗，偶尔反抗，还是不反抗？’它答复说，‘偶尔反抗’，我当时没有觉察出什么，可是，当我看了它在本体存储的记忆，也就是自去年11月22日重启换血后积累的数据，发现期间，柯先生有3次比较明显的家暴，但楚女士从来没有反抗过。”

“这说明不了什么问题吧，”马明空道：“也许在11月22日前，楚女士反抗过，所以小黑才说‘偶尔反抗’。”

“不不，你没搞明白，机器人是怎么记忆的，小黑现在本体内的数据，包括了从去年11月22日至今的数据，以及它最后一次重启换血时，从边缘以及云端下载得到的脱敏数据，这些数据不会包含和家政服务无关的信息，即便真有和家暴相关信息，也会是遇到此类情况触发报警这样的知识，小黑是断不会再有去年11月22之前，柯先生家暴的具体记忆的，除非它能联网到最原始的归档数据，可那在物理上是不可能的，归档数据是不会联网的。”

“你的意思，小黑撒谎？”马明空若有所思，他想起兰灵刚才的言语，接着道：“或者说，它的记忆，出现了偏差？”

似乎是面前的玫瑰花茶散发的热气起了香薰的功效，兰灵的脸色渐渐恢复了正常，一抹红晕染上了脸腮，说道：“姑且不论一个家政机器人是不可能具有说谎的能力，就算它有，它是如何构造这个虚假记忆的？它不可能凭空说谎，必须要改造记忆，按人类的说法，就是先让自己信以为真，才能回答出想要的答案，可这虚构的记忆在哪里？我看过它在边缘的数据，也没有这样的记忆。”

“边缘的数据？”马明空奇道。

“是的，我这几天又设法核实了小黑在边缘保存的数据，”兰灵点了点头，又道：“而且，如果仅仅是这些，还不足以引起我的困惑，比如它的数据或大脑因为长期没有更新，垃圾太多，从而导致字节信息突变，甚或它在11月22之前的数据因为某种原因没被彻底清除，这在理论上都是有可能的，这也是为什么法律要求商用机器人必须定期重启换血的原因。”

她的双眉重又凝在一起，道：“我回忆了小黑当天的表现，发现小黑在回答我这个问题时，并不是脱口而出，中间停顿了足足有秒那么长！”

“这有问题吗？”

“问题就在这里，哪怕小黑的记忆出现了偏差，机器人的所有问答都来自本体、边缘或云端的知识，它要么脱口而出，如果出现停顿，那么它的回答一定是‘我不知道’！”

“这就是你认为小黑的记忆被扰动的原因？”

“我的导师在十几年前就预测过一种‘ai记忆扰动’现象，他担心，ai机器人发展到一定阶段，基于量子技术的ai大脑趋于开放，有可能会出现量子扰动，从而导致记忆、逻辑等能力出现扰动，也许小黑当时就处在一种不确定的状态，才会导致停顿。”

“会不会是被黑客入侵吗？”

“不是，”兰灵摇了摇头，心知一两句解释不清，话锋一转，说道：“我现在有些后悔，那天晚上，没有去拆解查看小黑的道德黑匣子。”