开局小说

手机浏览器扫描二维码访问

第六章 黑匣剖析参道德（第2页）

首先，地下水挖穿是谁的责任？机器人制造商、煤炭公司还是设计方？当时有没有人类矿工在附近监督？其次，矿难发生后，为什么不派更多的AI矿工下井，一次将人类矿工救出？再者，次生灾难又是如何引发的？是随着时间推移而必然发生的，还是的救援过程导致的？最后，也是最有争议的，是谁决定了这三名人类矿工被救出的先后顺序？地面指挥部矢口否认是他们的决定，按他们的说法，他们只要求那台AI矿工尽快救出所有人，这三名人类矿工并不是困在一处，AI矿工没有按他们离出口的远近距离实施救援，第一个被救出的反而是距离最远的那人，由于这台AI矿工最后也没有脱困被深埋于地底，已经没有直接数据来研究当时这台AI矿工作出如此决策的逻辑了。

事后，一个由数名专家组成的独立调查团给出了一个推测，这台AI矿工起初也许作出了最优的决策，理论上，它一次可以救出两名矿工，也许，它是想先找到最远那人，在返程时顺路再携带一人出井，但不知何故，AI矿工第一次只带出了最远那人，也许是AI矿工判断最远那人当时受伤严重急需出井救治，但这个推测很难解释AI矿工在第二次下井时，仍然先找到离出口第二远的人，并且再次只携带他一人出井。

此案在研讨会上引起了热烈的讨论，更有人提出了一个颇为震惊的假设，这台AI矿工的决策没有问题，但两次，都是被救的人类矿工要求自己尽快出井，不许它再花时间去找同伴。此话一出，会场上顿时鸦雀无声，连马明空都能感到，也许才是最有可能的真相。

不管如何，这些研讨让他明白，AI案件是一样会死人的。多年前，他刚加入警队，那时他常常期盼着案件的降临，每侦破一个刑事案件，他的荣誉簿上就增加了浓重的一笔，嘉奖立功是彼时的他的人生目标，直到有一天，没人和他说，他自个突然想到，每一个刑事案件背后，都至少有一个受害人的身影，他怎么能盼望着多一点案件分给他呢？因此，当新型案件侦破科三个月没开张，他内心深处，反而一片安详。

当然，事情已经发展到这个地步，马明空不可能完全保持住内心的平静，所以当周三快下班、兰灵打电话约他下来见面时，他是一路急走，奔至分局斜对面的小茶店，见到兰灵面带倦容、神色憔悴的坐在临街窗边的一张小桌前，不由吃了一惊，忙问她何事？兰灵没有回答，只勉强一笑，道：“这里怎么样？我记得你喜欢在茶社里谈秘密。”

马明空虽喜饮茶，但此间却从未光顾过，他略略环视四周，是一间不起眼的小茶店，点点头道：“还行吧，”顿了一顿，忍不住问道：“你还好吗？”

兰灵没有答话，侧眼向窗外看了好一会儿，才回转目光，说道：“我一直很疑惑，人类的记忆为何会出现偏差？这似乎是人类这一物种特有的现象，有种解释说是在追溯记忆时，信息可能会被伪造、误导，重新写入时，记录的就是与事实不符的记忆了，可为什么要伪造？是人类的自主意识有意为之吗？如果在原始狩猎采集阶段，原始人出现记忆偏差，是会导致灭顶之灾的，这种意识能力，为什么会遗传下来？”

马明空听了，一句话也答不上来，只好默默的看着对方，茶店甚小，老板就是店员，他要了一壶玫瑰花茶，给兰灵和自己斟上，呷了一口，等着兰灵继续。

晶莹剔透的玻璃杯中散发着香甜的玫瑰花香，兰灵却似乎没有品尝的意愿，依旧陷入自己的沉思之中，过了好半晌，才又道：“我叫你下来，是想告诉你，我尝试解读了小黑AI大脑的部分可见部分，对比了它在本体、边缘、云端的记忆数据，数据本身没有发现异常，没有不一致的地方，但我发现了一个问题，它的记忆，似乎被扰动过。”

“数据一致，但记忆被扰动过？”马明空一头雾水：“怎么个扰动法？”

“我不知道。”兰灵的脸上显出愈发痛苦的表情，马明空想安慰她却又不知如何开口，兰灵看了他一眼，摇头道：“我没事，”隔了一会，又道：“我在楚蕙家里时，曾问过小黑，‘柯先生以往对楚女士家暴的时候，楚女士是常常反抗，偶尔反抗，还是不反抗？’它答复说，‘偶尔反抗’，我当时没有觉察出什么，可是，当我看了它在本体存储的记忆，也就是自去年11月22日重启换血后积累的数据，发现这期间柯先生有3次比较明显的家暴，但楚女士从来没有反抗过。”

“也许在11月22日前，楚女士反抗过，所以小黑才说‘偶尔反抗’。”

“不不，你没搞明白，机器人是怎么记忆的，小黑现在本体内的数据，包括了从去年11月22日至今的数据，以及它最后一次重启换血时，从边缘以及云端下载得到的脱敏数据，这些数据不会包含和家政服务无关的信息，即便真有和家暴相关信息，也只能是遇到此类情况触发报警这样的知识，小黑是断不会再有去年11月22之前，柯先生家暴的具体记忆的，除非它能联网到最原始的归档数据，可那在物理上是不可能的，归档数据是不会联网的。”

“你的意思，小黑撒谎？”马明空若有所思，他想起兰灵刚才的言语，接着道：“或者说，它的记忆，出现了偏差？”

似乎是面前的玫瑰花茶散发的热气起了香薰的功效，兰灵的脸色渐渐恢复了正常，一抹红晕染上了脸腮，她说道：“姑且不论一个家政机器人不可能具有说谎的能力，就算它有，它是如何构造这个虚假记忆的？它不可能凭空说谎，必须要改造记忆，按人类的说法，就是先让自己信以为真，才能回答出想要的答案，可这虚构的记忆在哪里？我看过它在边缘的数据，也没有这样的记忆。”

“边缘的数据？”马明空奇道。

“是的，我这几天又设法核实了小黑在边缘保存的数据。”

她终于端起茶杯喝了一口，继续说道：“而且，如果仅仅是这些，还不足以引起我的困惑，比如它的数据或大脑因为长期没有更新，垃圾太多，从而导致字节信息突变，甚或它在11月22之前的数据因为某种原因没被彻底清除，这在理论上都是有可能的，这也是为什么法律要求商用机器人必须定期重启换血的原因。”

她放下茶杯，双眉重又凝在一起，道：“我回忆了小黑当天的表现，发现小黑在回答我这个问题时，并不是脱口而出，中间停顿了足足有2.5秒那么长！”

“这有问题吗？”

“问题就在这里，哪怕小黑的记忆出现了偏差，机器人的所有问答都来自本体、边缘或云端的知识，它要么脱口而出，如果出现停顿，那么它的回答一定是‘我不知道’！”

“这就是你认为小黑的记忆被扰动的原因？”

“我的导师在十几年前就预测过一种‘AI记忆扰动’现象，他担心，AI机器人发展到一定阶段，基于量子技术的AI大脑趋于开放，有可能会出现量子扰动，从而导致记忆、逻辑等能力出现扰动，也许小黑当时就处在一种不确定的状态，才会导致停顿。”

“会不会是被黑客入侵吗？”

“不是。”兰灵说着，又摇了摇头，道：“也许可能吧。”她心知一两句解释不清，话锋一转，说道：“我现在有些后悔，那天晚上，没有去拆解查看小黑的道德黑匣子。”

“但是道德黑匣子一旦拆开导出数据，原来的数据就失效了吧。”马明空参加了几次培训班，对机器人的道德黑匣子印象比较深刻，在AI矿工救援案中，因为缺乏AI矿工的道德黑匣子，无法获取当时AI矿工做出决策的依据和逻辑过程，从而难以界分责任。

“是这样的，可我总归想看到小黑在那一刻的决策过程。”

她双眉舒展，眼中露出坚定之色，说道：“在那2.5秒内，位于道德黑匣子里的道德伦理内核究竟发生了什么？内核虽无法直接观看，但黑匣子记录的数据总是透明公正的，可以侧面推导，它当时为什么要撒谎，依据是什么？它是否真的经历了记忆扰动？”

马明空似乎忽然明白了兰灵来找他的动机，想了想，说道：“我去问问贺思孟，就是前几天我们见的那个私家侦探，看看他有没有办法，再让你看看小黑的道德黑匣子。”

兰灵先是一愣，接着便露出淡淡的笑容，说道：“我想你误会了，我确实想解开这个技术上的谜团，但也不希望再通过那种非法的方式。”

“那你是想利用我这里的官方合法渠道了。”马明空暗想，当下便把麦局长的话向兰灵转述了一遍，又道：“柯锐木坠楼已经过去两周了，眼下只能等待，也许不久便会有转机。”

全球对决：我的副本无敌了  重生之玄皇魔尊  冷冻九天  从我是特种兵开启全能系统  开局我被扔进了丹炉  哈利波特与旧日支配者  穿书女配保命守则  我成了一只通灵僵  穿越诸天之上  我真是地球来的  男明星的黑粉头子  大国名片  一世贵妃  开局签到一分钱  原来感情也分先来后到  妖怪流恋爱游戏  九重魔神  神兽修真日常  我跟代班皇帝的宫斗日常  深藏温柔