格爱乐文

手机浏览器扫描二维码访问

第三章 重启换血防突变（第1页）

司南车公司作为一家老牌的无人驾驶汽车制造厂商，最近几年突然杀入家用机器人领域，在渡过最初的事故频发阶段后，便一路顺风顺水，不断扩张，去年更在希林市郊投资新建了一处机器人设计研究院和总成装配厂，兰灵和马明空拜访的便是这家机器人设计研究院，接待他们的是乔穷思研究员，这是巴天润帮兰灵联系的，巴天润在本市的AI领域颇具威望，由他帮忙引荐，是再好不过的。

“巴老是我的前辈，对我们这些小辈总是关爱有加，我有幸聆听过他的教诲，当真是如沐春风，”乔穷思推了推鼻梁上的金丝眼镜，指着桌面上的一张机器人照片，笑道：“编号JAZR4405203904258229的家政机器人，确实是我们公司出品的，兰教授昨天在邮件中提到的几个问题，我也进行了书面回答，你们还有什么疑虑，我能回答的，当知无不言。”

“你在邮件中说明了偃师系列的家政机器人具备网络报警功能，可是这台编号JAZR4405203904258229的机器人确是自行来到公安局报案，如何从技术上解释这种行为呢？”兰灵问道。

乔穷思微微一笑，他昨日收到兰灵的邮件后，立刻请示了他所在实验室的主任，后者在一番思考后，批示了八个字“此案已结、自行把握”，此前巴天润在电话里暗示了兰灵并不好相与，其实就算没有巴天润的暗示，他对兰灵也早有耳闻，毕竟他们这个圈子不大，所以他还是事先做了一番功课，当下便说道：“确实很奇怪，这不应该是正常的行为，我们也想研究一下，可惜暂时没有当时的数据，不知道警方能不能提供这方面的便利？”

马明空和兰灵对视一眼，马明空心想，这巴天润联系的都什么人啊？兰灵却道：“那你同意它的行为是自主选择吗？”

乔穷思听了，心知自己作为一个被业内名宿引荐的研究员，倘若再说“不知道”或拿没数据推搪，自己都觉得面子挂不住，他咳嗽了一声，斟酌道：“我个人认为，这是一种自主选择的行为，但本质上，也没有偏离被赋予的报警应用，只是方式偏离了厂家指导，这种情况并不罕见，兰教授，你知道偃师系列是分档的，低档在炒菜时是不会颠勺的，腕部缺少一个部件，可是我们在家庭回访活动中发现，有个低挡机器人不知道什么原因，用一只手抓住另一只手腕的方式，通过肘部的活动，学会了颠勺，虽然不如高档的那么灵活自如，但确实是在有意识的颠勺炒菜，这是一个自发的创造，基于现有能力组合的创造，AI安全法里预见了这种能力，并认为是可被允许的，我也没想到，能这么快亲眼目睹这一奇迹。”

这是一个完美的回答，兰灵心想，她本来还准备了小黑独自出门上街的提问，现在连这个问题也不必问了，于是话锋一转，问道：“小黑，”她停顿了一下，微微一笑，道：“就是那个家政机器人，这是它的名字，是三年前的产品，偃师系列是最近一年才支持注册ITPS，我注意到你们产品升级换代的频率是很快的，而小黑也注册到了ITPS，这是被允许的吗？”

“这个你们恐怕要去4S店查看了，”乔穷思笑道：“我们对4S店的约束是有限的，有时候，只要他们能做到，就没有他们不做的，不管是硬件上还是软件上。”

“机器人的运行数据和应用数据总归要传递到司南车公司的，按照法律，销售的机器人产品必须在机器人运营商那里注册上线，而司南车公司也是机器人运营商，依惯例，小黑应该也是注册在你们公司运营的吧。”

“是的，不过那只是为了改善和提高AI算法，我们不会读取用户数据的。”

“你是说，小黑最近一次重启换血的时间，你们不知道么？”兰灵在昨天邮件中就问了这个问题，乔穷思并没有在回信中回答。

“它上报的运行数据中，定会包含这个信息的，但是，如果你们只是来咨询关于家政机器人的技术问题，我们很难给出相关数据。”

马明空在一旁一直默然不语，听了两人对话，暗想这个乔穷思相当老练，自己与兰灵和巴天润说起来怎么也算是有点交情的，不知为何要推荐此人，难不成此间再无他人，他再次环顾四周，这是一间摆满了各种机器人零部件的房间，另有一个机器人跟在乔穷思身边，这是将要发布的版本，按乔穷思的说法，“自己的狗粮自己先吃”，马明空却对它感到不太舒服，因为它还没有穿上外衣，内部构造一览无遗，金属杆像骨骼，线缆像血脉，腹部显示器后堆叠的四个小盒子也让他莫名的想到内脏，他清了清嗓子，向椅背上一考，说道：“乔研究员，江帆大厦8801坠楼案确实已经结案，不过这个叫小黑的机器人行为如此反常，这点你自己也是同意的，家政机器人已走进千家万户，我们新型案件侦破科有责任查清它背后的原因和动机。”

乔穷思听了，心中不免一紧，他刚才和兰灵对答之间，对自己的表现还是比较满意的，得意之间，差点忘了，对面还坐着一个正儿八经的警官，他想起巴天润昨日在电话里提到了数月前发生的那起珠宝行抢劫案，急忙道：“这是一定的，配合警方，消除民众疑虑，是我们应尽的责任。”

兰灵微微一笑，朝马明空颔首示意，也道：“没错，AI商用安全法制定了可解释性原则和透明度原则，消费者可以援引这两条原则要求制造商解释机器人的工作原理，要求运营商公开运营数据。”

乔穷思心下雪亮，暗想对方定是因坠楼案已结案，无法从这个小黑的家里拿到数据，却跑到这里来想打秋风，只是如何打发却要费番思量，即想到坠楼案，便也笑道：“江帆大厦8801号这样的家庭，除了家政机器人，定还有不少智能设备，因此上，这个叫小黑的运营数据应是先通过家庭网关传送上来的，从那里取数据才是最便捷的。”

马明空听他又转了回去，不禁心下有气，嘿了一声，道：“小黑的女主人曾言道，当日若它没有出去报警，说不定事情还不会这么糟，因此警方必须要知道小黑如何以及为何做出到公安局现场报警的决定，这对于责任分配至关重要。”

他这话说的已是相当之重，末了，又补上一句：“兰教授，这和你刚才说的可解释性原则还是透明度原则，应该是一致的吧。”

兰灵本不想一下子把对方逼到墙角，可乔穷思总这般兜兜转转也不是办法，当下便也道：“不错，这就是可解释性原则，过程可解释和决策可解释。透明度原则是说数据来源透明和技术透明，前者要求运营商不能基于偏见采集及处理原始数据，后者要求AI的运营具有可审计性，并可据此了解开发者的意图，我想，在本案中，对小黑的技术透明度也是要关注的，家庭网关只是一个数据中转器，可解释性原则和技术透明度都不涉及它。”

乔穷思听罢，暗暗叫苦，己方的数据是绝不能让兰灵和马明空拿走的，对方即没有出示协助调查涵，领导也没有授权自己，只是对方图穷匕首见，说不得只好放手一搏，当下苦笑道：“马科长、兰教授，非我在此推三阻四，这两条原则我岂能不知，只是原则说起来容易，操作起来实则没那么简单，兰教授，你总该知道机器人的三级大脑吧。”

兰灵点头道：“机器人本脑边脑云脑三位一体，服务在三脑间分布协同。”

“我举个例子，倘若一个机器人第一次看到人类被香蕉皮滑倒摔了一跤，下次再看到地下有香蕉皮，预测会滑倒人类从而主动拾起香蕉皮，这个过程是怎么实现的呢？”乔穷思看向马明空，说道：“首先，人类被香蕉皮滑倒摔了一跤的视频会上传到边缘，边缘大脑并不知道这段视频有什么用，只是脱敏保存，其后这段视频便会上传到云端，在那里，所有的视频都会被逐个解析，云端大脑读到这段视频，再结合其它知识，分析这是偶然的还是必然的，比如云端大脑已经知道人类踩到地上的水会摔跤，而香蕉皮和水都有湿滑的共性，所以它得出一个结论，人踩到香蕉皮摔倒是必然的，云脑把这个知识下发到边缘及本端大脑，以后，机器人再看到地上有香蕉皮，就会预测生效而主动拾起香蕉皮。关键是，云端不会保存最初那段人类被香蕉皮滑倒摔跤的完整视频，它被云端提炼拆解归类了，这还是云端认为有用的视频，云端认为无用的，一个字节都不会保存，因此，”他洋洋洒洒的说了一长段，歇了口气，最后总结道：“关于这个小黑，它脱敏后的完整数据在边缘系统或在归档系统里，我们这里是无法直接看到的，我们这里只有云端数据，但它是零散不全的。”

马明空的眉头已经凝成一团，兰灵却似是胸有成竹，只微笑道：“云端对数据价值的判断，十之八九不会错的，不会比人类更差，至于脱敏，也不是绝对的。”

她盯着乔穷思，语速突然加快：“我知道，我们昨天预约，今天便来，倘若要取证数据，确实有点唐突，这样罢，我便在这里，直接查看云端数据，可以吗？”

“云脑中大量的量子算法，不能够直接观察，一看就塌缩。”乔穷思挣扎着，声音却越来越小。

兰灵微微一笑：“看看数据而已，相信这些数据都是算法自己生产的，可以吗？”

————————————————

设计研究院位于龙门区，离市区颇远，兰灵和马明空出了设计研究院，同乘兰灵的车直奔双木分局，马明空坐在车里，一直没有吭声，他的车则跟在后面，他知道兰灵既然主动邀请他同乘，一定是有什么发现且愿意告诉他，刚才，就在乔穷思的办公室里，兰灵用乔穷思的电脑登录到家政机器人的云端运营大脑，一个人在那里足足看了1个多小时，离开时，乔穷思黑着脸，连礼节性的起身相送都懒得应付一下了，只象征性的挥了挥手。

全球对决：我的副本无敌了  一世贵妃  穿书女配保命守则  深藏温柔  男明星的黑粉头子  开局签到一分钱  大国名片  从我是特种兵开启全能系统  神兽修真日常  我真是地球来的  九重魔神  穿越诸天之上  我成了一只通灵僵  开局我被扔进了丹炉  哈利波特与旧日支配者  妖怪流恋爱游戏  我跟代班皇帝的宫斗日常  冷冻九天  原来感情也分先来后到  重生之玄皇魔尊