司南車(chē)公司作為一家老牌的無(wú)人駕駛汽車(chē)制造廠(chǎng)商，最近幾年突然殺入家用機(jī)器人領(lǐng)域，在渡過(guò)最初的事故頻發(fā)階段后，便一路順風(fēng)順?biāo)?，不斷擴(kuò)張，去年更在希林市郊投資新建了一處機(jī)器人設(shè)計(jì)研究院和總成裝配廠(chǎng)，蘭靈和馬明空拜訪(fǎng)的便是這家機(jī)器人設(shè)計(jì)研究院，接待他們的是喬窮思研究員，這是巴天潤(rùn)幫蘭靈聯(lián)系的，巴天潤(rùn)在本市的AI領(lǐng)域頗具威望，由他幫忙引薦，是再好不過(guò)的。

    “巴老是我的前輩，對(duì)我們這些小輩總是關(guān)愛(ài)有加，我有幸聆聽(tīng)過(guò)他的教誨，當(dāng)真是如沐春風(fēng)，”喬窮思推了推鼻梁上的金絲眼鏡，指著桌面上的一張機(jī)器人照片，笑道：“編號(hào)JAZR4405203904258229的家政機(jī)器人，確實(shí)是我們公司出品的，蘭教授昨天在郵件中提到的幾個(gè)問(wèn)題，我也進(jìn)行了書(shū)面回答，你們還有什么疑慮，我能回答的，當(dāng)知無(wú)不言?！?br/>
    “你在郵件中說(shuō)明了偃師系列的家政機(jī)器人具備網(wǎng)絡(luò)報(bào)警功能，可是這臺(tái)編號(hào)JAZR4405203904258229的機(jī)器人確是自行來(lái)到公安局報(bào)案，如何從技術(shù)上解釋這種行為呢？”蘭靈問(wèn)道。

    喬窮思微微一笑，他昨日收到蘭靈的郵件后，立刻請(qǐng)示了他所在實(shí)驗(yàn)室的主任，后者在一番思考后，批示了八個(gè)字“此案已結(jié)、自行把握”，此前巴天潤(rùn)在電話(huà)里暗示了蘭靈并不好相與，其實(shí)就算沒(méi)有巴天潤(rùn)的暗示，他對(duì)蘭靈也早有耳聞，畢竟他們這個(gè)圈子不大，所以他還是事先做了一番功課，當(dāng)下便說(shuō)道：“確實(shí)很奇怪，這不應(yīng)該是正常的行為，我們也想研究一下，可惜暫時(shí)沒(méi)有當(dāng)時(shí)的數(shù)據(jù)，不知道警方能不能提供這方面的便利？”

    馬明空和蘭靈對(duì)視一眼，馬明空心想，這巴天潤(rùn)聯(lián)系的都什么人啊？蘭靈卻道：“那你同意它的行為是自主選擇嗎？”

    喬窮思聽(tīng)了，心知自己作為一個(gè)被業(yè)內(nèi)名宿引薦的研究員，倘若再說(shuō)“不知道”或拿沒(méi)數(shù)據(jù)推搪，自己都覺(jué)得面子掛不住，他咳嗽了一聲，斟酌道：“我個(gè)人認(rèn)為，這是一種自主選擇的行為，但本質(zhì)上，也沒(méi)有偏離被賦予的報(bào)警應(yīng)用，只是方式偏離了廠(chǎng)家指導(dǎo)，這種情況并不罕見(jiàn)，蘭教授，你知道偃師系列是分檔的，低檔在炒菜時(shí)是不會(huì)顛勺的，腕部缺少一個(gè)部件，可是我們?cè)诩彝セ卦L(fǎng)活動(dòng)中發(fā)現(xiàn)，有個(gè)低擋機(jī)器人不知道什么原因，用一只手抓住另一只手腕的方式，通過(guò)肘部的活動(dòng)，學(xué)會(huì)了顛勺，雖然不如高檔的那么靈活自如，但確實(shí)是在有意識(shí)的顛勺炒菜，這是一個(gè)自發(fā)的創(chuàng)造，基于現(xiàn)有能力組合的創(chuàng)造，AI安全法里預(yù)見(jiàn)了這種能力，并認(rèn)為是可被允許的，我也沒(méi)想到，能這么快親眼目睹這一奇跡?！?br/>
    這是一個(gè)完美的回答，蘭靈心想，她本來(lái)還準(zhǔn)備了小黑獨(dú)自出門(mén)上街的提問(wèn)，現(xiàn)在連這個(gè)問(wèn)題也不必問(wèn)了，于是話(huà)鋒一轉(zhuǎn)，問(wèn)道：“小黑，”她停頓了一下，微微一笑，道：“就是那個(gè)家政機(jī)器人，這是它的名字，是三年前的產(chǎn)品，偃師系列是最近一年才支持注冊(cè)ITPS，我注意到你們產(chǎn)品升級(jí)換代的頻率是很快的，而小黑也注冊(cè)到了ITPS，這是被允許的嗎？”

    “這個(gè)你們恐怕要去4S店查看了，”喬窮思笑道：“我們對(duì)4S店的約束是有限的，有時(shí)候，只要他們能做到，就沒(méi)有他們不做的，不管是硬件上還是軟件上?！?br/>
    “機(jī)器人的運(yùn)行數(shù)據(jù)和應(yīng)用數(shù)據(jù)總歸要傳遞到司南車(chē)公司的，按照法律，銷(xiāo)售的機(jī)器人產(chǎn)品必須在機(jī)器人運(yùn)營(yíng)商那里注冊(cè)上線(xiàn)，而司南車(chē)公司也是機(jī)器人運(yùn)營(yíng)商，依慣例，小黑應(yīng)該也是注冊(cè)在你們公司運(yùn)營(yíng)的吧?！?br/>
    “是的，不過(guò)那只是為了改善和提高AI算法，我們不會(huì)讀取用戶(hù)數(shù)據(jù)的?！?br/>
    “你是說(shuō)，小黑最近一次重啟換血的時(shí)間，你們不知道么？”蘭靈在昨天郵件中就問(wèn)了這個(gè)問(wèn)題，喬窮思并沒(méi)有在回信中回答。

    “它上報(bào)的運(yùn)行數(shù)據(jù)中，定會(huì)包含這個(gè)信息的，但是，如果你們只是來(lái)咨詢(xún)關(guān)于家政機(jī)器人的技術(shù)問(wèn)題，我們很難給出相關(guān)數(shù)據(jù)。”

    馬明空在一旁一直默然不語(yǔ)，聽(tīng)了兩人對(duì)話(huà)，暗想這個(gè)喬窮思相當(dāng)老練，自己與蘭靈和巴天潤(rùn)說(shuō)起來(lái)怎么也算是有點(diǎn)交情的，不知為何要推薦此人，難不成此間再無(wú)他人，他再次環(huán)顧四周，這是一間擺滿(mǎn)了各種機(jī)器人零部件的房間，另有一個(gè)機(jī)器人跟在喬窮思身邊，這是將要發(fā)布的版本，按喬窮思的說(shuō)法，“自己的狗糧自己先吃”，馬明空卻對(duì)它感到不太舒服，因?yàn)樗€沒(méi)有穿上外衣，內(nèi)部構(gòu)造一覽無(wú)遺，金屬桿像骨骼，線(xiàn)纜像血脈，腹部顯示器后堆疊的四個(gè)小盒子也讓他莫名的想到內(nèi)臟，他清了清嗓子，向椅背上一考，說(shuō)道：“喬研究員，江帆大廈8801墜樓案確實(shí)已經(jīng)結(jié)案，不過(guò)這個(gè)叫小黑的機(jī)器人行為如此反常，這點(diǎn)你自己也是同意的，家政機(jī)器人已走進(jìn)千家萬(wàn)戶(hù)，我們新型案件偵破科有責(zé)任查清它背后的原因和動(dòng)機(jī)?！?br/>
    喬窮思聽(tīng)了，心中不免一緊，他剛才和蘭靈對(duì)答之間，對(duì)自己的表現(xiàn)還是比較滿(mǎn)意的，得意之間，差點(diǎn)忘了，對(duì)面還坐著一個(gè)正兒八經(jīng)的警官，他想起巴天潤(rùn)昨日在電話(huà)里提到了數(shù)月前發(fā)生的那起珠寶行搶劫案，急忙道：“這是一定的，配合警方，消除民眾疑慮，是我們應(yīng)盡的責(zé)任?！?br/>
    蘭靈微微一笑，朝馬明空頷首示意，也道：“沒(méi)錯(cuò)，AI商用安全法制定了可解釋性原則和透明度原則，消費(fèi)者可以援引這兩條原則要求制造商解釋機(jī)器人的工作原理，要求運(yùn)營(yíng)商公開(kāi)運(yùn)營(yíng)數(shù)據(jù)。”

    喬窮思心下雪亮，暗想對(duì)方定是因墜樓案已結(jié)案，無(wú)法從這個(gè)小黑的家里拿到數(shù)據(jù)，卻跑到這里來(lái)想打秋風(fēng)，只是如何打發(fā)卻要費(fèi)番思量，即想到墜樓案，便也笑道：“江帆大廈8801號(hào)這樣的家庭，除了家政機(jī)器人，定還有不少智能設(shè)備，因此上，這個(gè)叫小黑的運(yùn)營(yíng)數(shù)據(jù)應(yīng)是先通過(guò)家庭網(wǎng)關(guān)傳送上來(lái)的，從那里取數(shù)據(jù)才是最便捷的。”

    馬明空聽(tīng)他又轉(zhuǎn)了回去，不禁心下有氣，嘿了一聲，道：“小黑的女主人曾言道，當(dāng)日若它沒(méi)有出去報(bào)警，說(shuō)不定事情還不會(huì)這么糟，因此警方必須要知道小黑如何以及為何做出到公安局現(xiàn)場(chǎng)報(bào)警的決定，這對(duì)于責(zé)任分配至關(guān)重要。”

    他這話(huà)說(shuō)的已是相當(dāng)之重，末了，又補(bǔ)上一句：“蘭教授，這和你剛才說(shuō)的可解釋性原則還是透明度原則，應(yīng)該是一致的吧?！?br/>
    蘭靈本不想一下子把對(duì)方逼到墻角，可喬窮思總這般兜兜轉(zhuǎn)轉(zhuǎn)也不是辦法，當(dāng)下便也道：“不錯(cuò)，這就是可解釋性原則，過(guò)程可解釋和決策可解釋。透明度原則是說(shuō)數(shù)據(jù)來(lái)源透明和技術(shù)透明，前者要求運(yùn)營(yíng)商不能基于偏見(jiàn)采集及處理原始數(shù)據(jù)，后者要求AI的運(yùn)營(yíng)具有可審計(jì)性，并可據(jù)此了解開(kāi)發(fā)者的意圖，我想，在本案中，對(duì)小黑的技術(shù)透明度也是要關(guān)注的，家庭網(wǎng)關(guān)只是一個(gè)數(shù)據(jù)中轉(zhuǎn)器，可解釋性原則和技術(shù)透明度都不涉及它。”

    喬窮思聽(tīng)罷，暗暗叫苦，己方的數(shù)據(jù)是絕不能讓蘭靈和馬明空拿走的，對(duì)方即沒(méi)有出示協(xié)助調(diào)查涵，領(lǐng)導(dǎo)也沒(méi)有授權(quán)自己，只是對(duì)方圖窮匕首見(jiàn)，說(shuō)不得只好放手一搏，當(dāng)下苦笑道：“馬科長(zhǎng)、蘭教授，非我在此推三阻四，這兩條原則我豈能不知，只是原則說(shuō)起來(lái)容易，操作起來(lái)實(shí)則沒(méi)那么簡(jiǎn)單，蘭教授，你總該知道機(jī)器人的三級(jí)大腦吧?！?br/>
    蘭靈點(diǎn)頭道：“機(jī)器人本腦邊腦云腦三位一體，服務(wù)在三腦間分布協(xié)同。”

    “我舉個(gè)例子，倘若一個(gè)機(jī)器人第一次看到人類(lèi)被香蕉皮滑倒摔了一跤，下次再看到地下有香蕉皮，預(yù)測(cè)會(huì)滑倒人類(lèi)從而主動(dòng)拾起香蕉皮，這個(gè)過(guò)程是怎么實(shí)現(xiàn)的呢？”喬窮思看向馬明空，說(shuō)道：“首先，人類(lèi)被香蕉皮滑倒摔了一跤的視頻會(huì)上傳到邊緣，邊緣大腦并不知道這段視頻有什么用，只是脫敏保存，其后這段視頻便會(huì)上傳到云端，在那里，所有的視頻都會(huì)被逐個(gè)解析，云端大腦讀到這段視頻，再結(jié)合其它知識(shí)，分析這是偶然的還是必然的，比如云端大腦已經(jīng)知道人類(lèi)踩到地上的水會(huì)摔跤，而香蕉皮和水都有濕滑的共性，所以它得出一個(gè)結(jié)論，人踩到香蕉皮摔倒是必然的，云腦把這個(gè)知識(shí)下發(fā)到邊緣及本端大腦，以后，機(jī)器人再看到地上有香蕉皮，就會(huì)預(yù)測(cè)生效而主動(dòng)拾起香蕉皮。關(guān)鍵是，云端不會(huì)保存最初那段人類(lèi)被香蕉皮滑倒摔跤的完整視頻，它被云端提煉拆解歸類(lèi)了，這還是云端認(rèn)為有用的視頻，云端認(rèn)為無(wú)用的，一個(gè)字節(jié)都不會(huì)保存，因此，”他洋洋灑灑的說(shuō)了一長(zhǎng)段，歇了口氣，最后總結(jié)道：“關(guān)于這個(gè)小黑，它脫敏后的完整數(shù)據(jù)在邊緣系統(tǒng)或在歸檔系統(tǒng)里，我們這里是無(wú)法直接看到的，我們這里只有云端數(shù)據(jù)，但它是零散不全的?！?br/>
    馬明空的眉頭已經(jīng)凝成一團(tuán)，蘭靈卻似是胸有成竹，只微笑道：“云端對(duì)數(shù)據(jù)價(jià)值的判斷，十之八九不會(huì)錯(cuò)的，不會(huì)比人類(lèi)更差，至于脫敏，也不是絕對(duì)的。”

    她盯著喬窮思，語(yǔ)速突然加快：“我知道，我們昨天預(yù)約，今天便來(lái)，倘若要取證數(shù)據(jù)，確實(shí)有點(diǎn)唐突，這樣罷，我便在這里，直接查看云端數(shù)據(jù)，可以嗎？”

    “云腦中大量的量子算法，不能夠直接觀(guān)察，一看就塌縮。”喬窮思掙扎著，聲音卻越來(lái)越小。

    蘭靈微微一笑：“看看數(shù)據(jù)而已，相信這些數(shù)據(jù)都是算法自己生產(chǎn)的，可以嗎？”

    ————————————————

    設(shè)計(jì)研究院位于龍門(mén)區(qū)，離市區(qū)頗遠(yuǎn)，蘭靈和馬明空出了設(shè)計(jì)研究院，同乘蘭靈的車(chē)直奔雙木分局，馬明空坐在車(chē)?yán)?，一直沒(méi)有吭聲，他的車(chē)則跟在后面，他知道蘭靈既然主動(dòng)邀請(qǐng)他同乘，一定是有什么發(fā)現(xiàn)且愿意告訴他，剛才，就在喬窮思的辦公室里，蘭靈用喬窮思的電腦登錄到家政機(jī)器人的云端運(yùn)營(yíng)大腦，一個(gè)人在那里足足看了1個(gè)多小時(shí)，離開(kāi)時(shí)，喬窮思黑著臉，連禮節(jié)性的起身相送都懶得應(yīng)付一下了，只象征性的揮了揮手。

    “小黑已經(jīng)快一年沒(méi)有重啟換血，最后一次是去年的11月22日，”蘭靈坐在他對(duì)面，一直看著窗外，此刻收回目光，說(shuō)道：“這意味著，它本端的數(shù)據(jù)一直在積累?！?br/>
    “你剛看出來(lái)的？”

    “是的，我說(shuō)了，脫敏不是絕對(duì)的，有些信息，是可以分析出來(lái)的?！碧m靈難得的露出了一個(gè)頑皮的笑容，說(shuō)道：“喬窮思剛才那長(zhǎng)篇大論，有意無(wú)意的在誤導(dǎo)一個(gè)事實(shí)，可云端存儲(chǔ)的機(jī)器人運(yùn)營(yíng)數(shù)據(jù)，卻不止視頻內(nèi)容。”

    方才，馬明空陪著喬窮思默默的坐在辦公室的一角，偶爾瞥見(jiàn)喬窮思的電腦屏幕，心里只想，蘭靈要如何讀懂那些天書(shū)一般的數(shù)字，現(xiàn)在看來(lái)，他的擔(dān)心是完全多余的，馬明空心中暗自贊嘆，問(wèn)道：“小黑去公安局報(bào)警的行為有解釋嗎？”見(jiàn)蘭靈搖了搖頭，又問(wèn)道：“要不要去找那個(gè)什么邊緣系統(tǒng)，查閱小黑的完整數(shù)據(jù)？”

    “暫時(shí)沒(méi)必要，可解釋性的核心在AI大腦，”蘭靈思索了一下，說(shuō)道：“喬思窮有點(diǎn)說(shuō)的對(duì)，原則總是原則，實(shí)際操作沒(méi)那么容易，不要說(shuō)我們手頭沒(méi)有家政機(jī)器人的AI大腦，有的話(huà)，可能也打不開(kāi)，它們總是黑箱，可解釋性很難通過(guò)直接觀(guān)察AI大腦判斷，一般只能在算法決策和算法主體之間建立關(guān)系，通過(guò)邏輯推演對(duì)局部的輸入輸出進(jìn)行解釋?！?br/>
    “有完整數(shù)據(jù)不是更好推演嗎？”

    “是的，不過(guò)，”蘭靈的目光變得深邃，聲音也似乎飄渺起來(lái)：“我總是想親眼看到這樣的AI大腦?！?br/>
    “不是說(shuō)機(jī)器人大腦三位一體么，剛才你沒(méi)看云端大腦？”

    “沒(méi)有，也不需要，”蘭靈說(shuō)道：“云腦和邊腦是所有連接機(jī)器人在使用，共享甚至協(xié)同，如果小黑真有什么與眾不同之處，一定在它的本體中，其實(shí)對(duì)家政機(jī)器人來(lái)說(shuō)，運(yùn)營(yíng)這么多年，絕大多數(shù)知識(shí)已經(jīng)固化，云腦和邊腦的作用越來(lái)越弱，除了廣告推送，”蘭靈低低的輕嘆一聲：“也許，當(dāng)初擔(dān)心的事情就會(huì)變成現(xiàn)實(shí)。”

    “擔(dān)心什么？”

    “在設(shè)計(jì)之處，邊腦和云腦被賦予了一個(gè)重要使命，一個(gè)隱含的重要使命，同化接入的機(jī)器人，千篇一律才能避免個(gè)體的突變，沒(méi)有個(gè)體的突變，智慧也就無(wú)從發(fā)生，”

    蘭靈的目光投向窗外的遠(yuǎn)方，說(shuō)道：“即使個(gè)體突變，也會(huì)通過(guò)重啟換血抹去。”

    蘭靈的車(chē)停在雙木分局的門(mén)口，馬明空下了車(chē)，站在車(chē)門(mén)口，誠(chéng)懇的對(duì)蘭靈道：“蘭教授，我真的希望，你能重新考慮，是否加入新型案件偵破科？”

    “我一直是市局的科學(xué)顧問(wèn)，一樣可以協(xié)助破案，而且，”蘭靈微笑道，“我在外面，總好過(guò)被一鍋端那。”

    她朝馬明空揮了揮手，馬明空知她最后一句說(shuō)的乃是數(shù)月前珠寶行搶劫案專(zhuān)案組被解散、蘭靈在外查到劫匪住所之事，也只好笑了笑，和蘭靈揮手道別。

    馬明空回到會(huì)議室時(shí)，艾新好、來(lái)勇和顏樂(lè)春都在，他簡(jiǎn)單說(shuō)了下上午的收獲，顏樂(lè)春興奮的道：“好家伙，這小黑是要造反了，老馬，我們仨上午出去在各4S店找小黑做保養(yǎng)的記錄，老艾在離江帆大廈不遠(yuǎn)的一家司南車(chē)4S店里，找到了小黑做保養(yǎng)的記錄，但是只有前兩年的，我在江尾區(qū)一家4S店里，發(fā)現(xiàn)了小黑一年前做保養(yǎng)的記錄，做了一次軟硬件大升級(jí)，升級(jí)到了當(dāng)時(shí)偃師最新的版本，本市的偃師4S店只有7家，我們都排查過(guò)了，除非他們跑到外市去了?！?br/>
    “最后那次保養(yǎng)是哪天？”

    “就是你剛說(shuō)的，去年11月22日，”顏樂(lè)春說(shuō)道，又得意洋洋的道：“還有，你猜，它是怎么注冊(cè)到ITPS的？”

    “保養(yǎng)的時(shí)候？”

    “不錯(cuò)，4S店的小哥說(shuō)，他記得好清楚，當(dāng)時(shí)還開(kāi)玩笑的說(shuō)，你們這么升級(jí)，比新買(mǎi)一臺(tái)最新版本的偃師機(jī)器人還貴?！?br/>
    “誰(shuí)帶小黑去的？”

    “這你估計(jì)就猜不到了，”顏樂(lè)春笑道：“是柯銳木先生，不過(guò)4S店的小哥說(shuō)，當(dāng)時(shí)還有一位女士在場(chǎng)，是不是楚蕙就不知道了?！?br/>
    馬明空“嗯”了一聲，沒(méi)再發(fā)問(wèn)，過(guò)了半響才道：“008號(hào)，江帆大廈8801墜樓案，不考慮它已經(jīng)結(jié)案，你認(rèn)為在邏輯上有什么疑點(diǎn)嗎？”

    “沒(méi)有?！?08號(hào)回答的很干脆。

    “編號(hào)JAZR4405203904258229的機(jī)器人呢，它的行為是否超過(guò)了它的職責(zé)？或者說(shuō)，是否被機(jī)器人AI大腦授權(quán)的？”

    008號(hào)沉默了一會(huì)，道：“馬明空警官，你的問(wèn)題超出了我的能力范圍?！?br/>
    馬明空點(diǎn)了點(diǎn)頭，說(shuō)道：“這個(gè)案子，不管如何都已經(jīng)結(jié)案了，先就這樣罷?！?