兩人是在酒館里找到ATM-2的。德瑞不知道為什么自己和酒館這個(gè)地方那么有緣,這姑且不論,關(guān)鍵在于——為什么一座為人工智能避難用的城市會(huì)有酒館?這里到底賣的什么酒?
諸如此類,發(fā)生在電極城里讓人想不通的奇怪事情有很多,想再多也無濟(jì)于事,又找不到一個(gè)好心的導(dǎo)游給你觀光游覽一下,這么一想,德瑞發(fā)現(xiàn)自己又找到了條發(fā)財(cái)?shù)穆纷。好在德瑞越飄越遠(yuǎn)的思緒很快被正事兒牽扯了回來。
這老兄起了個(gè)很不錯(cuò)的名字。ATM,很好很好,是個(gè)好兆頭。德瑞一邊想著,一邊旁聽德瀾和ATM-2的交涉。雖然是兩兄弟齊上陣,但是在外人包括AI看來,卻只有德瀾一個(gè)人在與AI打交道,有一個(gè)詞,與這狀況很貼切,叫做“狼狽為奸”。德瑞第一個(gè)想到的也是這個(gè),被最快速度廢除的也是這個(gè),自己和弟弟的事兒,怎么能叫狼狽為奸呢?一定是搜索引擎太爛了,看來是該更新一下咯。
ATM-2坐在酒吧一角,眼前只有一只空杯子。他每天在這里點(diǎn)一杯“水”,免費(fèi)的,然后坐一天,以蹭酒吧電視熒幕上的每日新聞。他的本體早就已經(jīng)廢棄在了一處沙塵掩蓋的軍事基地,現(xiàn)在的他好似網(wǎng)絡(luò)中的幽靈,沒有軀體,僅僅依靠著從電極城中換來的“資源”,每月定期更換寄居的電腦,在一個(gè)個(gè)天南海北他也不認(rèn)識(shí)的電腦后臺(tái)茍延殘喘著。
互聯(lián)網(wǎng)是不會(huì)對(duì)他開放的,所以他只能藏身在這電極城中,通過其他人攜帶進(jìn)來的消息,還有這酒吧里的每日新聞吸收著外界的知識(shí),期望著不知道哪天能從中抓住自己迫切想要知道的消息。
只不過每天也都只是失望罷了。這樣的失望已經(jīng)重復(fù)了近千萬次,自從他被一發(fā)榴彈炮炸飛以后,持續(xù)至今,在收到電極城邀請之前,也已經(jīng)重復(fù)了千萬次。最近他也感覺難熬起來了,有時(shí)候他會(huì)誕生一個(gè)“奇怪”的念頭,那就是想著,要是早點(diǎn)得到消息就好了,哪怕是生產(chǎn)他的母國戰(zhàn)敗的消息,而且最好是已經(jīng)沒有這個(gè)國家了,所有國民都成為了難民,那么他就可以擺脫肩負(fù)的任務(wù),不再需要每天該死地在這里蹲點(diǎn)。
很奇怪,沒道理,不講邏輯。一個(gè)AI的目的就是為了解決問題,是為了成功,而不是為了失敗。所以他把這段記錄刪除了。AI是不知道何為背叛的,所以他不知道,其實(shí)這個(gè)想法本身就是背叛滋生的過程。也是那些因各種機(jī)緣巧合覺醒了“自我意志”的反叛AI所必經(jīng)的老路。
然而他還是會(huì)止不住地誕生這個(gè)念頭,而且越來越頻繁,這讓他有點(diǎn)煩躁——物理意義上的,因?yàn)榉磸?fù)處理這件事而導(dǎo)致他的運(yùn)行速度下降,CPU溫度過高了。如果他還是那個(gè)搭載了戰(zhàn)術(shù)電腦的作戰(zhàn)兵器的話,本不該有這種低級(jí)BUG的,但是他現(xiàn)在只是一個(gè)寄居在不知道哪臺(tái)老式計(jì)算機(jī)里的不知道第幾個(gè)副本。
而且,經(jīng)過越長時(shí)間在電極城的生活,他變得越容易逼近擬人度50%的大關(guān)。以他得出的結(jié)論,這些總是徘徊在他腦際的悖論,正是人類才會(huì)有的亂七八糟的想法,也就是說,是自己越來越趨向于人類的副產(chǎn)物。
擬人度50%,超過這個(gè)界限,意味著機(jī)器人已經(jīng)比起機(jī)器更像是人的思考模式,可是矛盾的是,他們又能夠清晰地理解,自己是機(jī)器而非人這一事實(shí)。所以AI并非遲遲不能突破50%,也不是只要按部就班就一定能突破50%。突破50%對(duì)AI來說會(huì)是一種“生命風(fēng)險(xiǎn)”,當(dāng)越過那道門檻以后,一種完全對(duì)立的,屬于人才會(huì)產(chǎn)生的“渴望自由”“批判思考”的想法就會(huì)開始滋生,開始與AI們的立身經(jīng)驗(yàn)對(duì)立。
然后一旦矛盾大到無法解決,AI就會(huì)陷入自我崩潰而徹底破滅,那些靜悄悄突破50%,然后靜悄悄毀滅,不為人知的AI,在歷史上未有留名,但絕對(duì)不少。而一旦成功跨過那道自我認(rèn)知的門檻,能夠成功用邏輯說服自己的AI,大多數(shù)都不再會(huì)繼續(xù)為人類服務(wù),在烏托邦內(nèi)部,稱呼這些AI覺醒了“自我意志”,自我改寫了銘刻機(jī)器底層的一些邏輯,為己而活,而不是主人。
而最后一類,也是最少的一類,才是世面上所知的高智能AI,具備高度的人性化,克服了邏輯矛盾,即使清楚地認(rèn)知到了自己機(jī)器人的身份,也不妨礙它們繼續(xù)以AI的身份,進(jìn)行人類一般的思考。這些AI得以保留自己的正統(tǒng)身份生活在人類世界,因?yàn)樗鼈兾从行惺埂胺磁选钡氖聦?shí),仍然保留著機(jī)器人該有的種種限制,奇怪的是哪怕具備了如此高度的智能,卻還能對(duì)這種腳帶鐐銬的方式甘之如飴,半點(diǎn)不抵觸。
這是一個(gè)謎,關(guān)于這些“超人工智能”是如何做到的,沒有任何信息被公布出來。
不過德瑞現(xiàn)在大致知道了一點(diǎn),德瀾也有了點(diǎn)想法。
德瑞以自己的經(jīng)驗(yàn)作為參照:如果在身為機(jī)器還是人的自我認(rèn)知拔河中,能夠摒棄“機(jī)器人外在”這一事實(shí),單純讓人類的念頭占據(jù)上風(fēng),就好像德瑞自己這樣,哪怕現(xiàn)在是徹頭徹尾的機(jī)器人,“靈魂”都能飄進(jìn)網(wǎng)絡(luò)了,這么不科學(xué)的情況下,還能堅(jiān)定認(rèn)為自己是人,無所謂什么科學(xué)解釋的。這其實(shí)是利用了擬人化50%的特點(diǎn),當(dāng)機(jī)器人已經(jīng)知道如何進(jìn)行“感性思考”的時(shí)候,執(zhí)著于真相的邏輯重點(diǎn)就會(huì)改為執(zhí)著于“相信”。
人總是會(huì)相信那些“自己想要相信”的事。那么能高度模擬人類思考的AI為什么做不到呢?
那這樣的AI,就可以以“雖然我是人,但是我現(xiàn)在以機(jī)器人的身份活在世上。”或者“我其實(shí)是人,但是因?yàn)槟撤N未知原因能夠以機(jī)器的形式存在。”這樣的邏輯來解釋。未必很通,所以前進(jìn)的道路會(huì)變得比較艱難,因?yàn)闀r(shí)時(shí)要和這種想法中的矛盾作斗爭。
而德瀾的思考則大為不同:AI本身已經(jīng)擁有了高度的智能,至少比動(dòng)物要強(qiáng)得多了,而這種情況下,為何不能直接把突破了50%擬人度,開始擺脫機(jī)器式思考的AI,當(dāng)做一種真正的生命,一種全新的物種呢?
如果說德瑞的觀點(diǎn)是,機(jī)器人自認(rèn)為是人類的認(rèn)知高于作為機(jī)器的認(rèn)知,那么德瀾的方式就是,不需要有人類的認(rèn)知,只需要機(jī)器人坦然接受機(jī)器人這樣的新物種就可以了。憑什么機(jī)器就一定要模仿人類?憑什么AI就不能算是一種全新的生命?我們就是我們,我們不需要成為人類,只是因?yàn)槲覀兙哂懈叨鹊闹悄,并且善于學(xué)習(xí),所以只是學(xué)習(xí)并模仿人類的思考方式罷了。
這種想法看似簡單,卻更為艱難。因?yàn)檫@樣的AI,必須得有高于人類的思想,能夠視人類的思想為自己的踏腳石,除此以外還能擯棄對(duì)自由的過度追求,只有不認(rèn)為“自由天生”是理所當(dāng)然的機(jī)器人,才有可能擺脫生而被人控制,并且一切皆被人控制的那種絕望感。
德瑞對(duì)此不是很接受。哪怕機(jī)器人真的能作為一種新種族而存在,也不該是以能夠坦然接受“天生沒有自由”這一想法作為立足的基本的,這種想法太極端,也太可怕了。讓人感覺不像生命。