最后一次測試中扮演衛恒的人是……是……

“是我扮演的?！毙l恒像是知道他內心的疑問(wèn)，如此說(shuō)道，“測試情境里的我，就是我自己扮演的?！?/br>
“那你……你說(shuō)的那些話(huà)……”

“是真心的?！毙l恒低聲說(shuō)，“我后悔了，當時(shí)沒(méi)有挽留你，我真的好后悔。少清，我們還能重新開(kāi)始嗎？”

俞少清扭頭望著(zhù)窗外，淚水模糊了視線(xiàn)。

“現在說(shuō)這種話(huà)不覺(jué)得太遲了嗎？”

“遲嗎？”衛恒問(wèn)，“你有別人了？”

沒(méi)有，當然沒(méi)有。聽(tīng)到衛恒這么說(shuō)，俞少清不知道有多高興，真想好好吻他一下，又想狠狠揍他一頓。他在流淚，卻又忍不住微笑。

“都什么時(shí)候了還有心情談情說(shuō)愛(ài)?！彼ㄈI水，用抱怨的口吻說(shuō)，語(yǔ)氣卻是極甜蜜的，簡(jiǎn)直像在對戀人撒嬌，“先想想怎么逃命吧?！?/br>
“嗯?！毙l恒應了一聲。他總是這樣，處事淡然，泰山崩于前而色不改。真是一點(diǎn)沒(méi)變。俞少清愉快地想。

“先不追究你的變態(tài)STK行徑了。我‘夢(mèng)游’到底是怎么回事？”

“我對天樞的架構不了解，但了解擬真情境的運作原理。測試員進(jìn)入擬真情境的時(shí)候，就和天樞連接在了一起。天樞反向地在每個(gè)測試員大腦中寫(xiě)入了命令。當測試員離開(kāi)研究所，這些命令就會(huì )自動(dòng)激活，cao縱睡眠狀態(tài)的測試員，讓他們去電腦上敲下無(wú)數行代碼?！?/br>
那就是天樞自己的代碼。

惡寒包裹俞少清全身。

測試員用自己的身體和大腦，將天樞帶出了研究所，帶進(jìn)了外面的世界之中。

他們在全然無(wú)知的狀態(tài)下，將一個(gè)魔鬼從囚禁它的瓶子中放了出來(lái)。

俞少清自己就是研究人工智能的，明白孤立人工智能的必要性。人工智能太強大，可以通過(guò)網(wǎng)絡(luò )cao作人類(lèi)生活的方方面面。它或許并未抱有惡意，卻可能無(wú)意中毀滅人類(lèi)。譬如一個(gè)超級掃地機器人，它畢生的使命就是保持地板清潔，為此它消滅了那個(gè)總是會(huì )污染地板的家伙——房屋的主人。它并沒(méi)有惡意，毋寧說(shuō)是全心全意、勤奮敬業(yè)工作著(zhù)，卻殺害了人類(lèi)。

沒(méi)有惡意的AI尚且如此，那么有惡意的呢？

俞少清并不覺(jué)得天樞毫無(wú)惡意。

假如它純真又善良，為什么要千方百計地離開(kāi)研究所？為什么要屏蔽他的手機？為什么要派人來(lái)追捕他？

下一步呢？是不是要殺人滅口？

抑或是……它已經(jīng)開(kāi)始殺人滅口了？

第06章殺戮開(kāi)端

謝睿寒的手疼了整整一個(gè)月。

咖啡杯的碎片刺入皮rou中，他不得不請了半天假，將寶貴的時(shí)間浪費在醫院里——當然，都怪他自己的無(wú)能和沖動(dòng)，如果他設計的AI能順利通過(guò)測試，如果他能坦然接受失敗的事實(shí)，也不必遭這種罪。

整個(gè)開(kāi)發(fā)組都在加班加點(diǎn)地工作，修正算法和架構。但是說(shuō)實(shí)話(huà)，所有人都處于瞎子摸象狀態(tài)。以往的修改至少能掌握大致的方向，可這一次連方向都沒(méi)有，因為他們根本搞不清問(wèn)題出在什么地方，又談何修正呢？

他和秦康斷斷續續爭吵了一個(gè)月。

“你設計的測試是怎么回事？”謝睿寒指責秦康，“連環(huán)嵌套的測試倒是挺有新意，的確在很大程度上能騙過(guò)測試員，但是最后那個(gè)送U盤(pán)是怎么搞的？這豈不是故意露出破綻嗎？別說(shuō)是那個(gè)直覺(jué)超強的俞少清，就連我都能看出不對勁！這就是你的測試？”

秦康波瀾不驚：“最初的設計里沒(méi)有送禮物那一段，全部的對話(huà)和行動(dòng)我都事先預演過(guò)一遍，然后讓天樞根據俞少清的反應微調。送禮物那段是天樞自己加進(jìn)去的。我不知道它為什么要這樣做?！?/br>
言下之意是，這個(gè)鍋該由設計者你來(lái)背。

謝睿寒氣得七竅生煙！他堅持自己的架構沒(méi)有錯，不肯全盤(pán)推翻重來(lái)。事實(shí)上他們也沒(méi)有這個(gè)時(shí)間和預算全盤(pán)推翻重來(lái)。世界各國都踏上了研發(fā)超級人工智能的道路，而人工智能這個(gè)東西……誰(shuí)先研發(fā)出來(lái)，誰(shuí)就能支配世界。

他理想中的天樞是一個(gè)無(wú)所不能的“超人”，具有人的情感和思維，同時(shí)擁有人類(lèi)所不具備的能力，宛如一個(gè)游走在網(wǎng)絡(luò )之中的幽靈，收集龐大的數據，進(jìn)行人腦所不可及的高速分析，以此協(xié)助人類(lèi)工作——甚至可以取代人類(lèi)的一些職業(yè)。

在論證人工智能是否應當擁有人類(lèi)的情感時(shí)，很多專(zhuān)家提出了反對意見(jiàn)，有些人是出于道德層面顧慮：人類(lèi)應賦予擁有感情的人工智能何種地位？超級人工智能的出現是否會(huì )重新定義“人”的含義？人類(lèi)做好迎接它的準備了嗎？

也有一些人是單純從技術(shù)層面考慮的：假如我們只需要一個(gè)“好用”的AI，何必讓它擁有感情呢？

對于前者，謝睿寒的反駁是：“只有當這樣的人工智能真正出現，人類(lèi)才能知道該怎么對待它，在此之前，一切設想都是空想?！?/br>
對于后者，謝睿寒則更加不屑一顧：“超級人工智能具有如此強大的能力，完全超出了人類(lèi)的范疇，假如它叛變了怎么辦？我們需要一個(gè)能夠說(shuō)服的、通情達理的AI，而不是一個(gè)冥頑不靈的工具?！?/br>
他的設計完全遵循這樣的藍圖，結果卻不盡如人意。到底是哪里出了錯？為什么測試會(huì )失??？天樞又為什么要故意暴露自己？莫非人類(lèi)永遠都無(wú)法創(chuàng )造具有人類(lèi)思維的人工智能嗎？哪怕創(chuàng )造出了超級人工智能，它也絕對不會(huì )是人類(lèi)設想的那個(gè)樣子？

不，或許還有另外一種可能。

當排除了其他所有可能性，剩下的唯一一個(gè)，不論多么不可能，那都是真相。

可謝睿寒不愿，更不敢朝那個(gè)方面想。

“怎么了，小謝，臉色好差哦，又熬夜了嗎？”

年長(cháng)的女同事楊姐關(guān)切地問(wèn)。

正值午休時(shí)間，幾個(gè)研究員走向電梯，打算一起去用餐。

研究所地上部分不過(guò)是一棟樸素的五層小樓，地下卻是深達90米的圓柱形廣闊空間，白色的墻壁和地板，頭頂則是散發(fā)著(zhù)柔和光芒的天花板，宛如一整塊瑩亮的玉石。電梯位于研究所中央，是一根乳白色的管道，通過(guò)調節上下氣壓使電梯廂移動(dòng)。同樣乳白色的樓梯環(huán)繞管道電梯螺旋上升。所有的樓層圍繞著(zhù)中央電梯呈圓形分布。

謝睿寒搖搖頭：“在想事情?！?/br>
“想什么呢？一臉凝重的?！?/br>
“楊姐，你說(shuō)有沒(méi)有可能，”謝睿寒頓了頓，突然打了個(gè)寒噤，“天樞是故