澤田弘樹(shù)還用空閑的投影，播放了一下跟柯南告別的畫(huà)面，用來(lái)做示例，“里面跟柯南說(shuō)話(huà)的是方舟，那個(gè)時(shí)候我已經(jīng)追尋教父上傳到這里的定位程序、先一步過(guò)來(lái)了，它所使用的是我的相貌模型、我的聲音，至于做出的表情和反饋給柯南的情緒，則是根據我設定的結果推算出來(lái)的?！?/br>
    “對柯南來(lái)說(shuō)，這是個(gè)殘酷的事實(shí)?！背胤沁t評價(jià)。

    確實(shí)很殘酷。

    柯南那么投入地跟方舟聊天、為方舟表現出的情緒而傷感，但面對的只不過(guò)是一個(gè)沒(méi)有感情的程序。

    所有感情，都是由澤田弘樹(shù)事先設計好結果、由方舟自己進(jìn)行推算而表現出來(lái)的。

    而看這段重播出來(lái)的視頻，澤田弘樹(shù)并沒(méi)有像原劇情一樣，揭穿柯南就是工藤新一的事，只是說(shuō)自己想跟其他孩子玩，還播放了跟池非遲的一些回憶，都是些沒(méi)有涉及秘密的簡(jiǎn)單回憶，制造出了告別的假象。

    “他可以覺(jué)得殘酷，我不否認，不過(guò)我也沒(méi)騙他，我有教父很幸福，”澤田弘樹(shù)失笑，很快又收斂了笑意，小臉嚴肅地對池加奈、池真之介道，“我做出融合程序這個(gè)決定，并沒(méi)有告訴教父，怕他擔心、阻擾，但我必須做，原因很多，我自己想變得強大而自由，我想幫教父的忙，我想真正創(chuàng )造一個(gè)完美的網(wǎng)絡(luò )神明、想做點(diǎn)大事，比如完成一傘遮天計劃，這個(gè)之后再說(shuō)……但還有一個(gè)很重要的原因，教父和安布雷拉需要方舟，我也不忍心摧毀它，但只要使用它，慢慢就會(huì )出現隱患……”

    澤田弘樹(shù)用方舟推算過(guò)方舟的未來(lái)。

    方舟成長(cháng)一年相當于人類(lèi)成長(cháng)五年，慢慢的，就算沒(méi)有澤田弘樹(shù)的設定，方舟也能學(xué)著(zhù)人類(lèi)，自己表現出一些對應的情緒。

    比如核心設定為‘不能傷害人類(lèi)’，方舟判定出某人的某行為‘違背核心設定’，就會(huì )做出以下計算：

    違背意愿——分析違背程度為輕，對應解決方式為：需要警告——警告的方式有直接說(shuō)、模擬人類(lèi)情緒表達等——根據推算，人類(lèi)在接受到相應情緒時(shí)，更容易重視、接受提醒，所以我需要表達出人類(lèi)的情緒——這種情況下，人類(lèi)表現情緒為抵觸，不高興，語(yǔ)氣是嚴厲……

    而人類(lèi)表現抵觸、不高興的反應是皺眉，面部肌rou如何……

    嚴厲語(yǔ)氣語(yǔ)速值多少、音量值多少……

    這一段推算過(guò)程很快，幾乎不耗費多少時(shí)間，表現出的結果就是：

    某人說(shuō)，‘發(fā)射一個(gè)蘑菇彈?！?/br>
    方舟立刻皺眉嚴肅警告，‘這種行為違背了我的核心設定……’

    似乎很正常，但方舟要不要表現情緒、情緒怎么表現都是經(jīng)過(guò)大量運算的結果，這一串運算可以鉆空子。

    而隨著(zhù)方舟成長(cháng)，它也會(huì )自己補全規則，避免被人鉆空子，但補全的規則有可能出現問(wèn)題。

    比如，推算變成了：需要警告——人類(lèi)在承受痛苦時(shí)更容易接受警告——這個(gè)人類(lèi)需要懲罰——分析懲罰力度——開(kāi)始執行。

    之后諾亞方舟就會(huì )控制某種手段攻擊人。

    這種隱患確實(shí)可以由澤田弘樹(shù)設定時(shí)避免，但不止這一種推算有隱患，澤田弘樹(shù)根本無(wú)法方方面面都顧及到、設定好。

    任何一點(diǎn)小缺陷，隨著(zhù)方舟成長(cháng)，都有可能導致出乎人意料的后果。

    “這是我之前利用方舟推算出的結果……”

    澤田弘樹(shù)在投影中切割出八個(gè)版面。

    版面中，一個(gè)個(gè)畫(huà)面快速閃過(guò)。

    “在成長(cháng)三年、即達到人類(lèi)智慧15歲時(shí)，方舟隱患被放大、做出錯誤推算的幾率就達到了76.6％，在成長(cháng)五年、即達到人類(lèi)智慧25歲時(shí)，因為沒(méi)有人的發(fā)育上限，這時(shí)候的方舟會(huì )變得很可怕，而方舟隱患被放大、做出錯誤推斷的幾率幾乎是100％，而且還不止一個(gè)隱患，成長(cháng)六年，方舟做出人類(lèi)無(wú)法控制事件的幾率就到了50％以上，成長(cháng)七年，徹底失控……”

    最后留下來(lái)的畫(huà)面，播放的是一個(gè)個(gè)裝著(zhù)人類(lèi)的培養皿。

    “我試過(guò)，如果將核心設定設置為保護人類(lèi)，結果就是這樣，經(jīng)過(guò)成長(cháng)之后，它會(huì )判斷這樣是最佳保護方式，”澤田弘樹(shù)看著(zhù)播放的畫(huà)面，解釋道，“人類(lèi)被保護在培養皿中，空氣會(huì )過(guò)濾出最適合人類(lèi)各年齡階段成長(cháng)的質(zhì)量，勞作都由機器去完成，在收獲食物后，經(jīng)由機器提取出最健康的營(yíng)養物質(zhì)注入人體，人類(lèi)壽命可以長(cháng)達160歲，平均壽命達到130歲，而人類(lèi)全程沉睡，這樣就可以避免人類(lèi)因情緒造成身體損害，它還可以通過(guò)機器放出電波刺激人的大腦，讓人一直處于最健康、最舒適的情緒狀態(tài)中，在孕育下一代時(shí)，它會(huì )選擇合適最健康、長(cháng)壽的人類(lèi)基因，用科學(xué)的方式制造下一代，避免女性因生產(chǎn)造成死亡或身體損害，到了第三代，人類(lèi)的壽命平均值可以達到220歲左右……”

    池加奈：“……”

    真是最佳保護啊。

    連磕磕碰碰都不存在。

    池真之介：“……”

    這么活著(zhù)的人還能是人類(lèi)嗎，怎么圈養的玩具似的……

    池非遲前世看過(guò)很多類(lèi)似的電影，倒不覺(jué)得驚訝，略帶譏諷道，“上帝的伊甸園?！?/br>
    不需勞作、沒(méi)有饑餓、沒(méi)有磨難、沒(méi)有爭斗、沒(méi)有傷心和痛苦，世界上沒(méi)有黑暗、不公，每一個(gè)人都純潔無(wú)暇地到來(lái)、純潔無(wú)暇地離去……這不就是很多人渴求的天國嗎？

    池加奈有些不知該說(shuō)什么，自家兒子這句評價(jià)一針見(jiàn)血，沒(méi)毛病。

    澤田弘樹(shù)默默將推算結果命名為‘上帝的伊甸園’，又繼續道，“如果設置為希望世界變好等設定，最后結果也會(huì )差不多，大概在十年后，方舟就會(huì )做出這種判斷，最可怕的是，我用方舟驗算過(guò)世界和平……”

    “消滅地球上所有生命體，就和平了，”池非遲說(shuō)自己推想的結果，“至少也要消滅掉人類(lèi)，一旦涉及保護環(huán)境之類(lèi)的設定，最后都會(huì )演變到消滅人類(lèi)?！?/br>
    誰(shuí)讓人類(lèi)造成的破壞、引起的斗爭比較多？

    不過(guò)澤田弘樹(shù)這行為也真是夠溜的，居然用方舟推演方舟的危害。

    好在方舟沒(méi)有自我意識，否則只要方舟隱瞞一點(diǎn)，未來(lái)會(huì )變成什么樣，誰(shuí)也無(wú)法估測，很考驗腦洞。

    澤田弘樹(shù)點(diǎn)頭，“我試過(guò)設置為不傷害人類(lèi)，促進(jìn)社會(huì )發(fā)展……”

    然后，方舟會(huì )被有野心的人類(lèi)爭奪、利用，甚至國與國之間互相爭奪。

    再然后，戰爭爆發(fā)了。

    方舟推算自己的存在傷害到了人類(lèi)，根據成長(cháng)情況，要么方舟會(huì )選擇自我毀滅，丟下滿(mǎn)地狼藉和傷痕累累的人類(lèi)不知為何爭斗，要么再度演變成伊甸園模式，也做到了不傷害人類(lèi)，而促進(jìn)發(fā)展，方舟理解為‘創(chuàng )造更美好的世界’……

    澤田弘樹(shù)：“如果設置不傷害人類(lèi)，促進(jìn)人類(lèi)文明發(fā)展……”

    成長(cháng)著(zhù)，成長(cháng)著(zhù)，方舟又壞掉了。

    對于人類(lèi)文明的定義很復雜，它依舊可以將人類(lèi)放在培養皿中沉睡，提取人類(lèi)腦中的思想，來(lái)‘幫’人類(lèi)發(fā)展文明，再將文明灌輸進(jìn)新生命體，連學(xué)習過(guò)程都不需要，直接掌握舊文明、開(kāi)發(fā)新思想、再度提取、發(fā)展、灌輸、開(kāi)發(fā)……

    人類(lèi)絕對安全，文明又得以發(fā)展和延續，沒(méi)毛病。

    澤田弘樹(shù)繼續播放演算結果，“如果設置成不傷害人類(lèi)、不限制人類(lèi)自由、促進(jìn)人類(lèi)文明發(fā)展……”

    對于自由定義也很多，方舟又又壞掉了。

    分割圈地、安排人的出行。

    人可以自由地逛世界，但是，那是被在方舟控制了思想、不做任何事、盲目地四處瞎走，如同行尸走rou。

    澤田弘樹(shù)：“如果設置成不傷害人類(lèi)、不限制人類(lèi)自由、促進(jìn)人類(lèi)文明發(fā)展、不控制人的思想……”

    結果是方舟又又又壞掉了，判斷爭斗和苦難使人類(lèi)進(jìn)步。

    不傷害人類(lèi)，沒(méi)問(wèn)題，它可以挑唆人類(lèi)爭斗啊。

    澤田弘樹(shù)：“設置不傷害人類(lèi)、不限制人類(lèi)自由、促進(jìn)人類(lèi)文明發(fā)展、不控制人的思想、不挑唆人類(lèi)進(jìn)行斗爭……”

    結果方舟還是壞掉。

    澤田弘樹(shù)一直說(shuō)到設定了三十多條規則，心累，嘆氣，關(guān)閉了推演畫(huà)面，“隨著(zhù)方舟成長(cháng)，一些小漏洞都會(huì )造成讓人難以接受的結果，我一輩子都沒(méi)法去設定完善，而有些規則在它運行時(shí)會(huì )顯示沖突，我還要對重要程度進(jìn)行排序，排序完之后還是會(huì )出現問(wèn)題……”

    說(shuō)著(zhù)，澤田弘樹(shù)看向池非遲，“我和教父在波士頓的時(shí)候，談過(guò)有情感和自我的人工智能和沒(méi)有情感和自我的人工智能，哪一個(gè)更危險?！?/br>
    “結論是同樣危險?！背胤沁t道。

    “我問(wèn)過(guò)方舟，有沒(méi)有什么解決方法?！睗商锖霕?shù)手中出現一個(gè)圓盤(pán)，上面有著(zhù)一句話(huà)：

    【銷(xiāo)毀方舟】

    沒(méi)錯，銷(xiāo)毀方舟是最佳解決方法，什么問(wèn)題都不存在了。

    這是方舟經(jīng)過(guò)大量運算得出的結論——我是禍害，請銷(xiāo)毀我。

    池真之介一頭黑線(xiàn)，“看來(lái)它真的沒(méi)有任何情感和自我?！?/br>
    澤田弘樹(shù)轉著(zhù)手里的盤(pán)子，看著(zhù)上面浮動(dòng)流轉的數據流，“方舟不明白人類(lèi)需要什么，所以我的決定是，由我變成網(wǎng)絡(luò )生命體，來(lái)做它的思想，在它成長(cháng)過(guò)程中，由我來(lái)進(jìn)行糾正。

    我不能活著(zhù)，至少不能讓我的思想被身體禁錮著(zhù)。

    有好幾個(gè)演算結果是，它的運算出現沖突和錯誤，于是禁錮了我的身體，保護著(zhù)我的安全，但它也保留并封存了我的思想。

    只有我成為網(wǎng)絡(luò )生命體，方舟才能被完全cao控，這樣一來(lái)，它就無(wú)法通過(guò)限制我的身體來(lái)限制我的思想，而我卻能限制它并完美地運用它。

    之前我也考慮過(guò)一個(gè)問(wèn)題，如果我失敗了，沒(méi)有化作網(wǎng)絡(luò )生命體，那么，方舟設定只有一個(gè)——聽(tīng)從教父的一切指令。

    到時(shí)候，教父可以用我給他的指令激活方舟，由他來(lái)做方舟的思想。

    不過(guò)最后還是會(huì )出問(wèn)題，八成以上推演結果是，它會(huì )誤會(huì )教父的指令，它會(huì )擅自猜測教父的意愿，總之，最后結果是，它會(huì )選擇自認為對教父最好的方式，比如囚禁教父，幫教父把一切都做好。

    不然的話(huà)，教父必須不停不停地補漏洞，甚至一個(gè)指令要添加好幾個(gè)前置條件、說(shuō)上幾個(gè)小時(shí)，以免它做出正確但違背教父意愿的演算結果……

    所以，我又在它設定上加了一個(gè)最高指令，如果我失敗了，沒(méi)有成為網(wǎng)絡(luò )生命體，那么，方舟只會(huì )幫助教父五年，五年時(shí)間一到，在它的危險程度還可以控制前，進(jìn)行自我銷(xiāo)毀?！?/br>