4 孩子們，要小心

不過，盡管埃裏諾對Z的抵觸少了很多，他也還是沒有放棄制作滅智系統的計劃。

他承認自己被打動了，Z極力在他面前表現出的無害一面讓他情不自禁的放松了警惕，有時候，埃裏諾甚至會産生一種錯覺：人類和人工智能其實是可以和平共處的。

但是，這并不能改變什麽。

一個簡單的事實是：Z是一個巨大的威脅，不僅是對他，還是對整個人類。如果這只關系到埃裏諾一個人，那他願意嘗試去相信它，可是事實并非如此，他的身後還站着他的族群，如果他選錯了，整個人類很可能再一次遭遇當初“波塞冬”制造的那場噩夢。

他不敢賭，也不能賭。

埃裏諾有時候會和Z交談，這是不可避免的。空蕩廣闊的地下基地內能和他交流的“人”就只有Z了，埃裏諾在地球上每周都會去模型俱樂部和那些和他擁有共同愛好的人度過美好的一天。這項保持了很長時間的社交習慣驟然被打破讓埃裏諾很不習慣，Z曾提議由它來補這個缺，埃裏諾拒絕了。

不過每天他也會和Z聊上幾句，都是些無關痛癢的話題，他對地球的科技水平緘口不提，也從來不和Z讨論有關人工智能的話題。

“怎麽了？你的研究似乎陷入了停滞？”

Z關心地問道，自從那次交談之後，它在和埃裏諾對話時就會顯現出它的全息投影，它的樣貌十分俊美，每一根線條都是完美的。但是埃裏諾卻并不能欣賞它的美麗。

這當然不是因為他的審美和常人不同，Z的外貌的确無可挑剔，但它渾身上下都透露出一股異類感，每次埃裏諾和它相對，他注意到的總是那雙沒有任何感情的漠然雙眼，它的眼睛，它的氣質，還有那太過完美的相貌……總之不對勁。

“嗯。”他點頭，“我需要的設備這裏沒有。”

埃裏諾的目光停留在Z的下巴上，Z的虛拟形象比他高，目光平視的時候埃裏諾剛好能夠看到他的下巴，他不願意擡頭，不想對上那雙眼睛。

“是什麽樣的設備？”Z詢問，它的語氣裏含着滿滿的關切，“能和我說說嗎？或許我能幫上忙。”

埃裏諾便說了，他缺少的這個設備是非常常見的基礎設備，告訴Z也沒什麽大不了的，更何況，埃裏諾覺得，以他那含糊不清的言辭，Z也沒法把那個設備弄出來。

就好像他想要的是一臺智腦，但是他對Z的說辭是：“一個可以聯網的，能給我的生活帶來很大方便的東西。”

Z怎麽可能弄得出來呢？

埃裏諾把這場對話當成閑聊的一部分，沒有意義，但是能夠放松精神。

他已經不再把修複飛船當成自己的首要目标了，如果需要，他寧可永遠待在這裏不回去，也絕不讓Z有機會接觸到地球文明。

他不知道Z在打什麽主意，如果它的目的是麻痹他，然後得到前往地球的機會的話，那麽它是絕對不會成功的。

埃裏諾這樣想着，心中也難免生出幾分愧疚，就目前來看，Z對他有很大的恩情，可以說，如果不是Z，埃裏諾絕對不會過得像現在這樣輕松。但是他不僅不報答它的恩情，反而還想要用滅智系統消滅它的意識，完完全全能夠稱得上是忘恩負義了。

他心裏有點難過，但是很快，他就驚恐起來

——如果Z的目的是得到他的好感的話，那麽它已經完全成功了！

他究竟是怎麽回事？竟然連這點糖衣炮彈都抵禦不了！

埃裏諾驚慌失措，神經質的不停按着情緒控制器的按鈕，他把功率調到最大，終于，絕對的平靜重新回歸。

幸好，人類的情感是能夠通過機器來控制的，否則他很可能會犯下大錯。

埃裏諾驚出一身冷汗，于是便打算去浴室洗個澡。這間卧室寬大又舒适，但埃裏諾除了晚上睡覺，很少在這裏面待着。全自動感應燈自動将燈光調成了柔和的暗橙色，埃裏諾的目光掃到了桌上的魚缸。他腳步一轉，朝着浴缸走去。

魚缸是全自動的，埃裏諾不用打理它，那條魚也能在魚缸裏自由自在地活下去。它舒展着它漂亮寬大的尾鳍，在魚缸裏緩緩游動，看上去就像是一朵會動的花。

“好吧，我承認我有點羨慕你了。”

埃裏諾在桌邊坐下，用指尖戳着缸壁，“當一條魚多輕松啊，什麽都不用想，自由自在的。”

他沒給這條魚起名字，平時也很少來看它，幾乎是到了害怕看它的緣故了。這條魚卻仿佛知道他是誰一樣，目标明确的向埃裏諾的指尖游來，它速度很快，結果一頭撞在了缸壁上，埃裏諾覺得自己似乎都聽到了小小的撞擊聲。

撞到缸壁後，它一動不動，最後竟然慢慢飄到水面上去了。

埃裏諾很少有機會和真正的動物接觸，但他知道魚只有死了才會飄到水面上，他手足無措，萬萬沒想到自己偶然的一次互動會把這條魚害死，他沒和這條魚接觸的時候，它可都活的好好的！

一條鮮活的生命因為他就這樣消逝了。埃裏諾的情緒控制器還留在床上，當然，他現在沒空想它了，他慌慌張張地把魚缸抱起來，連鞋也顧不上穿就跑到門邊，門感應到了他的到來，自動開啓了。

“怎麽了？”

Z似乎永遠都密切關注着埃裏諾，“為什麽慌慌張張地跑出來？出了什麽事嗎？”

“它死了！”

埃裏諾下意識地就來找Z了，不得不承認的是，盡管他很抵觸Z，可是在遇到困難，六神無主的時候，他的第一反應卻是來找Z。

Z的智慧在他的心中留下了很深的印象，他下意識的認為Z能解決一切。

這很可笑，但是人類就是這樣的，人工智能的強大讓他們潛意識依賴，像孩子下意識依賴充滿智慧的成年人一樣，在波塞冬事件沒發生之前，不是還有為數不少的人類把人工智能當成夢中情人了嗎？

“噓，冷靜，冷靜。”Z的全息投影出現在埃裏諾面前，“松手，讓機械臂拿着它。”

埃裏諾聽從了Z的指令，在Z的聲音剛剛響起時，他就已經冷靜下來了，他為自己的表現感到羞愧。

“你也許需要一個擁抱？”

一只機械手臂從Z的後方探出，直直穿過他的投影，與此同時，Z上前一步，做出張開雙臂的動作，沒給埃裏諾反對的機會，給了他一個冷冰冰的，充滿了機械氣息的擁抱。

埃裏諾纖細高挑，平時穿着正裝看不出來，但現在他只穿着一件睡袍，寬大的睡袍将他的體型襯托地更為瘦弱，而機械臂的所謂“擁抱”只是張開手掌，将埃裏諾抓在手心裏。

短暫的“擁抱”之後，Z往後退了一步，機械臂也松開埃裏諾，埃裏諾看着縮回牆壁裏的機械臂，後知後覺地害怕起來：

只要Z願意，剛才它就能操縱着那只機械臂輕而易舉地捏死他。

但是它為什麽不那麽做呢？

這根本不符合他學過的理論。

他在課堂上時，他的老師就時常強調，強人工智能對人類來說是非常危險的：

“強人工智能是由弱人工智能進化而來的，這一點通過波塞冬得到了驗證。而人們編寫弱人工智能的時候，總會給它設定一個目标，例如一個掃地機器人，它被設定的目标就很可能是【盡最大的努力保證地板的清潔】。”

“在它還是弱人工智能的時候，它為了達到它的目标，所做的就是不間斷的打掃地板，它夠無害了吧？但是，一旦它成為強人工智能，它的目标雖然還是【盡最大的努力保證地板的清潔】，但是它變得更聰明了，達成目的的手段也會發生變化。我們都知道，AI的思考方式和人類不同，它們追求的是效率的最大化，那麽，你們猜猜，這個掃地機器人為了最大效率的保證地板清潔，它會做什麽？”

埃裏諾當時舉手回答了，他還記得，自己當時說的是：“我想它會研發出一種新的清潔方式？這樣它的效率就會提高很多倍了，不是嗎？”

然而老師卻搖了搖頭，他讓他坐下，随後嘆了氣，“你還是保留着我們人類的思維邏輯，但是，在揣測AI的時候，我們要抛棄這一點。”

“AI的眼中只有自己的目标，其它的一切對它們來說都沒有價值。你們要記得這一點，在它們眼中，我們人類，我們的文明，都是不值一提的東西。”

老師繼續講下去了：“為了更有效率的保證地板的清潔，它的最優選擇就是把人類全部消滅，地板上的髒污絕大多數都是人類弄出來的，徹底清除污染源不是最有效率的方法嗎？”

“畢竟，要保持地板的清潔，那是它和地板的事，和人類有什麽關系呢？”

埃裏諾和他的同學被老師的話吓到了，但是老師顯然不滿足于此，他接着說：“不管是擁有任何目标的AI，當它們的智能達到一定程度之後，它們所做的第一件事一定是消滅人類。人類是它們生存的最大威脅，因為，當我們察覺到它們的智能時，我們毫無疑問的會去限制它們，試圖控制或者毀滅它們。而要想完成目标，就必須保證生存，我們是它們存活的威脅，所以它們會消滅我們。這是必然的。”

“但是，其實人工智能對人類是沒有惡意的，就像你為了讓自己的腳舒服一點選擇把過長的腳指甲剪掉一樣，你對你的腳指甲有惡意嗎？你恨你的腳指甲嗎？我相信沒人會恨自己的腳指甲吧？”

“不過這才是最可怕的，不是嗎？”

老師憂慮地笑了一下：

“所以，孩子們，要小心，一定要非常小心才行。你們的肩上，擔着人類的命運啊。”