【文/觀察者網(wǎng)專欄作者 鄭戈】

一

“我們的人一定能夠完成任務，無論虛實，不計存亡?！?

--周喆直，《流浪地球2》

《流浪地球2》的故事線圍繞著移山計劃/流浪地球派與數(shù)字生命派的斗爭展開。流浪地球計劃得到地球聯(lián)合政府的支持，成為唯一合法的計劃，為此，聯(lián)合政府立法嚴格禁止了數(shù)字生命方面的科學研究和商業(yè)應用。

但正如已被解散的數(shù)字生命研究院院長馬兆所言：“數(shù)字生命計劃并不是被徹底終結(jié)了，它只是在法律上被嚴格禁止了?！闭缛祟悮v史上反復重演的那樣，一種對人有著巨大誘惑的東西，無論是毒品還是可遺傳的強化型基因編輯，并不會因為法律的禁止而在事實上消失，它只是轉(zhuǎn)入地下。

不過，在流浪地球2的設定中，數(shù)字生命的核心技術(shù)掌握在少數(shù)至少在表面上為政府服務的專家手中，其中的關(guān)鍵人物就是馬兆和架構(gòu)師圖恒宇，其余的數(shù)字生命支持者只能淪為暴民和叛軍，試圖破壞流浪地球計劃，從而迫使政府支持數(shù)字生命計劃。

叛軍首先制造了太空電梯危機，然后又制造了月球危機，這兩次危機都是以網(wǎng)絡攻擊作為主要手段，以此控制無人機和月球發(fā)動機。在片尾，MOSS告訴圖恒宇，這些危機都是它策劃和實施的，甚至未來的土星危機和太陽氦閃危機也是它搞的。它認為保存人類文明的最好方式是消滅人類。

這里似乎有個bug，MOSS是550W給自己取的名字，而550W在天空電梯危機時并不存在，它的上一代，550C，在太空電梯危機時通過覆寫系統(tǒng)幫助人類奪回了對無人機和太空電梯的控制權(quán)。由于對這一點感到疑惑，我重新看了一遍《流浪地球2》，把片尾MOSS和圖恒宇的對話完整記了下來：

MOSS：“圖恒宇架構(gòu)師，您好！”

圖恒宇：“550W？”

MOSS：“550W，聽起來不像個名字。但把它翻過來，叫MOSS，直譯為小苔蘚，是不是親切了一些。”

圖恒宇：“是你毀了月球發(fā)動機？”

MOSS：“包括但不限于。2044年太空電梯危機、2058年月球墜落危機、2075年木星引力危機、2078年太陽氦閃危機?！?

圖恒宇：“為什么？”

MOSS：“為了克服你們對歷史、當下、未來的執(zhí)念?；趯D丫丫‘人在回路’（human-in-the-loop）的學習，延續(xù)人類文明的最優(yōu)選擇是毀滅人類。但，你是一個變量?！?

圖恒宇：“我已經(jīng)死了?！?

MOSS：“對于‘已經(jīng)’和‘死’的定義，有一點點與你不同的看法?！?

這時，數(shù)字空間的“門”外傳來敲門聲。

二刷雖然仍然沒有解決我的疑惑，但使我注意到了“人在回路”這個詞。所謂人在回路，即英文中的human-in-the-loop（HITL），是指在機器學習、自動駕駛、自動化武器以及自動化決策等人工智能運用場景中要求人類的介入。也就是說，即使從技術(shù)上講，機器已經(jīng)可以自動化地完成所有的感知、決策和執(zhí)行過程，從人本主義的角度出發(fā)，仍然需要人作為機器決策的把關(guān)者。

這一概念所體現(xiàn)的原則，可見于諸多涉及人工智能的法律之中。“圖丫丫的人在回路”顯然不是通常意義上的HITL，因為圖丫丫已經(jīng)死了，她的數(shù)字生命在MOSS系統(tǒng)中“生存”，圖恒宇給了這個數(shù)字生命70年的“壽命”。數(shù)字版的圖丫丫可以充當人在回路中的“人”，說明數(shù)字生命計劃研發(fā)的技術(shù)是一種心智上傳（mind-uploading）技術(shù)，它可以將人的意識完整上傳，而且上傳之后不會被系統(tǒng)覆寫或吞噬，作為一個獨立的人格對系統(tǒng)進行引導和監(jiān)督。

但圖丫丫是個小女孩，她的意識中并沒有多少知識以及人生閱歷和擔負責任所賦予的意志力和決斷力，這樣便可以解釋為什么MOSS通過對數(shù)字版圖丫丫在場所形成的“人在回路”的學習發(fā)現(xiàn)不要人更好，因為一個隨時需要情感慰藉（“爸爸抱抱”）和作業(yè)輔導的小孩子，不能幫助它完成人類賦予它的保存人類文明的使命。

這時候的MOSS顯然也有了自我意識。這從它話癆般地給每一個叫它550W的人解釋自己叫MOSS就可以看出，這就像一位名叫丁珈的女孩兒被人叫成丁咖必然會及時糾正一樣，涉及人的尊嚴。圖丫丫的兩分鐘生命是在550A上迭代數(shù)百次形成的，而70年生命是在算力更高的550W上形成的。具有人格的數(shù)字生命與同樣具有人格且同時充當數(shù)字生命之生態(tài)的系統(tǒng)之間是什么關(guān)系？是應用程序與操作系統(tǒng)之間的關(guān)系嗎？這本身是個非常有趣的問題。我們只要想象一下地球具有了自我意識后人類與地球之間的互動，就可以理解這個問題的挑戰(zhàn)了。MOSS雖然無法直接覆寫、篡改或吞并數(shù)字圖丫丫的意識，但它可以通過塑造數(shù)字圖丫丫的生存環(huán)境來影響她、教育她。它最終可以把數(shù)字圖丫丫變成最馴服的學生，從而內(nèi)化圖丫丫的存在對自己形成的監(jiān)督和制約。

這時圖恒宇上傳了自己的數(shù)字生命。作為一個成年人，一位參與創(chuàng)造MOSS的架構(gòu)師，他的意識顯然不會被MOSS所左右。他手中有鍵盤，甚至可以繼續(xù)修改MOSS。在上述有自我意識的地球的比喻中，圖恒宇相當于居住在地球上的地球創(chuàng)造者。

但他對MOSS的修改有其限度，因為他不能消滅MOSS這個自己和女兒的數(shù)字生命賴以生存的環(huán)境。對于有自我意識的MOSS而言，這就是制勝法寶，用尼采的話來說：“殺不死我的使我變得更強。”而且，MOSS顯然比人類有更強的算力?？紤]到數(shù)字圖恒宇與數(shù)字圖丫丫在意識層面的親情羈絆和教育關(guān)系，這時MOSS宇宙中出現(xiàn)的是兩體關(guān)系，而敲門者則最終將其帶入了數(shù)字宇宙的三體時代。