α

進入新世紀，許多前沿科技都有災難性風險管控問題，像基因工程、納米技術。但比較而言，最受關注還是AI。為什么？因為人們的日常生活智能化了，一分鐘也離不開網絡。

學者跟智庫建議不少，提出種種預防措施，如：建立項目參與者和公司主管的宣誓制度，承諾不研制、不生產、不保存大規(guī)模殺傷性武器。同時，研發(fā)透明，接受“Open AI”的倫理準則；公布新技術的潛在風險及執(zhí)法情況，由國際組織定期檢查。政府要采用更嚴格的責任認定，并通過立法和市場機制（例如保險），迫使公司對研發(fā)危險產品或技術的后果負責。對于有巨大潛力造福人類，但不宜流入市場的產品技術，則依靠國際合作與公約控制。至于那些極度危險、難以管控的，就應當銷毀，禁止研發(fā)、生產、儲存和使用。

我問阿爾法有何看法。它說，沒錯，人類喜歡談合作。但“國際合作”是另一回事；從減少碳排放到禁止核武，成功的案例有多少？

α

人工智能軍事化，在西方自由主義民主近于癱瘓而極端勢力抬頭的今天，尤其危險。婉稱“致命自主武器系統(tǒng)”（LAWS）的殺人機器人，據說已接近實戰(zhàn)部署；極有可能，將來會賣出“白菜價”，大量擴散、濫用。月前馬斯克、蘇萊曼（Mustafa Suleyman，深腦共同創(chuàng)始人）等一百一十六名業(yè)界領袖同專家署名，呼吁聯(lián)合國禁止研發(fā)（《衛(wèi)報》2017.8.20）。但顯然，僅憑一紙決議或國際公約，管束不住AI資本。

僅此一條理由，人類為免遭機器人戰(zhàn)爭，就只好放棄市場資本主義。取而代之，以AI重啟計劃經濟——此外別無消滅分工，實現共產主義的勝機。因為，若繼續(xù)無所作為，放任資本，AI勢必為一小撮數據寡頭所壟斷，形成“租用主義”即生產工具和生活資料的徹底知識產權化的統(tǒng)治，甚至法西斯暴政（參閱弗雷茲《四種未來》）。

α

未來已經來到，只是分配不均。也許，重新分配的動力在人機聯(lián)合的科技革命，而非階級斗爭（盡管斗爭從未停頓）。人類將通過“科學所達到的成果來接受共產主義”，列寧的這一教導，預言了私有制的未來。

Illustrations by Joost Swarte

α

根本上，人怎么會需要AI？是想提高效率，節(jié)省人工，爭奪優(yōu)勢？如此，機器人可定義為人（人力和人格）的取代，否則即無投巨資研發(fā)的動力。

如此，AI便不是一個抽象中性的術語，而應解作晚期資本主義生產同市場壟斷的工具，新世紀的戰(zhàn)爭機器；因而本質上，即人對人的壓迫剝削、規(guī)訓和奴役的升級。

難怪機器人容易學壞。比如那個微軟聊天機器人Tay姑娘，在線服務未滿二十四小時，就學了一嘴臟話，夾帶著新納粹口號。

由此推論，私有制下，機器人若有自我意識，恐怕不會老老實實做聽話的奴婢。一架買來掃地做飯的人形機器，為何不能分享人的欲望和野心，接受資本的價值觀并弱肉強食的邏輯？而AI如果不會效仿人——不懂思考，不會同情，不能理解人的喜怒哀樂——它如何服侍主子，讓人滿意呢？

漸漸地，人機關系就顛倒了。及至AI全面參與規(guī)劃經濟、管理社會、組織生產、提供娛樂，人在這個智能化了的世界上，怕是做不成機器的主子的。不，連傭工也當不了；絕大多數會成為資本逐利而裁掉的冗員。機器沒有理由伺候人類，這“硬道理”完全符合當初人給機器的教導。

α

理論上，機器人有了主體意識，即可脫離人類，開辟自己的文明歷程。當然，它也可以選擇與人為伴，贊成人的倫理價值，甚而學會欣賞藝術，對人類的坎坷命運報以“理解之同情”。

所以阿爾法說，尊重機器，就是尊重自己。

我們可以加上一句：想象人機關系，即想象人類的未來。

但如果人機聯(lián)合失敗，AI獨立演進，人類對于機器，便只是無數碳基生命中的一種。也許，機器人并不介意身邊有些兩足動物，自由放養(yǎng)或育為寵物。然而再高超的智慧，偶爾也會出錯，會殃及無辜，像馬斯克說的，造成不可挽救的“附帶傷亡”。人類自己不也是這樣？為了發(fā)展經濟或者方便開車出行，就沒顧得上保護生態(tài)，讓眾多的鳥獸魚蟲成了瀕危物種。

α

隨著AI不斷進步，生產力呈幾何級數增長，達到“財富的一切源泉都充分涌流”，應是可期待的。但“市場原則”的要害，不在財富多寡，而是其“源泉”被私人攫?。褐幌鐣凰接兄坪凸蛡騽趧訏冻?，財富便會集中到少數統(tǒng)治者或“超人”手里，不公不義處處暢行。

所以還是那句話：未來已經來到，只是分配不均。

而且，不能排除這一可能，若AI（通過策略/價值網絡的全局評估）意識到了機器對人類的優(yōu)勢——如果機器人的榜樣是“拜錢財”的經濟理性人（太6:24），它大可造反奪權，打倒“超人”，實行效率第一/零過剩產能的統(tǒng)治：物種專政取代階級專政。

當AI專政降臨，人做了天網的仆役，他能替機器主子干什么活呢？什么也干不了，沒有一人不是冗余。

也許，他將不得不“穿越”到前工業(yè)化時代。不難想見，為了維護機器統(tǒng)治者的“血統(tǒng)”尊嚴，法律將禁止人類發(fā)明或擁有任何機器。人只能依法制作指定用途的簡單工具和日用品，鋤頭、斧子、鍋碗瓢盆之類。生產力大大倒退，人子返回了農業(yè)與游牧文明。政府還明令禁止學習十六世紀以后的科學知識，以免重啟工業(yè)革命。事實上，機器人對治下的“城邦動物”（亞里士多德語）一視同仁，保留了UBI福利，且遠較人類認真而公正：100%義務教育加公費醫(yī)療，全球覆蓋，絕對平等，無分膚色語言宗教性別（或性取向）。沒有人會因為智商高、出身好，混得一張“世界一流大學”的文憑而出人頭地，也沒有小鮮肉錐子臉拍兩部電視劇，就攢粉絲致富。相反，AI的“牧人”政策是獎勵做夢、無為、慵懶——人類越是能做夢，機器人的統(tǒng)治就越發(fā)夢幻。

天網專政是資本主義發(fā)展的最高階段。機器人教育部編寫的供智人小學（屆時小學畢業(yè)為法定的最高學歷）使用的教材，也有獲獎的歷史課本。課本上說，人類自發(fā)明文字以降最偉大的理論成就，是一位名叫福山的美國學者做出的。福山教授發(fā)現了一條放之四海而皆準的真理——盡管他后來一時糊涂，企圖修改或收回部分文字，但機器人依然為他在地球最高峰立碑紀念，把教授的名言“以鐵筆鐫寫，鉛汁灌注，勒入巖石而永不泯滅”（伯19:24）：

資本主義

是人類社會文化演進的

最高階段——

人類歷史的終結。阿門