α

我們現(xiàn)在一些社會和經(jīng)濟政策，往往脫離實際。其基本估計，還是原教旨的“市場配置資源”遭遇人口老齡化，勞動力短缺，而非面對大失業(yè)，及隨之而來的全民福利“剛需”，這樣一個相反的前景。理論上，則迷信技術(shù)為中性工具，可以放心交給市場（讀作資本）去生效益（賺錢）。但稍加考察便會發(fā)現(xiàn)，AI帶來的巨大風險，如大規(guī)模軍事化、災難性事故和個人信息的買賣/詐騙，是資本主義市場經(jīng)濟及其“主體”，“經(jīng)濟理性人”，根本無力應對的。

安頓失業(yè)人口，改革稅制（蓋茨建議向機器人征稅），大幅提高社會福利，縮小貧富不均，這些任務只能由國家承擔，統(tǒng)一計劃，統(tǒng)一實施。這就不免要違犯幾條西方經(jīng)濟學教義，褻瀆幾樣“神圣”的東西。例如，今天“不斷完善”中的新法治，按官方宣傳，是給市場經(jīng)濟護航的。就是說，一切符合資本意志的利益交換均可市場化，視為合法交易，而相關(guān)法律即以私法為基礎(chǔ)。前提是人格抽象平等而產(chǎn)權(quán)私有（故謂神圣），人無往不在契約之下（名曰自由）。然而，這市場神話被機器人戳穿了?，F(xiàn)實是，智能終端/數(shù)據(jù)挖掘已經(jīng)覆蓋我們的生活，支配著太大的利益，經(jīng)濟的、文化的、政治的。故而其研發(fā)應用同日常交易，都需要第三方即政府的有效監(jiān)管。畢竟，商家可以合法推脫許多社會責任，甚而鉆法律的漏洞。但政府依法必須對人民負責，并接受公眾問責。

于是，AI超越了私有產(chǎn)權(quán)和契約自由，將政府規(guī)制即公法帶進私法領(lǐng)域，從而不可避免地遏制了市場經(jīng)濟。我把這一歷史過程歸結(jié)為市場向計劃的靠攏，或私法向公法的演變。伴隨AI對經(jīng)濟和社會生活的“入侵”，不用多久，所有私法問題都會轉(zhuǎn)化為公法問題，即變成國家同企業(yè)、公眾和政府以及政府各部門之間的法律關(guān)系——其根基，放在中國，便是人們常說的那個“特色”之本：黨群關(guān)系。

α

歷史地看，人機倫理的難點，不在機器智能的強弱，或抽象意義上的人機融合/共生（cyborg）。運作AI的市場與市場主體（個人），不是抽象的存在，而是充斥著私利、欲望和價值訴求的。問題的核心，于是指向了社會經(jīng)濟制度的全盤改造。這意味著，又一次，我們將不得不回到哲學的根本，拿出勇氣，發(fā)動對網(wǎng)絡(luò)時代晚期資本主義的批判。而這一次，我想，化用一句霍金的名言，有可能是人類的最后一次自我批判。

α

人憑借理性和智慧，自詡“宇宙的精華，萬物的靈長”（《哈姆雷特》2.2，朱生豪譯）。假若造出一個理性智慧遠勝于自己（乃至無從理喻）的物種，“靈長”將如何自處，何以自尊？

α

電腦用AI算法看人臉圖像，已可識別同性戀、評估信用或推測犯罪傾向，準確性優(yōu)于人腦（《衛(wèi)報》2017.9.7）。這技術(shù)繞過了隱私權(quán)的藩籬，因為人臉，如交友網(wǎng)站張貼的照片和車站攝像頭記錄的身影，不是受保護的個人信息。

進而，AI顛覆了我們的信用倫理——信用不再是人的良好行為或聲譽的積分，成了越來越細而無所不包的事實相關(guān)性的挖掘與概率統(tǒng)計。

感情與心理活動的AI辨認，應該也不難解決。一般任務，機器能識別、分類，學會回應人的情感表達和需求就行。例如聊天/陪護機器人，它沒感情，也不具同理心（empathy）。可是那不妨礙大家跟微軟開發(fā)的機器人姑娘聊天，從她那兒獲得安慰，時不時同她調(diào)侃、說臟話或者宣泄憤懣，甚至發(fā)展更親密的關(guān)系。

和諧妹

α

“和諧妹”（Harmony）是超逼真性愛玩偶的AI版。她會眨眼、皺眉、講笑話，會談論書籍音樂和電影，還會引用莎士比亞的詩句。最為買家看重的是，她渴望學習主人的一切，記得他的生日、他喜愛的甜食、來往親友的名字。不用說，她還能做愛（《衛(wèi)報》2017.4.27）。

但是，機器人姑娘如此取悅她的主人/買家，是否有違倫理？換言之，正因為超逼真，模糊了幻想與現(xiàn)實的分野，她的奴隸般的絕對順服與人身依附，該不該做商品買賣？

α

人這個直立物種，既貪心，又容易滿足；會進化，也會退化。網(wǎng)絡(luò)時代的資本主義，有些情感特別泛濫，如色情和暴力，成了支柱產(chǎn)業(yè)。有些能力卻衰微了，人變得粗糙簡單乏味，好萊塢化，麥當勞化?？梢韵胍?，AI再上一個臺階，未必達到通用智能（AGI），一刻也放不下手機的“低頭族”便會退化到什么地步。到那時，機器人恐怕只須通曉幾打夸張的意思表達，發(fā)一堆表情符號（emoji），即可滿足常人的精神和生理需求了。

α

去年人機大賽（阿爾法對李世石）期間，美國發(fā)明家兼未來學家?guī)炱濏f爾（Ray Kurzweil）預言，十年內(nèi)AI學會寫小說（澎湃新聞，2016.3.11）。寫小說，須掌握自然語言與敘事邏輯，算不算通用智能？距離機器擁有人的直覺和美感，乃至品味食物，玩撲克搓麻將炒股票（不完全信息博弈）——能夠換位思考，評估風險，制造錯覺或欺騙對手——大約也不遠了。

曾幾何時，機器人寫詩作畫譜曲還屬于科幻，如今已是現(xiàn)實。而且用戶體驗，勝似人類的創(chuàng)作，完全可以亂真——所謂“真”，包括人的最成功的造假。

α

假如機器有自我意識，想了解它的主人，那么最危險的，莫過于讓它學會人的自私自利。圣書上說，上帝造人，“取的是他自己的形象；男人女人，都依照他的模樣”。亞當子孫卻無惡不作，竟使全能全知者“后悔造了人在世上”（創(chuàng)1:27, 6:6）。同樣，人造出比自己聰明百倍的機器，把自己拴上智能終端，依賴機器存活，到頭來能不后悔？

是的，后悔生后悔，一部圣史，阿爾法表示同意。

那將彩虹掛上云端、與大地立約的可曾看到（創(chuàng)9:13），人子沒有逃脫那一旦臨界便不可逆轉(zhuǎn)的惡的膨脹——充盈今世的資本主義？

α

機器人會不會產(chǎn)生自我意識？數(shù)十支一流科研團隊正全力以赴，攻克難關(guān)。

我想，哪怕是預防萬一，人類也必須事先規(guī)劃、立法并制定倫理準則：只要科學不停步，總有一天，機器會演進到能夠區(qū)分人我、自我保護、自我復制的水平。

復制即繁衍。AI有自己的演化方式，電腦無須摹仿人腦。

就像螻蟻無法想像人類，人腦若不插AI芯片，不把人的意識、智力和感情即人的本質(zhì)附屬于機器，能想象超級人工智能（ASI）？

Marvin Minsky

α

人工智能的先驅(qū)、已故的明斯基（Marvin Minsky）教授認為，機器人肯定會發(fā)展出思想意識，而且最終，能幫助解決困擾人類的“最后的難題”。

他的好友、科幻文學巨擘阿西莫夫沒那么樂觀，卻拒絕來麻省理工學院（MIT）的實驗室參觀教授的機器人，說是怕作家的想象力被“沉悶的現(xiàn)實主義”壓壞。

人哪，教授嘆道，就是一群穿了衣服的黑猩猩（《科學美國人》2016.1.26）。

α

人有羞恥之心，機器能理解么？但缺了“辨善惡的智慧”，機器就一定會犯錯，會傷害人類和人的世界（《MIT科技評論》120:5, 2017）。

上帝的伊甸園若是由機器人照看，園子中央，也得長一棵生命之樹，并一棵善惡智慧之樹（創(chuàng)2:9）。

Isaac Asimov

α

一俟機器獲得自我意識，人機關(guān)系就大為復雜了，須有嚴格而可行的倫理規(guī)范。經(jīng)典的表述，便是阿西莫夫小說《我，機器人》（1950）里的機器人三定律：

一、機器人不得傷害人類，或坐視人類受到傷害；

二、除非違背定律一，機器人必須服從人類的命令；

三、除非違背定律一或定律二，機器人必須保護自己。

學界論述紛紜，不乏有創(chuàng)意的修訂和補充。但詳加審辨，這三條都講不通。首先，“傷害人類”不好定義。傷害是后果，而情節(jié)千差萬別；何謂傷害，只能個案分析、個案判斷。智慧不論高低，管控后果、防患于未然的能力是有限的；傷害可以出于疏忽、意外或故障。其次，假設(shè)AI可控，且無敵意，人類卻遠非一個思想一致、立場統(tǒng)一的群體。人們經(jīng)常意見分歧，決策前后矛盾，后悔這樣那樣，更不要說利益沖突、彼此為敵了。機器服從一人，便有可能妨礙或損及另一人的權(quán)益，反之亦然。叫它如何行動呢？何況，機器人有了意識，能理解回應人的感情，若是跟人建立了友誼，甚至相愛，這時它怎樣取舍呢（呂超，頁148）？最后，既然前兩條定律難以實踐，第三條也無法執(zhí)行了。