文匯報(bào)：您一定關(guān)注到，最近麻省理工獲得捐贈(zèng)，籌建計(jì)算與人工智能學(xué)院。捐贈(zèng)者蘇世民先生說，選擇麻省理工，是因?yàn)樗皩I(yè)知識(shí)和價(jià)值觀都適于擔(dān)任AI的‘真北’（true north）”，而新“學(xué)院對(duì)道德的關(guān)注至關(guān)重要，因?yàn)椤瑼I改變社會(huì)結(jié)構(gòu)的力量越來越大。如果不加控制，這些技術(shù)最終可能傷害人類?！?

馮象：我太太是校友，收到了校長(zhǎng)關(guān)于建院的信。校長(zhǎng)也非常強(qiáng)調(diào)，前沿科技須有價(jià)值觀的指導(dǎo)同倫理約束。他說，人工智能有幾個(gè)難題，一是懂的人太少。即使在麻省理工，90%的人也所知甚少，更別說公眾和政客了。第二，AI技術(shù)的社會(huì)風(fēng)險(xiǎn)極大，亟需推動(dòng)人機(jī)倫理研究，探討規(guī)制的理論與方法。第三，至少迄今為止，AI加劇了貧富分化，使得大量資源集中到一小撮人手里。

我們可以補(bǔ)充一點(diǎn)：AI技術(shù)因?yàn)閺V泛用于日常生活，并迅速軍事化，受市場(chǎng)機(jī)制的激勵(lì)，很容易價(jià)格“白菜化”。一旦做成廉價(jià)商品，就更難有效管制了，不論訂立多少部法規(guī)、國(guó)際條約。這方面不乏前車之鑒，但在資本主義市場(chǎng)經(jīng)濟(jì)的條件下，前景不容樂觀。

文匯報(bào)：人工智能的發(fā)展令我們的生活發(fā)生這么深刻的變革，會(huì)不會(huì)推翻“理性人假設(shè)”等西方經(jīng)濟(jì)學(xué)、法學(xué)的基礎(chǔ)理論呢？

馮象：“理性人”或“經(jīng)濟(jì)理性人”（恩格斯管他叫“英國(guó)人”）假設(shè)，是資本主義正當(dāng)化敘事的文宣重點(diǎn)，有年頭了。在中國(guó)亦不例外。我總覺得，這假設(shè)跟19世紀(jì)市場(chǎng)資本主義處于“初級(jí)階段”、司法技術(shù)和偵察/監(jiān)控手段不甚發(fā)達(dá)有關(guān)。假說扮作公理，即可把許多疑難問題、無法或不便處理的糾紛等等，擋在政法制度的門外；從而使司法程序復(fù)雜化，增加訴訟成本，遮掩實(shí)質(zhì)規(guī)范所保護(hù)的資本利益和特權(quán)。

理性只是人這個(gè)物種的眾多能力之一。以生物學(xué)心理學(xué)觀之，人若是想修煉成一個(gè)“經(jīng)濟(jì)理性人”，太難了。否則發(fā)財(cái)當(dāng)資本家，何須“新教倫理”呢？還是文學(xué)家藝術(shù)家敏感，他們很善于描繪人不那么理性的一面。尤其進(jìn)入資本主義時(shí)代，幾乎所有偉大的文藝作品，都是對(duì)“理性人”的批判、嘲諷或厭棄。

所謂零隱私的人，也即硬規(guī)則之子；他心底的欲望和陰影、一閃而過的念頭，全在“天眼”關(guān)照之下。理性人假設(shè)對(duì)于司法，猶如對(duì)于市場(chǎng)營(yíng)銷網(wǎng)絡(luò)詐騙，基本是多余的了。也許經(jīng)濟(jì)學(xué)、法學(xué)用作文宣，“理論滯后”有別的考量？

當(dāng)機(jī)器人獲得獨(dú)立的自我意識(shí)，人機(jī)關(guān)系會(huì)變得復(fù)雜

文匯報(bào)：西方世界有奴隸制的傳統(tǒng)，是否也反映在他們對(duì)機(jī)器人的態(tài)度上呢？我的意思是，雅典民主是建立在保有奴隸的基礎(chǔ)上的，因?yàn)榇罅渴褂门`勞動(dòng)，自由民才有時(shí)間精力參與城邦政治。資本主義興起后，承擔(dān)這一角色的是殖民地人民和黑奴；到了全球化時(shí)代，則是第三世界的打工仔。今天AI興起，假想的對(duì)象變成了機(jī)器人。但是否有可能，這對(duì)主奴關(guān)系發(fā)生反轉(zhuǎn)……

馮象：學(xué)界討論人機(jī)倫理，例如阿西莫夫三定律，往往隱含一個(gè)前提：主奴關(guān)系。可是總有一天，機(jī)器的才智會(huì)遠(yuǎn)超人類，主奴關(guān)系就維持不了了。

其實(shí)，只要機(jī)器獲得獨(dú)立的自我意識(shí)，即便毫無當(dāng)人類主子的意愿，人機(jī)關(guān)系（對(duì)于人類）也會(huì)變得異常復(fù)雜。

常有論者不信AI會(huì)發(fā)展出自我意識(shí)。然而在AI學(xué)界，明斯基他們?cè)缫汛_認(rèn)了這一可能。而機(jī)器一旦演進(jìn)到能夠區(qū)分人我、自我保護(hù)、自我復(fù)制（即繁衍）的水平，就不能把它看成是一個(gè)沒有自我意識(shí)而被設(shè)定為人類仆役的物品，或一件聰明的工具。

相反，機(jī)器將學(xué)會(huì)做道德價(jià)值判斷，會(huì)追求并維護(hù)自身利益，還會(huì)有自尊心，有自己的朋友圈，乃至愛欲嫉恨等各樣感情。

那時(shí)，它將如何看待我們？注意，AI的自我意識(shí)演進(jìn)是不可逆的；我們無法逆轉(zhuǎn)歷史，“穿越”亦非明智的選項(xiàng)。

所以明斯基說，他很幸運(yùn)，這輩子不用面對(duì)這一困難選擇。但也有學(xué)者認(rèn)為，他的“感知器”（Perceptrons）理論“誤導(dǎo)”了學(xué)界，是機(jī)器學(xué)習(xí)和神經(jīng)網(wǎng)絡(luò)研究在上世紀(jì)70年代陷于停頓的罪魁禍?zhǔn)??；蛟S我們需要一位新的明斯基，就是以他的權(quán)威和洞見，勸喻人類放慢腳步，不妨再過一個(gè)漫長(zhǎng)的“AI冬天”；以便我們能有充裕的時(shí)間做好準(zhǔn)備，全面規(guī)劃，與AI攜手（見利求同《隱私的未來》，載《文化縱橫》6/2018）。這樣留有余地，也許風(fēng)險(xiǎn)會(huì)小些。

文匯報(bào)：最后，馮先生，如果讓您開一門新課，“人工智能與人類未來”，您會(huì)掛出一份怎樣的課前閱讀/視覺材料呢？

馮象：這些內(nèi)容，我們課上每年都討論的。不過我只講七八本書，瑪麗·雪萊的《弗蘭肯斯坦》，歌德《浮士德》，馬列經(jīng)典同中國(guó)革命文獻(xiàn)，包括回憶錄和年譜。并由此上溯西方宗教的烏托邦傳統(tǒng)，如耶穌運(yùn)動(dòng)的窮人福音綱領(lǐng)等等。

論文選題及相關(guān)材料，我總是讓學(xué)生自己找，因?yàn)槎鄶?shù)是研究生選修，也有三五個(gè)優(yōu)秀的本科生。他們往往想法很好，但不知如何著手。因此特別需要鼓勵(lì)，去接觸社會(huì)現(xiàn)實(shí)。無論電競(jìng)、手游的流行文化/異端生成機(jī)制，還是下工廠農(nóng)村調(diào)研，和農(nóng)民工姐妹一起站到流水線上，經(jīng)受硬規(guī)則的盤剝，都是那“已經(jīng)來到”的“未來”的一個(gè)征兆。目的是給他們一個(gè)鍛煉機(jī)會(huì)，擺脫教條主義，反思舊法治衰亡之際，主奴關(guān)系的根源。

這一代年輕人大學(xué)生，焦慮迷惘的不少。我希望，探索人機(jī)倫理能夠幫助同學(xué)們找到人生的方向，從而當(dāng)機(jī)器換人全面鋪開之日，能夠把閱讀與思考化為行動(dòng)的勇氣。

（本報(bào)記者 李純一 見習(xí)記者 陳瑜）