本文為《人工智能時(shí)代與人類價(jià)值》一書的前言。該書是美國(guó)外交家亨利·基辛格生前的最后一本書，與谷歌前CEO埃里克·施密特及微軟前首席研究和戰(zhàn)略官克雷格·蒙迪共同寫作。

新書審視了人工智能領(lǐng)域的最新進(jìn)展，直面人工智能帶來的關(guān)乎人類生存的最為緊迫的問題：“如果被迫與機(jī)器妥協(xié)，我們的底線是什么？在判斷如何跟上AI步伐時(shí)，人類需要更清楚地?cái)嘌晕覀兣c機(jī)器的區(qū)別。如果不能就我們是誰達(dá)成一致，人類就有可能完全把定義我們價(jià)值、因此證明我們存在的生存任務(wù)交給機(jī)器?！?

【文/ 尼爾·弗格森】

2018年6月《大西洋月刊》刊登亨利 · 基辛格撰寫的《啟蒙是如何終結(jié)的》一文后，眾人頗為驚訝。這位年邁的政治家居然對(duì)人工智能這一課題有自己的見解。那年他剛滿95歲。當(dāng)時(shí)人工智能還不是一個(gè)熱門話題。直到2022年下半年OpenAI 開發(fā)出 ChatGPT 后，人工智能才火了起來。

作為基辛格的傳記作者，我覺得人工智能問題引起他的關(guān)注沒有什么可驚奇的。早在1957年，基辛格就因撰寫了一本講述一項(xiàng)顛覆世界的新技術(shù)的書而聲名鵲起，該書名叫《核武器與對(duì)外政策》。他對(duì)核武器的深入研究甚至博得羅伯特·奧本海默的贊譽(yù)，稱該書“內(nèi)容之豐富翔實(shí)，在核軍備領(lǐng)域還是首次看到……緊扣事實(shí)，激情四射，論說觀點(diǎn)銳利”。

基辛格攻讀博士學(xué)位時(shí)沉浸在19世紀(jì)初歐洲外交史中。然而在此后的生涯中，他始終清醒地認(rèn)識(shí)到，大國(guó)政治的永恒流轉(zhuǎn)時(shí)不時(shí)會(huì)被技術(shù)變革打斷。與他同代的無數(shù)人在第二次世界大戰(zhàn)期間服役。和這些人一樣，基辛格不僅目睹了現(xiàn)代武器造成的大規(guī)模死亡和毀滅，還看到了希特勒第三帝國(guó)的“變態(tài)科學(xué)”（丘吉爾所稱）給自己所屬的猶太民族帶來的慘重后果。

基辛格有“好戰(zhàn)者”之名。其實(shí)他根本不是什么好戰(zhàn)者?；粮癯赡旰螅K其一生矢志不渝地致力于防止第三次世界大戰(zhàn)的發(fā)生——美蘇冷戰(zhàn)若是轉(zhuǎn)成熱戰(zhàn)將產(chǎn)生令世人恐懼的后果。他深知，核裂變技術(shù)會(huì)使下一次世界大戰(zhàn)的毀滅力遠(yuǎn)超第二次世界大戰(zhàn)。在《核武器與對(duì)外政策》一書的開篇，基辛格估算了一枚千萬噸級(jí)核彈投到紐約會(huì)造成的毀滅性后果。根據(jù)他的推算，蘇聯(lián)對(duì)美國(guó)50個(gè)大城市發(fā)動(dòng)一次全面襲擊會(huì)殺死1500萬～2000萬人，外加2000萬～2500萬人受傷。除此之外，還有500萬～1000萬人會(huì)死于放射性污染，也許還有700萬～1000萬人會(huì)染上疾病，幸存者會(huì)面臨“社會(huì)解體”?；粮裰赋?，即使美國(guó)遭到蘇聯(lián)的全面核攻擊，也有能力令蘇聯(lián)遭受同樣的毀滅。結(jié)論不言而喻：“因此，一場(chǎng)全面戰(zhàn)爭(zhēng)的唯一結(jié)果是交戰(zhàn)雙方必輸無疑。”一場(chǎng)全面戰(zhàn)爭(zhēng)沒有贏家，“因?yàn)槟呐率禽^弱的一方也有能力造成任何社會(huì)都無法承受的毀滅”。

然而，基辛格并沒有因?yàn)槟贻p時(shí)懷有的理想主義而成為一個(gè)和平主義者。在《核武器與對(duì)外政策》一書中，他直言道，“削減核軍備不大可能避免恐怖的核戰(zhàn)爭(zhēng)”，軍備核查制度同樣不能。問題不在于是否可以完全避免戰(zhàn)爭(zhēng)，而在于是否“有可能運(yùn)用想象力想出毀滅力小于全面熱核戰(zhàn)爭(zhēng)的行使權(quán)力的方式”。如果不可能，美國(guó)及其盟國(guó)幾乎無法贏得冷戰(zhàn)?；粮裨诎l(fā)表于《記者》雜志的文章《控制、檢查和有限戰(zhàn)爭(zhēng)》中告誡說：“如果缺乏任何通常意義上的對(duì)有限戰(zhàn)爭(zhēng)的理解，會(huì)導(dǎo)致抵制蘇聯(lián)行徑的心理框架垮塌。如果戰(zhàn)爭(zhēng)被視為全民自殺，兩害相權(quán)取其輕，人們也許會(huì)選擇投降?！?

基辛格正是依據(jù)以上結(jié)論，在《戰(zhàn)略與組織》一文中提出了有限核戰(zhàn)爭(zhēng)理論：

在熱核戰(zhàn)爭(zhēng)毀滅的不祥背景下，戰(zhàn)爭(zhēng)的目標(biāo)再也不能是迄今為止所知的軍事上的勝利，而應(yīng)是實(shí)現(xiàn)對(duì)手完全理解的某些具體政治條件。有限戰(zhàn)爭(zhēng)的目的是給敵人造成與有爭(zhēng)議的目標(biāo)不成比例的損失或風(fēng)險(xiǎn)。目標(biāo)越節(jié)制，戰(zhàn)爭(zhēng)的毀滅性可能越小。

為此需要了解另一方的心理活動(dòng)及其軍事能力。

基辛格《核武器與對(duì)外政策》

當(dāng)年基辛格思索一場(chǎng)有限核戰(zhàn)爭(zhēng)令不少人不寒而栗，覺得他冷酷無情。部分學(xué)者，例如托馬斯·謝林，認(rèn)為基辛格所說的無法抑制其實(shí)是可以避免的。日后甚至連基辛格本人也不再提及自己提出的這一觀點(diǎn)。實(shí)際情況是，兩個(gè)超級(jí)大國(guó)都根據(jù)基辛格在《核武器與對(duì)外政策》一書中概述的邏輯制造和部署了戰(zhàn)場(chǎng)核武器或戰(zhàn)術(shù)核武器。從理論上講，有限核戰(zhàn)爭(zhēng)也許不可行。然而雙方軍事規(guī)劃者的所作所為讓人覺得，有限核戰(zhàn)爭(zhēng)實(shí)際上或許是可行的。（其實(shí)這類核武器直到今天依然存在。自從俄羅斯陷入俄烏沖突泥沼，俄羅斯政府不止一次威脅使用核武器。）

基辛格始終在思考技術(shù)變革對(duì)政治領(lǐng)域的影響。1968年1月，他為納爾遜·洛克菲勒寫過一篇早已被人遺忘的文章，文中展望了計(jì)算機(jī)化或許能幫助決策者處理美國(guó)政府機(jī)構(gòu)生成的日益繁多的信息的種種方式。基辛格認(rèn)為，高級(jí)官員面臨被數(shù)據(jù)淹沒的極大風(fēng)險(xiǎn)。他寫道：“最高決策者掌握的信息數(shù)不勝數(shù)，危急時(shí)刻，他根本無力處理這些信息?！被粮裉岢?，決策者需要“不斷聽取動(dòng)蕩地區(qū)的簡(jiǎn)報(bào)”，包括潛在的動(dòng)蕩地區(qū)，“即使這些地區(qū)未被列為重中之重”。同時(shí)幕僚還需要向決策者提出“數(shù)個(gè)行動(dòng)選項(xiàng)……概括為應(yīng)對(duì)可預(yù)見局勢(shì)的數(shù)個(gè)重大備選方案，并對(duì)每一個(gè)選項(xiàng)很有可能在本國(guó)國(guó)內(nèi)及海外造成的種種后果做出評(píng)估”。

基辛格承認(rèn)，為了達(dá)到全覆蓋，需要對(duì)程序設(shè)計(jì)、信息存儲(chǔ)、檢索和圖像大力投資。好在現(xiàn)有的“硬件技術(shù)”可以執(zhí)行所有這四個(gè)職能。

如今可以把與每一個(gè)美國(guó)人相關(guān)的數(shù)百個(gè)信息類別存儲(chǔ)在一個(gè)2400英尺（約732米）長(zhǎng)的磁帶存儲(chǔ)器里……第三代計(jì)算機(jī)現(xiàn)在可以以納秒（十億分之一秒）的速度操作基本的機(jī)器運(yùn)算……實(shí)驗(yàn)性的分時(shí)系統(tǒng)已經(jīng)證明，用于大型數(shù)據(jù)計(jì)算機(jī)的多路訪問能力或許可以做到分置于世界各地的執(zhí)行站和操作站均可以輸入或輸出信息。過不了多久，就會(huì)出現(xiàn)用于計(jì)算機(jī)輸出的彩色陰極射線管顯示屏。

出任尼克松的國(guó)家安全事務(wù)助理滿一年后，基辛格曾想搞一臺(tái)這種類型的計(jì)算機(jī)自己用，結(jié)果被中央情報(bào)局駁回了，想必是即使沒有計(jì)算機(jī)，基辛格也已經(jīng)讓情報(bào)機(jī)構(gòu)難以招架了。

亨利·基辛格從未退休。他無時(shí)無刻不為人類的未來擔(dān)憂。這樣一個(gè)人怎么可能會(huì)對(duì)他晚年出現(xiàn)的最重要的技術(shù)突破——生成式人工智能的開發(fā)和使用視而不見呢？認(rèn)識(shí)這一新生技術(shù)的意義耗費(fèi)了基辛格在世最后幾年的大量時(shí)間和精力。

《人工智能時(shí)代與人類未來》這本書是基辛格與兩位知名技術(shù)專家埃里克·施密特和克雷格·蒙迪合著的，也是他撰寫的最后一本書。此書帶有這幾位創(chuàng)新者與生俱來的樂觀主義印記。他們展望了“技術(shù)人(Homo technicus)，一種在這個(gè)新時(shí)代可能與機(jī)器技術(shù)共生的人類物種”的演進(jìn)前景。他們認(rèn)為，人工智能很快就會(huì)被用來“創(chuàng)造人類財(cái)富和福祉的新基準(zhǔn)……即便不能完全消除之前蹂躪人類的各種勞動(dòng)、階級(jí)和沖突壓力，至少也可以減輕這些壓力”。采用人工智能甚至有可能導(dǎo)致深刻的變革，消除種族、性別、國(guó)籍、出生地和家庭背景之間的差異。

一連串的警告構(gòu)成這本書的中心思想，從中可以辨識(shí)出這位最年長(zhǎng)作者的貢獻(xiàn)：“人工智能的出現(xiàn)是一個(gè)關(guān)乎人類生存的問題……人工智能還面臨著控制不當(dāng)?shù)奶魬?zhàn)，它可能以破壞性的方式積累知識(shí)……”下面這段話是基辛格最初在《啟蒙是如何終結(jié)的》一文中提出的問題，刊登在2018年的《大西洋月刊》上。這本書沒有用原文，但一看就知出自基辛格：

人工智能具備通過非人類手段精確認(rèn)知我們這個(gè)世界的客觀能力。這不僅打破了我們對(duì)過去500年人類孜孜以求的科學(xué)方法的依賴，還挑戰(zhàn)了人類聲稱只有自己才真正了解現(xiàn)實(shí)，或人類對(duì)現(xiàn)實(shí)的了解獨(dú)一無二的說法。

這可能意味著什么？人工智能時(shí)代會(huì)不會(huì)不僅不能推動(dòng) 人類向前邁進(jìn)，反而會(huì)讓人類加速倒退回前現(xiàn)代社會(huì)接 受不加解釋的權(quán)威的日子？簡(jiǎn)而言之，我們是不是正瀕臨或者也許會(huì)瀕臨人類認(rèn)知大倒退的懸崖邊緣——一種黑暗啟蒙？

筆者覺得，此書中最令人感到震撼的內(nèi)容是合著者思考了令人無比擔(dān)憂的人工智能武器競(jìng)賽。合著者寫道：“倘若每一個(gè)人類社會(huì)……都想最大限度地?cái)U(kuò)充單邊實(shí)力，勢(shì)必會(huì)引發(fā)敵對(duì)雙方的軍隊(duì)和情報(bào)機(jī)構(gòu)展開一場(chǎng)迄今人類聞所未聞的心理戰(zhàn)。從今天起，直至首個(gè)超級(jí)智能降臨前的數(shù)年、數(shù)月、數(shù)周和數(shù)天內(nèi)，事關(guān)人類生存的安全困境始終等待著我們。”

如果我們正在目睹“一場(chǎng)為了得到唯一一個(gè)完美無瑕、毫無疑問具有主導(dǎo)優(yōu)勢(shì)的智能而進(jìn)行的競(jìng)爭(zhēng)”，會(huì)產(chǎn)生什么后果？我數(shù)了一下，合著者一共設(shè)想了6種可能發(fā)生的情景，沒有一個(gè)有吸引力。

1.人類將失去對(duì)一場(chǎng)攸關(guān)人類生存的競(jìng)爭(zhēng)的控制。參與競(jìng)爭(zhēng)的多個(gè)行為者深陷安全困境而不能自拔。

2.一個(gè)不受任何制衡機(jī)制束縛的勝利者將高高在上，肆意妄為。人類會(huì)不堪其淫威。歷史上為了保證其他人的基本安全需要制衡機(jī)制。

3.世界上不會(huì)只有一個(gè)超級(jí)人工智能，而會(huì)有多種超級(jí)智能。

4.擁有和開發(fā)人工智能的公司可以積聚巨大的社會(huì)、經(jīng)濟(jì)、軍事和政治權(quán)力。

5.人工智能也許不是在一國(guó)體制內(nèi)，而是在宗教體制內(nèi)用處最大，傳播范圍最廣，持久性最強(qiáng)。

6.如果對(duì)開放源代碼的擴(kuò)散放任不管，有可能會(huì)導(dǎo)致冒出一些小團(tuán)伙或集團(tuán)。它們擁有的人工智能雖然不甚完美，但是不容小覷。

基辛格對(duì)以上可能發(fā)生的情景憂心忡忡，他為防止發(fā)生以上情景做出的努力沒有止于撰寫此書。眾所周知，基辛格此生所做的最后一次努力是啟動(dòng)了中美兩國(guó)就限制人工智能武器進(jìn)行談判的進(jìn)程。他在百歲生日過后的最后幾個(gè)月里，為此耗盡了殘留的元?dú)?。基辛格這樣做正是為了預(yù)防以上種種反烏托邦后果。

這本書的結(jié)論毫無疑問代表了基辛格的觀點(diǎn)：

被有些人視為能讓我們?cè)陲L(fēng)暴中站穩(wěn)腳跟的錨，在另一些人眼里是束縛我們的繩套。被一些人贊譽(yù)為攀登一座人類潛力高峰的必要步伐，在其他人眼里是愣頭愣腦沖向深淵的愚蠢之舉。

在這種情況下，源自本能的千差萬別的情感——外加各方劃出的主觀界限——將造成一種不可逆料的易燃局勢(shì)。潛在“贏家”和“輸家”日趨嚴(yán)厲的立場(chǎng)將增大這種形勢(shì)的壓力。驚恐者會(huì)放慢自己的研發(fā)步伐，同時(shí)破壞他方的研發(fā)。信心滿滿者會(huì)隱瞞自身實(shí)力，秘密提速研發(fā)工作。今后爆發(fā)的危機(jī)時(shí)間表會(huì)提速，為此前的人類所未見。人類很快會(huì)被危機(jī)吞沒。目前尚不清楚人類能否存活，如何存活。

技術(shù)專家對(duì)這類不祥之兆的反應(yīng)通常是提醒我們?nèi)斯ぶ悄軒淼目梢娨嫣?。醫(yī)學(xué)科學(xué)領(lǐng)域內(nèi)產(chǎn)生的成果已顯而易見。我對(duì)此不持異議。以我之見，較之 ChatGPT，AlphaFold 這一突破的重要性遠(yuǎn)超前者。后者是一種可預(yù)測(cè)蛋白質(zhì)三維結(jié)構(gòu)的神經(jīng)網(wǎng)絡(luò)模型。不過20世紀(jì)醫(yī)學(xué)科學(xué)也有過重大進(jìn)展，例如，發(fā)明和普及了抗生素、種種新疫苗，以及數(shù)不清的其他療法。盡管如此，世界大戰(zhàn)和種族滅絕還是發(fā)生了。

技術(shù)進(jìn)步的核心問題體現(xiàn)在亨利·基辛格的一生中。1938年，柏林的兩位德國(guó)化學(xué)家奧托·哈恩和弗里茨·施特拉斯曼發(fā)現(xiàn)了核裂變現(xiàn)象。1939年，出生在奧地利的兩位物理學(xué)家莉澤·邁特納和她的侄子奧托·羅伯特·弗里施給出了核裂變?cè)诶碚撋系慕忉尣橹?。一次核鏈?zhǔn)椒磻?yīng)可能導(dǎo)致“釋放出大規(guī)模能量和放射性物質(zhì)，很不幸，也許還會(huì)催生原子彈”。

這一真知灼見出自匈牙利物理學(xué)家利奧·西拉德。當(dāng)時(shí)物理學(xué)家們也認(rèn)識(shí)到，或許有可能把鏈?zhǔn)椒磻?yīng)控制在一個(gè)核反應(yīng)堆中，借此產(chǎn)生熱能。然而，制造第一顆原子彈僅用了三年時(shí)間。而直到1951年，第一座實(shí)驗(yàn)性核電站才建成。

讀者不妨問問自己，過去80年里人類造得更多的是核彈頭還是核電站？今天，世界上大約有12500枚核彈頭，而且這一數(shù)字還在不斷上升。與此形成鮮明對(duì)比的是，現(xiàn)在只有 436座核反應(yīng)堆正在運(yùn)行。從絕對(duì)值來看，2006年核能發(fā)電量達(dá)到了峰值。核電站發(fā)電量占全世界總發(fā)電量的比例從1996年的15.5%下降至2022年的8.6%。原因之一是為數(shù)不多的核事故引發(fā)了過度的政治反應(yīng)。與化石燃料排放的二氧化碳相比，這些事故對(duì)人類健康和環(huán)境的損害微乎其微。

亨利·基辛格的一生給人的啟示顯而易見。技術(shù)進(jìn)步的后果既可以是良性的，也可以是惡性的，這取決于人類共同決定如何利用技術(shù)進(jìn)步。當(dāng)然，人工智能在諸多方面不同于核裂變。然而，如果想當(dāng)然地認(rèn)為這一新技術(shù)會(huì)被更多地用于建設(shè)性而非毀滅性的目的，將會(huì)鑄下大錯(cuò)。

亨利·基辛格的真知灼見來自歷史經(jīng)驗(yàn)和個(gè)人經(jīng)歷。正是他的真知灼見激勵(lì)他在一生中花費(fèi)大量時(shí)間研究世界秩序和如何避免世界大戰(zhàn)。這也是為什么他對(duì)最新的人工智能突破的反應(yīng)如此迅速，憂慮如此之深。這也是為什么他的這部遺作與他在自己漫長(zhǎng)而又顯赫的一生中撰寫的任何文章同樣重要。

尼爾·弗格森，2024年7月寫于牛津

《人工智能時(shí)代與人類價(jià)值》，作者：亨利·基辛格 、埃里克?施密特、 克雷格·蒙迪，譯者：胡利平 風(fēng)君，中信出版·方舟工作室2025年版