編者按：從硅谷到華強北，從莫斯科到以色列，從實驗室到辦公室，從課堂到戰(zhàn)場，全球人工智能（AI）技術(shù)飛速發(fā)展，等不及人們爭論出個結(jié)果，就已經(jīng)快速應(yīng)用到人類世界的方方面面。

AI治理課題隨之變得極為緊迫和現(xiàn)實。

日前，中國向聯(lián)合國大會提交的“加強人工智能能力建設(shè)國際合作決議”，獲得美國聯(lián)署，獲得通過。兩個大國在AI問題上攜起手來，促進(jìn)全人類共享智能紅利。

這是中國在AI治理問題上推動全球合作的最新進(jìn)展。

2023年10月，習(xí)近平主席宣布中國提出《全球人工智能治理倡議》，愿同各國加強交流和對話，共同促進(jìn)全球人工智能健康有序安全發(fā)展。

今年5月，習(xí)近平主席在法國進(jìn)行國事訪問期間，與馬克龍總統(tǒng)共同發(fā)布《中法關(guān)于人工智能和全球治理的聯(lián)合聲明》。

今年2月，印尼在全球人工智能倫理論壇上提出了在全球人工智能治理時要考慮到“全球南方”，國際社會大多數(shù)的聲音，也應(yīng)認(rèn)真傾聽。

面對這一全球挑戰(zhàn)，中國是何立場，有何抓手？如何平衡斗爭與團結(jié)？應(yīng)當(dāng)依靠誰，團結(jié)誰？科工力量與華東師范大學(xué)國際傳播研究院全球南方研究中心主任熊節(jié)進(jìn)行了深入探討，以下是此次對話實錄：

科工力量：對全球AI治理來說，AI武器化可能是我們面臨的顯性問題，AI武器化有哪些途徑？

熊節(jié)：在我們不久前的探討中，參考了美國去年11月由拜登總統(tǒng)所發(fā)布的《關(guān)于人工智能的安全、可靠、可信發(fā)展和使用的總統(tǒng)令》及白宮的解讀。

2023年11月，美國總統(tǒng)拜登簽署了《關(guān)于人工智能的安全、可靠、可信發(fā)展和使用的總統(tǒng)令》（Executive Order on the Safe,Secure,and Trustworthy Development and Use of Artificial Intelligenc）。新華網(wǎng)

我們之所以借鑒美國的觀點，是因為美國在人工智能技術(shù)方面最為先進(jìn)；同時，歷史上，美國在將科學(xué)技術(shù)武器化方面也處于領(lǐng)先地位。因此，我們應(yīng)該首先參考美國的思路，了解他們?nèi)绾慰创@一問題。

從總統(tǒng)令中，我們可以看到幾個主要方向：第一種是人工智能對關(guān)鍵基礎(chǔ)設(shè)施的影響，可能產(chǎn)生交通、能源、化學(xué)、生物、輻射和數(shù)字空間等領(lǐng)域的影響。隨著整個社會的數(shù)字化程度越來越高，基礎(chǔ)設(shè)施越來越多地采用計算機數(shù)字化管理，人工智能的應(yīng)用也在增加，數(shù)字世界的攻防戰(zhàn)一直持續(xù)不斷，在人工智能被引入后，對抗性會更強。

第二種是利用人工智能進(jìn)行危險生物材料研發(fā)的風(fēng)險。這一點在拜登總統(tǒng)令中被特別強調(diào)，必須引起我們注意。解讀中提到，政府采購需要與私營部門合作，列出篩選后的供應(yīng)商清單。我們從中可以推斷，美國不但已有廠商在進(jìn)行相關(guān)工作，而且這些廠商希望通過影響政策來壟斷相關(guān)業(yè)務(wù)，防止其他企業(yè)介入。這些企業(yè)的活動內(nèi)容值得我們深入關(guān)注。

由于現(xiàn)階段蛋白質(zhì)合成技術(shù)在很大程度上依賴于“窮舉法”，而人工智能無疑能大幅提高這一過程的效率和準(zhǔn)確性。如果這種技術(shù)被用于危險目的，比如戰(zhàn)爭，那么它也能大幅提高生物武器的制造效率。鑒于美國在這方面的歷史記錄并不良好——德特里克堡生物實驗室曾經(jīng)接受日本731部隊的所謂科研成果，并且曾在朝鮮戰(zhàn)場、越南戰(zhàn)場多次使用生化武器，這一點必須警惕。

位于美國馬里蘭州的德特里克堡生物實驗室中新網(wǎng)

第三點是利用AI生成內(nèi)容來制造欺詐和假新聞的風(fēng)險。以前，造謠傳謠主要是通過文字內(nèi)容，如今配合人工智能深度偽造等相應(yīng)技術(shù)，現(xiàn)在視頻造假內(nèi)容也越來越多。我們已經(jīng)看到，宣傳戰(zhàn)、輿論戰(zhàn)都是美國混合戰(zhàn)爭的關(guān)鍵組成部分，人工智能技術(shù)將在其中發(fā)揮重要作用。

科工力量：類比“核俱樂部”、“太空俱樂部”，現(xiàn)在美國明顯正在努力推動“AI俱樂部”，您認(rèn)為AI武器化能否成功？

熊節(jié)：我認(rèn)為一定會成功。從最初的木棒到后來的各種技術(shù)，人類有一種不好的傳統(tǒng)，那就是將一切能夠武器化的東西都武器化。另外，如果與“核俱樂部”相對防止了核擴散的情況相比，我覺得AI大模型的擴散是更令人擔(dān)憂的問題。當(dāng)初，核武器的出現(xiàn)，很快就形成了一種“末日威懾”，相比之下，AI的武器化在單次打擊的毀滅力上沒有那么強，因此其帶來的恐懼心理相對較低，但另一方面，AI的可獲得性卻比核武器大大提高，軟件可以零成本復(fù)制，大模型復(fù)制起來可能稍微困難一些，但最多也只需處理幾百GB的數(shù)據(jù)，如今要控制一個AI大模型的擴散幾乎是不可能的，各種犯罪團體、極端主義團體都可能獲得大模型。

ChatGPTpixabay

科工力量：包括中國在內(nèi)的南方國家怎么應(yīng)對？

熊節(jié)：7月1日，第78屆聯(lián)合國大會通過了一份重要決議《加強人工智能能力建設(shè)國際合作決議》，這份決議由中國主提，140多國參加決議聯(lián)署。

7月1日，聯(lián)合國通過《加強人工智能能力建設(shè)國際合作決議》現(xiàn)場中國日報

這份決議強調(diào)人工智能發(fā)展應(yīng)堅持以人為本、智能向善、造福人類的原則，鼓勵通過國際合作和實際行動幫助各國特別是發(fā)展中國家加強人工智能能力建設(shè)，增強發(fā)展中國家在人工智能全球治理中的代表性和發(fā)言權(quán)，倡導(dǎo)開放、公平、非歧視的商業(yè)環(huán)境，支持聯(lián)合國在國際合作中發(fā)揮中心作用，實現(xiàn)人工智能包容普惠可持續(xù)發(fā)展，助力實現(xiàn)聯(lián)合國2030年可持續(xù)發(fā)展議程。

這與將AI武器化、用于謀求霸權(quán)地位的立場和做法形成鮮明對比。

從社會主義新中國立場和傳統(tǒng)出發(fā)，我們的態(tài)度是，不追求武器化，但不放棄武器化。我們不會主動侵略或欺負(fù)別國，但要維持和平，首先需要有斗爭的能力，武器是這種能力的重要部分，如果沒有武器化的能力，就可能面臨挨打的風(fēng)險。

技術(shù)上，數(shù)字世界的攻防往往是一體的，我們需要的是堅固的“盾”，但前提是擁有足夠鋒利的矛，才能幫助我們識別和防范各種高度動態(tài)化的威脅。如果我們想要促進(jìn)賽博空間的和平，其方式可能不是通過每個國家都擁有最強的武器來形成相互威懾，而是通過普及更有效的防范措施，讓所有國家都能受益，這樣，AI武器可能就難以發(fā)揮作用了。

pixabay