【文/觀察者網(wǎng) 熊超然】隨著人工智能（AI）技術(shù)的興起，這一方面正成為當(dāng)今世界最前沿的尖端科技，另一方面也逐漸顯現(xiàn)出其對(duì)人類社會(huì)具有的潛在威脅。

據(jù)英國(guó)《金融時(shí)報(bào)》當(dāng)?shù)貢r(shí)間1月11日援引多名知情人士透露，因擔(dān)憂這種強(qiáng)大的技術(shù)可能會(huì)傳播錯(cuò)誤信息和威脅社會(huì)，中美雙方曾于去年7月和10月兩度在瑞士日內(nèi)瓦舉行會(huì)議，美國(guó)AI相關(guān)企業(yè)OpenAI、Anthropic和Cohere同中國(guó)AI專家進(jìn)行了“秘密外交”。來(lái)自北美地區(qū)的AI組織科學(xué)家和政策專家，以及清華大學(xué)和其他中國(guó)政府所支持的機(jī)構(gòu)代表也出席了會(huì)議。

報(bào)道形容，在全球兩個(gè)大國(guó)在AI和量子計(jì)算等尖端科技領(lǐng)域搶奪主導(dǎo)權(quán)之際，這些此前未被報(bào)道的會(huì)談是“中美合作的罕見(jiàn)跡象”。報(bào)道提到，盡管美國(guó)政府一再對(duì)華無(wú)理打壓限制，比如禁止英偉達(dá)等公司對(duì)華出口開(kāi)發(fā)復(fù)雜AI軟件所必需的高性能芯片，但考慮到AI對(duì)人類的潛在生存風(fēng)險(xiǎn)，AI安全議題已成為兩國(guó)技術(shù)開(kāi)發(fā)者共同關(guān)心的問(wèn)題。

2023年9月20日，2023世界制造業(yè)大會(huì)在安徽省合肥市啟幕，參觀者體驗(yàn)智能抓取機(jī)器人。圖自IC Photo

據(jù)報(bào)道，與會(huì)者表示，這些會(huì)談使得中美雙方能夠討論AI這種新興技術(shù)所帶來(lái)的風(fēng)險(xiǎn)，并鼓勵(lì)對(duì)AI安全研究進(jìn)行投資。他們補(bǔ)充說(shuō)，最終目標(biāo)是找到一條科學(xué)的路徑，安全地開(kāi)發(fā)更復(fù)雜的AI技術(shù)。

一位出席會(huì)談的人士表示：“如果這些參與者沒(méi)有達(dá)成一致，我們就無(wú)法圍繞AI的安全和一致性制定國(guó)際標(biāo)準(zhǔn)。如果他們同意，就更容易把其他人也拉到一起。”

在會(huì)談中，中美雙方的AI專家討論了參與技術(shù)合作的領(lǐng)域，以及更具體的政策建議，這些建議為去年7月聯(lián)合國(guó)安理會(huì)就人工智能對(duì)國(guó)際和平與安全的潛在威脅所召開(kāi)的首次會(huì)議，以及去年11月在英國(guó)舉行的首屆全球人工智能安全峰會(huì)的討論，都提供了參考。

與會(huì)的談判代表稱，會(huì)議的成功舉行引領(lǐng)了未來(lái)討論的計(jì)劃，這些討論將側(cè)重于科學(xué)和技術(shù)性的建議——如何使AI系統(tǒng)與每個(gè)社會(huì)的法律法規(guī)、規(guī)范和價(jià)值觀保持一致。

一名不愿透露姓名的與會(huì)談判代表稱，在日內(nèi)瓦舉行的會(huì)議，是在美國(guó)白宮，以及中國(guó)和英國(guó)政府官員知情的情況下安排的。對(duì)此，白宮方面拒絕置評(píng)。同時(shí)，OpenAI證實(shí)其全球事務(wù)團(tuán)隊(duì)的一名成員參加了日內(nèi)瓦會(huì)談；Anthropic和Cohere拒絕就其參與會(huì)談發(fā)表置評(píng)；清華大學(xué)方面也沒(méi)有回應(yīng)置評(píng)請(qǐng)求。

參與談判的人士透露，字節(jié)跳動(dòng)、騰訊和百度等中國(guó)AI相關(guān)企業(yè)沒(méi)有參加會(huì)談；雖然谷歌旗下前沿的AI企業(yè)DeepMind被告知了會(huì)議討論的細(xì)節(jié)內(nèi)容，但也沒(méi)有參加。

隨著ChatGPT的爆火，其背后語(yǔ)言模型——GPT也受到市場(chǎng)廣泛關(guān)注。2023年3月15日凌晨，OpenAI正式推出GPT-4。圖自IC Photo

《金融時(shí)報(bào)》補(bǔ)充介紹稱，這些會(huì)談是由謝赫集團(tuán)召集的，這是一個(gè)于2015年創(chuàng)辦、總部設(shè)在塞浦路斯的私人調(diào)解組織，旨在促進(jìn)沖突地區(qū)（尤其是中東地區(qū)）關(guān)鍵行動(dòng)者之間的戰(zhàn)略對(duì)話。

“我們看到了將中國(guó)和美國(guó)在AI領(lǐng)域的主要參與者聚集在一起的機(jī)會(huì)。我們的主要目的是強(qiáng)調(diào)在全球范圍內(nèi)廣泛部署AI模型所帶來(lái)的脆弱性、風(fēng)險(xiǎn)和機(jī)遇?！痹摷瘓F(tuán)創(chuàng)始人、首席執(zhí)行官薩爾曼·謝赫（Salman Shaikh）表示。

“在我們看來(lái)，認(rèn)識(shí)到這一事實(shí)可以成為協(xié)作進(jìn)行科學(xué)工作的基石，最終形成圍繞AI模型安全性的全球標(biāo)準(zhǔn)?！彼f(shuō)道。

《金融時(shí)報(bào)》指出，如今已有越來(lái)越多的人開(kāi)始呼吁主要大國(guó)之間進(jìn)行合作，以應(yīng)對(duì)AI的崛起。

去年11月，圍繞著OpenAI首席執(zhí)行官薩姆·阿爾特曼（Sam Altman），該公司曾上演一出“宮斗戲”。路透社援引兩名知情人士報(bào)道稱，此前有幾名研究人員曾致信董事會(huì)，警告稱一項(xiàng)強(qiáng)大的人工智能成果（名為“Q*”）可能會(huì)威脅到人類。消息人士稱，這封此前未被報(bào)道的信函和其中提到的人工智能算法，是董事會(huì)解雇阿爾特曼的“關(guān)鍵導(dǎo)火索”，這封信讓董事會(huì)產(chǎn)生了擔(dān)憂，并對(duì)阿爾特曼產(chǎn)生了諸多不滿，并最終解雇了他。

同樣是在去年11月，首屆全球人工智能安全峰會(huì)在英國(guó)布萊切利公園舉行，包括中國(guó)、美國(guó)、英國(guó)和歐盟在內(nèi)的超25個(gè)國(guó)家代表以及馬斯克、OpenAI創(chuàng)始人兼CEO阿爾特曼等科技巨頭與會(huì)。11月1日，與會(huì)國(guó)簽署“布萊切利宣言”，同意通過(guò)國(guó)際合作，建立人工智能AI監(jiān)管方法。

2023年11月2日，英國(guó)布萊奇利公園，首屆人工智能安全峰會(huì)舉行，阿爾特曼出席。圖自澎湃影像

去年7月，谷歌、亞馬遜、臉書(shū)母公司Meta、微軟以及其他三家AI企業(yè)已經(jīng)同拜登政府簽署了這一事關(guān)AI領(lǐng)域的自愿承諾協(xié)議?！度A盛頓郵報(bào)》稱，從ChatGPT母公司OpenAI到Photoshop開(kāi)發(fā)商Adobe，美國(guó)最具影響力的15家企業(yè)目前已經(jīng)作出承諾，包括開(kāi)發(fā)識(shí)別AI生成圖像的技術(shù)，并誓言與政府和學(xué)術(shù)界分享有關(guān)安全的數(shù)據(jù)。

去年9月，白宮發(fā)布消息宣布，英偉達(dá)、IBM和Adobe等八家企業(yè)已經(jīng)簽署了拜登政府關(guān)于AI的自愿承諾協(xié)議，以幫助推進(jìn)白宮所稱的“安全、可靠和值得信賴的AI發(fā)展”。承諾協(xié)議內(nèi)容中，要求這些企業(yè)對(duì)AI生成內(nèi)容采取添加水印等步驟。

而在中國(guó)，香港《南華早報(bào)》曾報(bào)道稱，盡管AI在推動(dòng)經(jīng)濟(jì)發(fā)展和促進(jìn)產(chǎn)業(yè)轉(zhuǎn)型方面具有戰(zhàn)略意義，但其快速發(fā)展也引起了人們的擔(dān)憂，可能存在的風(fēng)險(xiǎn)涉及知識(shí)產(chǎn)權(quán)、隱私和欺詐等。為此，中國(guó)已經(jīng)在遏制風(fēng)險(xiǎn)方面迅速行動(dòng)。

去年8月15日，由國(guó)家互聯(lián)網(wǎng)信息辦公室等七部門聯(lián)合發(fā)布的《生成式人工智能服務(wù)管理暫行辦法》正式施行，這是我國(guó)首個(gè)針對(duì)生成式人工智能產(chǎn)業(yè)的規(guī)范性政策，也是全球第一部人工智能生成內(nèi)容管理辦法。

此前，中國(guó)外交部發(fā)言人汪文斌曾指出，中方支持在聯(lián)合國(guó)框架下討論人工智能治理，增加發(fā)展中國(guó)家代表性和發(fā)言權(quán)，推動(dòng)形成具有廣泛共識(shí)的人工智能治理框架和標(biāo)準(zhǔn)規(guī)范?！爸蟹綒g迎各國(guó)政府、國(guó)際組織、技術(shù)企業(yè)、科研院校、民間機(jī)構(gòu)等各主體秉持共商共建共享的理念，協(xié)力共同促進(jìn)人工智能治理。”汪文斌說(shuō)。

本文系觀察者網(wǎng)獨(dú)家稿件，未經(jīng)授權(quán)，不得轉(zhuǎn)載。