【文/觀察者網(wǎng)專欄作者 曾毅】

人工智能進(jìn)展對人類社會變革發(fā)揮著深刻的作用，近期在應(yīng)用與服務(wù)方面給予公眾的感受更是達(dá)到了前所未有的高度。而人工智能對人類可能造成的潛在安全風(fēng)險，也從兩百多年前瑪麗·雪萊《弗蘭肯斯坦》中的隱喻和阿西莫夫《我、機(jī)器人》中的敘事，迅速進(jìn)入公眾與政府的視野。

2015年，在波多黎各召開了人工智能安全科技領(lǐng)域的前沿會議。而人工智能安全作為需要國際協(xié)作解決的全球挑戰(zhàn)，真正進(jìn)入公眾與政府視野，還是回到雪萊的故鄉(xiāng)英國，圖靈機(jī)與二戰(zhàn)期間恩尼格瑪密碼機(jī)的誕生地布萊切利園。

2023年11月在英國舉行的首屆人工智能安全峰會(AI Safety Summit)，最重要的成果當(dāng)屬《布萊切利人工智能安全宣言(The Bletchley Declaration on AI Safety)》，28國及歐盟在人工智能安全風(fēng)險認(rèn)知與議題上達(dá)到當(dāng)時政府層面最廣泛的共識。

這項(xiàng)共識的取得背后是與各國政府和科技界長達(dá)半年多的溝通，才推進(jìn)了這個極具不確定性的議題上取得共同認(rèn)知。

英美相繼宣布人工智能安全研究所的成立影響廣泛，但這使得許多國家的代表迷茫于不知如何選邊站，可又何須選邊？

我受邀主持了圓桌會議“前沿人工智能不可預(yù)知進(jìn)展帶來的風(fēng)險”的研討，并在公開全體會議的總結(jié)環(huán)節(jié)，有機(jī)會直面這個問題進(jìn)行了發(fā)言：“我們認(rèn)為每個國家都應(yīng)該成立自己的人工智能安全機(jī)構(gòu)。但這還不夠，我們還需要建立一個涵蓋全世界的人工智能安全協(xié)作網(wǎng)絡(luò)，以期能夠解決不可預(yù)知的進(jìn)展和不可預(yù)知的失敗。另外，這次會議我們有28國參加，我們希望能夠進(jìn)一步提升會議的包容性，下屆能夠有40國，再下屆也許可以是60國”。

會后過去一年多的時間，我們看到至少十余個國家成立了人工智能安全專門的機(jī)構(gòu)，韓國首爾人工智能峰會上實(shí)際已經(jīng)成立了國際人工智能安全研究所網(wǎng)絡(luò)(International Network of AISI)，卻將中國排除在外。而這個會議系列的包容性在首爾峰會并沒有增加，直至巴黎人工智能行動峰會，正式參與的國家達(dá)到了80國以上。

2023年在布萊切利人工智能安全峰會(AI Safety Summit)公開會議主會環(huán)節(jié)發(fā)言，筆者建議成立面向國家間合作的國際人工智能安全網(wǎng)絡(luò)

2023年在布萊切利人工智能安全峰會(AI Safety Summit)主持“前沿人工智能不可預(yù)知進(jìn)展帶來的風(fēng)險”圓桌研討

2024年5月人工智能首爾峰會(AI Seoul Summit)雖然由韓國與英國共同主辦，但是峰會的標(biāo)題中，安全已沒有作為核心。但這屆會議仍然取得了引人矚目的進(jìn)展，主要是宣布國際人工智能安全研究所網(wǎng)絡(luò)的成立和面向企業(yè)的人工智能安全自愿承諾(Frontier AI Safety Commitments)。

布萊切利峰會半年內(nèi)，全球人工智能安全相關(guān)機(jī)構(gòu)已經(jīng)逐步浮出水面，人工智能安全協(xié)作網(wǎng)絡(luò)的提議已成為共識，人工智能安全研究所網(wǎng)絡(luò)(Network of AISI)應(yīng)運(yùn)而生，然而卻是在更小范圍的10個國家和歐盟參與的情況下形成的決議，沒有任何合理的理由，中國被排除在外。

在人工智能首爾峰會部長論壇(Ministers’ Session)上，我聽到時任英國科技、創(chuàng)新與技術(shù)部部長對這個情況的介紹后感到完全不可接受，并在安排的學(xué)者代表發(fā)言環(huán)節(jié)進(jìn)行了回應(yīng)：“國家層面人工智能安全制度的建設(shè)每個國家都有不同的選擇，建立單一國家級人工智能安全研究所的國家，目前已然需要面對如何解決國內(nèi)人工智能安全相關(guān)機(jī)構(gòu)之間競爭與協(xié)同的問題。

中國與不同部委協(xié)同的人工智能安全機(jī)構(gòu)眾多，更適合中國的人工智能安全相關(guān)機(jī)構(gòu)組織模式是國家層面的協(xié)作網(wǎng)絡(luò)，機(jī)構(gòu)之間的互聯(lián)與協(xié)作甚至可以在國家層面的人工智能安全機(jī)制復(fù)合體的協(xié)調(diào)方面發(fā)揮積極作用。

國際人工智能安全網(wǎng)絡(luò)的概念提出甚至有來自中國的貢獻(xiàn)，而中國被排除在這個網(wǎng)絡(luò)之外，這不僅是不可接受的，更是自布萊切利會議努力之后歷史的倒退”。

首爾會議之后，國內(nèi)相關(guān)單位繼續(xù)協(xié)同推進(jìn)，“中國人工智能發(fā)展與安全研究網(wǎng)絡(luò)(China AI Development and Safety Network)”在2024年9月聯(lián)合國大會期間，由中國和贊比亞共同作為主辦國發(fā)起的人工智能能力建設(shè)國際合作高級別會議(High-level Meeting on International Cooperation on Capacity-building of Artificial Intelligence)上，我作為學(xué)者代表首次對外宣布，會議在聯(lián)合國紐約總部舉行。

人工智能首爾峰會(AI Seoul Summit)部長論壇(Ministers’ Session)，筆者作為學(xué)者代表發(fā)言，介紹為應(yīng)對安全治理機(jī)制復(fù)合體的發(fā)展現(xiàn)狀，中國正在探索以國家層面人工智能安全網(wǎng)絡(luò)的形式形成政產(chǎn)學(xué)研協(xié)作機(jī)制

“中國人工智能發(fā)展與安全研究網(wǎng)絡(luò)”在2024年9月聯(lián)合國大會期間，由中國、贊比亞主辦人工智能能力建設(shè)國際合作高級別會議上宣介

首爾峰會的另外一項(xiàng)重要成果是面向企業(yè)的“前沿人工智能安全承諾(Frontier AI Safety Commitments)”，這項(xiàng)承諾集結(jié)了來自多國處于最前沿人工智能模型研發(fā)的代表性企業(yè)。一年來，英國在承諾參與的企業(yè)方面持續(xù)發(fā)力，至今得到包括中國3家代表性企業(yè)，全球共20家領(lǐng)先企業(yè)的支持。

自愿承諾是企業(yè)自律自治的行為，制定并公開安全護(hù)欄與框架是人工智能企業(yè)推進(jìn)人工智能安全落地重要的實(shí)踐。

與此項(xiàng)工作以及白宮推進(jìn)的人工智能企業(yè)自愿承諾相關(guān)的，來自中國人工智能產(chǎn)業(yè)的集體表態(tài)，則是中國人工智能產(chǎn)業(yè)聯(lián)盟(AIIA)發(fā)起的“人工智能安全承諾”，首批得到17家中國領(lǐng)先人工智能企業(yè)的支持。