中國AI發(fā)展如何應(yīng)對“奧本海默時刻”？

人工智能的高速發(fā)展已經(jīng)是不可逆的文明趨勢，機(jī)遇與風(fēng)險并存，自由與束縛交織。

導(dǎo)演諾蘭在談到他的傳記電影《奧本海默》時便說：“擔(dān)憂人工智能的人都對《奧本海默》感興趣。很多頂級的人工智能研究者，將當(dāng)下視為他們的‘奧本海默時刻’，他們將奧本海默看作一個警示故事?！?

奧本海默是美國“原子彈之父”，“奧本海默時刻”則象征著人類在面對重大科技進(jìn)步或倫理挑戰(zhàn)時，必須深思熟慮并采取措施，來應(yīng)對潛在的災(zāi)難性后果。

AI雖然與核能有所不同，但從能量體對人類的重塑角度來看，意味著發(fā)展與安全、和平利用與非和平利用、公域與私域關(guān)系重新界定等重大利弊問題的艱難抉擇，其未來的影響甚至大于核能。

張曉也說：“人工智能出現(xiàn)的時候，我們就在想，是否到了‘奧本海默時刻’？”AI發(fā)展的風(fēng)險到底在哪里？沒有人可以斷言。所以張曉強(qiáng)調(diào)，要“邊發(fā)展邊治理”，“同時治理要給發(fā)展留下足夠的空間”。

中國互聯(lián)網(wǎng)絡(luò)信息中心副主任、聯(lián)合國互聯(lián)網(wǎng)治理論壇(IGF)多利益相關(guān)方咨詢委員會、中國IGF常務(wù)副主任張曉 觀察者網(wǎng)

AI的治理，是否可以從互聯(lián)網(wǎng)治理中借鑒經(jīng)驗？張曉認(rèn)為，多利益相關(guān)方模式是個比較典型的特征?！爸拔覀冋f管理的時候，更多地是垂直的、自上而下的，而我們說治理的時候它更多地是一個平面?！?

“新技術(shù)是全球化的，不僅涉及政府，還有平臺企業(yè)、用戶個體。在互聯(lián)網(wǎng)剛剛發(fā)展的時候，因為技術(shù)門檻很高，先由科學(xué)家、技術(shù)社群做一些標(biāo)準(zhǔn)，然后商業(yè)介入，最后隨著互聯(lián)網(wǎng)承載了非常多應(yīng)用以后，看到政府就強(qiáng)勢介入，這個非常重要，因為它承擔(dān)著公共角色?！?

曾毅補(bǔ)充說，需要區(qū)分好“發(fā)展”和“野蠻生長”的關(guān)系，AI的技術(shù)發(fā)展是有方向的，而“野蠻的生長是沒有方向的”。

“比如說，我要訓(xùn)練一個更強(qiáng)大的AI模型，需要利用世界上的所有數(shù)據(jù)，包括所有人的個人數(shù)據(jù)，這意味著犧牲掉所有用戶的隱私權(quán)。”曾毅說，這就不是發(fā)展，而是“野蠻的生長”。

他強(qiáng)調(diào)，對AI的治理從來不會影響其發(fā)展進(jìn)程，而是以護(hù)航者的角色避免AI“野蠻生長”。同樣，注重AI安全也不會影響其發(fā)展。

在他看來，所謂“平衡安全和發(fā)展”的說法存在問題?！捌胶馐窍嗷コ钢獾囊馑迹盟圃谡f，注重安全，發(fā)展必然受阻?！?

但是根據(jù)曾毅團(tuán)隊近期的實驗，人工智能大模型完全可以在幾乎不影響問題解決正確率的前提下，將安全屬性提升20%-30%。

超級智能看待人類會和人類看待螞蟻一樣嗎？

2023年3月，美國生命未來研究所發(fā)表公開信《暫停巨型人工智能實驗》，提出所有AI實驗室立即暫停訓(xùn)練比GPT-4更強(qiáng)大的模型至少6個月，以便為制定安全協(xié)議和治理框架爭取時間。曾毅也大體認(rèn)同這份倡議的內(nèi)容。

“當(dāng)時很多人問我，我國都還沒有什么像樣的生產(chǎn)式人工智能，你為什么要簽字？是不想讓中國發(fā)展嗎？”

中國科學(xué)院自動化研究所研究員、人工智能安全與超級對齊北京市重點實驗室主任、聯(lián)合國人工智能顧問機(jī)構(gòu)專家曾毅 觀察者網(wǎng)

曾毅解釋說：第一，這封公開信限制的是比GPT-4更強(qiáng)大的模型，但中國當(dāng)時連GPT-3級別的模型都沒有，“根本不是去限制中國發(fā)展的”。第二，為公開信簽字屬于自愿承諾，他并不代表中國，而是作為科研工作者認(rèn)識到了AI發(fā)展的風(fēng)險。

西塞羅（CICERO）是美國Meta公司開發(fā)的一款A(yù)I系統(tǒng)，曾在2022年8月至10月的線上《外交》游戲比賽中取得過極佳的成績，被稱作“第一款在外交領(lǐng)域以人類水平進(jìn)行游戲的人工智能”。

曾幾何時，外交被認(rèn)為是AI絕對無法接管的工作。曾毅也說，西塞羅在外交博弈上的進(jìn)展令他感受到危險。在應(yīng)對AI災(zāi)難性風(fēng)險能力還很薄弱的當(dāng)時，“不應(yīng)當(dāng)用AI來做這些事”。

事實上，自AI進(jìn)入人類視野以來，人類對與AI關(guān)系的憂慮就如同一道難以驅(qū)散的陰影，始終籠罩在文明的上空。

2024年一項針對在頂級AI領(lǐng)域發(fā)表過論文的作者的調(diào)查顯示，37.8%-51.4%的受訪者認(rèn)為，高級AI導(dǎo)致人類滅絕等嚴(yán)重后果的可能性至少為10%。

2001年上映的科幻電影《人工智能》海報，這部由庫布里克籌備多年、又經(jīng)斯皮爾伯格接手執(zhí)導(dǎo)的電影融合了科幻、倫理與情感。