由清華大學戰(zhàn)略與安全研究中心承辦的2019世界和平論壇分會場之“人工智能：技術與治理”，于7月9日在京舉行。論壇就人工智能給人類帶來的影響、人工智能的發(fā)展方向、潛在風險和挑戰(zhàn)以及人工智能治理等議題進行了研討。

會議由清華大學戰(zhàn)略與安全研究中心主任傅瑩主持，多位國際國內(nèi)知名專家和企業(yè)領袖出席論壇并發(fā)言。會上還發(fā)布了戰(zhàn)略與安全研究中心人工智能項目組的最新社會調(diào)研報告《中國青年視角下的人工智能風險與治理》。

（傅瑩主持分論壇）

近年來，人工智能逐漸成為國際社會廣泛關注的話題，人工智能技術的研發(fā)和應用帶來的機遇與挑戰(zhàn)、倫理與法規(guī)等問題，在不同領域和學科引發(fā)了熱烈的討論。傅瑩說，每一次科技的重大突破性發(fā)展，都會帶來潛在的風險與挑戰(zhàn)，人工智能被視為可能會影響人類未來的顛覆性技術，同時，制定相應規(guī)范的緊迫感也在上升?！爸袊谶@一領域已經(jīng)走在世界前列，剛剛發(fā)布了《人工智能北京共識》和《新一代人工智能治理原則——發(fā)展負責任的人工智能》，”傅瑩說：“但人工智能技術的影響不是局限在一國境內(nèi)的，風險和挑戰(zhàn)也往往是跨境和跨界的，是世界性的，因此，國際社會需要通過對話和努力，共同探尋人工智能國際治理的路徑?！?

中國科學院院士、清華大學人工智能研究院院長張鈸在演中談到人工智能的兩類安全挑戰(zhàn)：一類是由人工智能本身技術不夠成熟引發(fā)的問題；另一類是人工智能作為一項新技術的“雙刃劍”特點帶來的。他認為，需要從人的自律、規(guī)章制度、安全技術三個角度來思考應對措施。同時，他期待看到不同國家、不同學科、科研機構(gòu)與行業(yè)之間的協(xié)同合作，以防止人工智能的濫用，使其最大程度服務于人類社會的福祉。

（中國科學院院士、清華大學人工智能研究院院長張鈸發(fā)表主旨講話）

電氣與電子工程師協(xié)會（IEEE）的約翰·哈文斯（John C. Havens）強調(diào)了制定人工智能領域“標準”的重要性。作為IEEE全球自動化及智能系統(tǒng)倫理倡議執(zhí)行主任，他表示，好的標準應該容納廣泛參與，由各行各業(yè)的專家和從業(yè)人員、更多的年輕人以及不同國家和文化的人來共同制定。在約翰·哈文斯的論述的基礎上，黑斯廷斯中心顧問，耶魯大學生物倫理學跨學科中心科技與倫理學科主任溫德爾·瓦拉赫（Wendell Wallach）補充討論了如何將標準、規(guī)范和建議，真正落實到社會生產(chǎn)和生活中。

中國學者們在演講中回應了不久前發(fā)布的《人工智能北京共識》和《新一代人工智能治理原則——發(fā)展負責任的人工智能》，他們十分關注中國在該領域與國際社會的互動。

“美國、歐洲、日本這些世界主要的經(jīng)濟體都出臺了自己的人工智能的戰(zhàn)略?！敝袊娮有畔a(chǎn)業(yè)發(fā)展研究院（賽迪研究院）政策法規(guī)所所長欒群說：“但我相信我們也需要立足于中國文化的背景原則和規(guī)則。”作為《新一代人工智能治理原則》的主要設計者之一，中國科學院自動化研究所的類腦智能研究中心副主任曾毅表示，AI的全球治理原則，其宗旨歸根結(jié)底是以人為核心?！拔覀冃枰环N戰(zhàn)略性的設計來指導人工智能在未來30-40年的發(fā)展，”曾毅說：“我們需要將中國自身的哲學、思維和理念與世界分享，共同打造一個共享的未來。”

與曾毅所說的中國傳統(tǒng)哲學中的“和諧”觀念相呼應，香港中文大學系統(tǒng)工程與工程管理學系教授蒙美玲(Helen Meng)認為，“人類和人工智能可以實現(xiàn)一種‘共生’的關系，就像小丑魚和?？粯?，他們互相依賴、互相保護?！被谌斯ぶ悄芘c語言認知相關的項目研究，蒙美玲表達了人類可以通過AI打造“最優(yōu)工具”，進而服務于社會福祉的積極展望。

會議進行了兩輪的小組座談，國際國內(nèi)各行業(yè)共16位專家學者作為嘉賓，圍繞“人工智能”與“國際治理”展開了討論，并于與會的媒體、觀察員、學生和聽眾們進行了活躍的互動。

（格雷戈里·艾倫談如何讓人工智能朝著“安全”的方向發(fā)展）

對于人工智能技術本身的發(fā)展，各國專家學者提出了豐富多樣的觀點。新美國安全中心兼職高級研究員格雷戈里·艾倫（Gregory Allen）打了個比方，他說，電剛投入使用時，出現(xiàn)過許多問題，包括大量的事故和失火，人類不斷完善技術，尤其對電的安全給予了高度的重視和投入，現(xiàn)在電已經(jīng)是非常安全的技術。因此，人們需要更多思考如何讓人工智能朝著“安全”的方向發(fā)展。馬孔·福斯特（Malcolm Forster）是復旦大學哲學學院特聘教授，他認為，描述人工智能技術本身的概念和語言，解釋這個技術的方式，應該便于人們獲取和理解。他相信在“理解”的基礎上才能制定更好的政策，實現(xiàn)更好的治理。清華大學人工智能研究院常務副院長孫茂松教授則表示，人工智能并不是“無所不能”的，“AlphaGo”也是在特定的條件，明確的邊界和單一的任務下才表現(xiàn)出優(yōu)勢。他說，正如機器翻譯可以用在旅游中卻很少用于外交場合，《孫子兵法》的出其不意只能教給人卻無法教給機器，有很多事是人工智能做不到的。孫茂松認為，人工智能相關的討論很有價值，但政策和規(guī)范不宜超前。

人工智能與軍事相結(jié)合的問題也得到關注。斯德哥爾摩國際和平研究所的高級研究員司樂如（Lora Saalman）表示，人工智能的軍事化運用也是“雙刃劍”。它擁有的“機器學習”和“自主能力”既可以增加預警、防御、偵查、模擬能力，增強穩(wěn)定性，也可以改善非戰(zhàn)略核武器和導彈系統(tǒng)，推動軍備競賽，加劇不對稱性，從而帶來不穩(wěn)定性。布魯金斯學會外交政策項目客座研究員湯姆·斯特凡尼克(Tom Stefanick)則認為，現(xiàn)代AI并不大可能在可預見的未來改變大多數(shù)軍事系統(tǒng)，隨著持續(xù)性的在基礎人工智能、算法研究等方面的國際合作，AI的發(fā)展也不會帶來軍事方面的巨大差距。新美國安全中心高級研究員兼主任保羅·斯査瑞（Paul Scharre）則強調(diào)了“人”的重要性。他認為人類的大腦是最好、最先進的認知系統(tǒng)，在軍事決策中，人類應當保持對人工智能的控制，由人類而不是機器做決策。

網(wǎng)絡安全也是人們關注的問題。北京師范大學網(wǎng)絡法治國際中心執(zhí)行主任吳沈括談到，新技術攻擊、新內(nèi)容攻擊、新內(nèi)容犯罪將是人工智能帶來的網(wǎng)絡安全挑戰(zhàn)。蘭德公司副首席技術官蘭德·沃茲曼（Rand Waltzman）則表達了對“黑客”問題的擔憂。他表示在AI領域三十多年的從業(yè)經(jīng)驗體會是，最大的問題是防范AI黑客行為，這一話題雖然較少出現(xiàn)在相關討論中，但其風巨大，不可忽視。

結(jié)合企業(yè)創(chuàng)新經(jīng)驗，地平線創(chuàng)始人兼 CEO余凱，以及騰訊信息安全執(zhí)行委員會主任楊鵬，也分別以“計算的趨勢”和“科技向善”為關鍵詞進行了分享，表達了企業(yè)與研究機構(gòu)共同努力，打造更加安全、可靠的人工智能技術的決心和希望。

（地平線CEO余凱介紹“計算的趨勢”）

會議還為青年提供了發(fā)聲的舞臺。在清華大學交叉信息研究院助理教授于洋的帶領下，清華大學電子工程系大三年級的敖騰隆和蔣建平兩位同學，發(fā)布了戰(zhàn)略與安全研究中心人工智能項目組的最新社會調(diào)研報告《中國青年視角下的人工智能風險與治理》。他們表示，相比較專家學者們對AI在政治、軍事、安全等領域的關注，青年群體更加關注AI對經(jīng)濟和社會的影響。在他們的調(diào)查中，青年群體對人工智能與就業(yè)、消費、個人信息安全等問題有較高的關注。

（《中國青年視角下的人工智能風險與治理》社會調(diào)研報告發(fā)布）

在場的嘉賓、觀察員和聽眾也和發(fā)言的專家學者們進行了熱烈的討論，話題涵蓋與AI相關的政策、教育、環(huán)境等各個方面。會議主持人傅瑩感謝了所有參與會議與討論的來賓，以及投入該領域的青年人們，希望大家的研究和討論不斷深入。“清華大學主辦的這個論壇叫世界和平論壇，”傅瑩說，“盡管形勢波云詭譎，只要我們都相信和平，我們就有理由繼續(xù)努力前行。”  

（記者：謝銘琪）（完）