2025年2月于法國巴黎召開的人工智能行動峰會(Paris AI Action Summit)，在這個系列會議中得到了更高的關注和更多國家的支持，這首先得益于在國家參與方面更高的包容性，使得巴黎峰會最終聚集了80國領導人與超過100個國家的各界代表的參與。

可以理解的是，法國召開人工智能的旗艦會議希望全面推進人工智能的科學、應用、文化、治理等諸多方面的進展，但人工智能政產學研領域已有諸多綜合性的國際會議。而相比其他會議，從布萊切利開始的人工智能峰會系列的最大價值，正是會議聚焦人工智能安全與風險。

雖然在此屆峰會名稱上沒有明確體現安全，但是若考慮法國倡導推進“行動(Action)”作為焦點，卻不能得到這屆會議完全忽視安全與風險議題的結論。

事實是，人工智能行動峰會主會公開日的議程有諸多相關議題，包括但不限于”隱私、網絡安全與信息完整性： “利用人工智能保護民主制度”、“加強高效、有效且包容的全球人工智能治理”、“構建可信人工智能：從自愿承諾到協(xié)作實踐準則”、“邁向安全可信的人工智能：企業(yè)承諾”、“邁向安全可信的人工智能：歐盟協(xié)作實踐準則”、“人工智能的國際治理”、“為網絡和人工智能安全構建開源未來”等主會場議題和峰會正式專題研討會，覆蓋峰會當天1/3議題。

可也不能說本屆峰會在人工智能安全方面是成果豐碩的，畢竟在安全方面的實際產出沒有像《布萊切利宣言》、《前沿人工智能安全承諾》這樣的代表性工作。

人工智能行動峰會主會日，與法國總統(tǒng)人工智能行動峰會特使Anne女士合影，她2024年底訪問北京并邀請中國政產學研各方代表參加行動峰會。

人工智能行動峰會科學日舉辦“人工智能、科學與社會(AI, Science and Society)”大會，集結了法國人工智能科技與政策最富盛名的相關單位共同組織，由法國巴黎理工學院、法國科學院、法國國家信息與自動化研究院、巴黎高等商學院領銜，是在科學層面推進人工智能行動本屆大會最值得關注的。

會議專門組織了人工智能安全科學(Science of AI Safety and Security)議題的若干研討環(huán)節(jié)，主要包括“前沿人工智能安全閾值”、“國際人工智能安全報告”、“可信人工智能國際標準”三個主要研討。

嚴格意義上雖然不能算是法國人工智能行動峰會的主要成果，但是“國際人工智能安全報告(International Report on AI Safety)”借助人工智能行動峰會科學日，確實贏得了更多關注。

該報告由英國人工智能安全研究所主導，邀請包含中國在內的30個國家學者和機構參加，曾于人工智能首爾峰會（AI Seoul Summit）發(fā)布中期報告。我有幸作為報告中代表中國的專家指導委員會委員，參與該報告的全過程。

在峰會科學日的人工智能安全科學研討環(huán)節(jié)，大會邀請了報告主席Yoshua Bengio對報告進行介紹，并邀請了來自美、中、法的代表共論人工智能安全的未來。

《國際人工智能安全報告》的科學貢獻Yoshua Bengio做了詳細的介紹，百位學者參與的科學報告至少在人工智能領域是一個壯舉。我被主持人問及，我們的報告中哪個風險是最重要的或者最具威脅的。我的回應是：“首先，這如同全球可持續(xù)發(fā)展目標的17個目標，其中一個失敗了，可持續(xù)發(fā)展目標就是失敗了，社會都沒有實現可持續(xù)。其次，前沿人工智能模型目前具備認知功能自動升級和演化的能力，這意味著對人工智能風險的分級將很難真正控制風險的實際等級，因為風險及其類型將隨自主認知升級失去確定性”。

此外我還談到與《國際人工智能安全報告》一項互補的研究，即由我在中國科學院自動化研究所和人工智能安全與超級對齊北京市重點實驗室的團隊等單位協(xié)作共同發(fā)布的《全球人工智能安全指數(Global Index on AI Safety)》報告。

與《國際人工智能安全報告》的互補在于《全球人工智能安全指數》以國家為單位，給出了40個國家在人工智能安全就緒度的現狀，美、英、中三國名列前茅。

有些學者聯(lián)系我們說，報告似乎反映出國家的人工智能安全就緒度，整體而言與國家的經濟水平似乎密切相關。我回復說這正是我們要提醒各個國家的。人工智能的發(fā)展水平可能由于各國經濟水平的差異有顯著差異，但是人工智能安全就緒度事關人工智能是否能夠在相關國家穩(wěn)健的部署與應用，事關對該國可能造成的不可預知的潛在風險的應對。因此即使這些國家在發(fā)展方面尚需積累，但是也要在人工智能安全就緒度方面盡快做好更充分的準備。

在回顧《國際人工智能安全報告》形成的過程中的點滴時，我還講了一個很有意義的互動。當我在顧問專家委員會的會議上指出，目前的報告主要聚焦在大語言模型的風險，而對于人工智能規(guī)則推理、自然與腦啟發(fā)的人工智能等不同的人工智能發(fā)展科學途徑存在的潛在風險沒有涉及的時候，Yoshua Bengio指出這也許也是他自己研究上的一種偏向的體現。

作為綜合性的科學報告，這個理由顯然沒有說服我；然而最終報告明確聚焦在“通用人工智能(General-Purpose AI)”的風險上，卻讓我覺得至少更清晰了。

其他途徑發(fā)展的人工智能模型目前尚未具備顯著的“通用人工智能(General-Purpose AI)”特征，在這個階段，可控性方面的風險上確實也應當更聚焦在“前沿通用人工智能模型”。