構(gòu)建法律、倫理等多維度治理機(jī)制

深度合成技術(shù)的良性發(fā)展，離不開(kāi)多維度治理機(jī)制的探索。《報(bào)告》顯示，除了發(fā)展深度偽造內(nèi)容檢測(cè)技術(shù)以外，近幾年來(lái)，針對(duì)深度合成技術(shù)惡意使用所帶來(lái)的挑戰(zhàn)，世界各國(guó)紛紛出臺(tái)相關(guān)法律法規(guī)，探索深度合成的治理路徑。國(guó)際方面，美國(guó)從聯(lián)邦和州層面進(jìn)行專(zhuān)門(mén)立法，歐盟將深度合成納入《通用數(shù)據(jù)保護(hù)條例（GDPR）》等現(xiàn)有法律框架規(guī)制。此外，德國(guó)、新加坡、英國(guó)、韓國(guó)等國(guó)家，均有適用于深度合成技術(shù)相關(guān)犯罪案件審理的法律法規(guī)。

清華大學(xué)蘇世民書(shū)院院長(zhǎng)薛瀾提到，今天也有一些業(yè)內(nèi)人士議論，人工智能領(lǐng)域剛剛發(fā)展就在探討治理，是否過(guò)早？其實(shí)這是一個(gè)好事，因?yàn)檫^(guò)去許多其他技術(shù)在全球發(fā)展過(guò)程中，中國(guó)是落后的，這些技術(shù)引進(jìn)中國(guó)時(shí)，相關(guān)的治理討論已經(jīng)結(jié)束了，中國(guó)直接參考結(jié)論即可。但這次人工智能技術(shù)的發(fā)展，中國(guó)至少處于并跑地位，在第一時(shí)間與其他國(guó)家共同面對(duì)如何治理的問(wèn)題。

2019年11月起，我國(guó)先后出臺(tái)《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》、《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》、《中華人民共和國(guó)民法典》、《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》，均對(duì)生成合成類(lèi)內(nèi)容等提出了不同程度的監(jiān)管要求。今年1月，國(guó)家網(wǎng)信辦公布了《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定（征求意見(jiàn)稿）》，對(duì)深度合成內(nèi)容的用途、標(biāo)記、使用范圍以及濫用處罰作出了具體規(guī)定。

對(duì)于深度合成內(nèi)容治理路徑的探索，陳昌鳳表示可以從技術(shù)、倫理與法制等幾個(gè)方面努力，技術(shù)方面，通過(guò)政府與社會(huì)組織參與、協(xié)同治理，倫理方面，確立和倡導(dǎo)相關(guān)的深度合成原則。中國(guó)社科院哲學(xué)所科技哲學(xué)研究室主任段偉文建議，對(duì)深度合成技術(shù)引發(fā)的社會(huì)、法律和倫理問(wèn)題，應(yīng)展開(kāi)有系統(tǒng)性、前瞻性的跨學(xué)科研究，對(duì)其可能出現(xiàn)的高風(fēng)險(xiǎn)應(yīng)用場(chǎng)景，進(jìn)行有針對(duì)性的治理與監(jiān)管。

中國(guó)科學(xué)院自動(dòng)化研究所研究員陶建華認(rèn)為，目前深度合成本身的內(nèi)涵和外延不夠清楚，在監(jiān)管中有很大的困難。大量技術(shù)存在兩面性，最早從事深度合成相關(guān)研究的人，其動(dòng)機(jī)是從娛樂(lè)、改善人的生活出發(fā)的，比如聲音的個(gè)性化模仿，很多人研究讓機(jī)器自主學(xué)習(xí)媽媽的聲音，給嬰兒朗讀故事，所以應(yīng)該更有效地去管理技術(shù)的使用者，而不去過(guò)多的約束它的研制者。

中國(guó)科大網(wǎng)絡(luò)空間安全學(xué)院執(zhí)行院長(zhǎng)俞能海強(qiáng)調(diào)了治理的“全國(guó)一盤(pán)棋”，他提到，目前國(guó)家很多部門(mén)在做治理的相關(guān)研究和工作，各部門(mén)應(yīng)統(tǒng)籌協(xié)調(diào)，一方面，人工智能技術(shù)在不同領(lǐng)域的應(yīng)用很難有一個(gè)放之四海而皆準(zhǔn)的統(tǒng)一規(guī)則，另一方面，技術(shù)人員與法律、政府等規(guī)制層面的人員要跨界交流合作，盡量使規(guī)制跟上技術(shù)發(fā)展節(jié)奏。

由于法律規(guī)范往往缺乏彈性和前瞻性，薛瀾特別強(qiáng)調(diào)倫理意識(shí)的重要性，他認(rèn)為，很多問(wèn)題很難用法律調(diào)整，需要更廣泛的多元主體的對(duì)話(huà)機(jī)制，形成某種程度的社會(huì)共識(shí)，在這個(gè)基礎(chǔ)上建立前沿研究和應(yīng)用的倫理評(píng)估、預(yù)警和管控機(jī)制。因?yàn)椤按a農(nóng)”他們最清楚代碼背后的東西，所以提高從業(yè)者倫理意識(shí)非常關(guān)鍵。

中科院自動(dòng)化所研究員、聯(lián)合國(guó)教科文組織AI倫理特設(shè)專(zhuān)家組專(zhuān)家曾毅則倡導(dǎo)產(chǎn)研發(fā)展自律自治，他表示，在法律法規(guī)不完全成熟及體系化之前，產(chǎn)業(yè)界自身應(yīng)強(qiáng)化“理論先行”意識(shí)，作為產(chǎn)業(yè)共同體共同防范濫用、嚴(yán)禁惡用。2021年11月，聯(lián)合國(guó)教科文組織在全球共識(shí)的基礎(chǔ)上發(fā)布了《人工智能倫理建議書(shū)》，成為全球首個(gè)針對(duì)人工智能的倫理規(guī)范框架，曾毅作為中方代表參與了建議書(shū)的討論、咨詢(xún)和起草。

對(duì)外經(jīng)濟(jì)貿(mào)易大學(xué)法學(xué)院副教授許可表示，社會(huì)層面應(yīng)加大宣傳普及力度，強(qiáng)化公民對(duì)深度合成等人工智能技術(shù)的認(rèn)識(shí)，提高全社會(huì)的防范意識(shí)，推動(dòng)公民作為負(fù)責(zé)任的深度合成技術(shù)的使用者，主動(dòng)標(biāo)識(shí)合成內(nèi)容并積極踐行社會(huì)監(jiān)督。

對(duì)此，田天也表示，深度偽造的本質(zhì)問(wèn)題是透明度不足，因此提供低門(mén)檻的偽造檢測(cè)工具（包括AI對(duì)抗攻防工具、AI防火墻等），提高公眾對(duì)深度合成技術(shù)的認(rèn)知尤為重要，只有在政府引導(dǎo)和從業(yè)者共同推動(dòng)下，將門(mén)檻降低到所有受眾能夠在共同的框架下去認(rèn)識(shí)、討論、理解這個(gè)問(wèn)題的時(shí)候，深度合成技術(shù)才能健康良性發(fā)展。

《報(bào)告》也建議，各方應(yīng)當(dāng)與時(shí)俱進(jìn)落實(shí)好新的規(guī)范要求，并在此前提下不斷追求技術(shù)突破，不斷開(kāi)拓深度合成技術(shù)應(yīng)用場(chǎng)景，創(chuàng)立示范標(biāo)桿，形成對(duì)人工智能行業(yè)整體的帶動(dòng)效應(yīng)，從而促進(jìn)新技術(shù)的持續(xù)健康發(fā)展。

在線(xiàn)閱讀《深度合成十大趨勢(shì)（2022）》報(bào)告 完整版

本文系觀察者網(wǎng)獨(dú)家稿件，未經(jīng)授權(quán)，不得轉(zhuǎn)載。