【編輯/周遠(yuǎn)方】

作為人工智能領(lǐng)域的新實(shí)踐，近年來(lái)，利用深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等生成合成類(lèi)算法制作圖像、音頻、視頻、虛擬場(chǎng)景等信息的深度合成技術(shù)，已在多個(gè)領(lǐng)域大量應(yīng)用，伴隨著不斷涌現(xiàn)的使用需求，深度合成內(nèi)容數(shù)量和關(guān)注度呈現(xiàn)快速增長(zhǎng)態(tài)勢(shì)。

另一方面，每一次技術(shù)變革，在造福社會(huì)的同時(shí)，也不可避免地會(huì)帶來(lái)安全風(fēng)險(xiǎn)。惡意使用該技術(shù)生成的音視頻，也顯現(xiàn)出了巨大的破壞力，給個(gè)人、企業(yè)造成了聲譽(yù)損害和財(cái)產(chǎn)損失，也對(duì)社會(huì)、國(guó)家安全造成威脅。

為了對(duì)人工智能和深度合成技術(shù)的健康發(fā)展提供參考和指引，清華大學(xué)人工智能研究院、北京瑞萊智慧科技有限公司、清華大學(xué)智媒研究中心、國(guó)家工業(yè)信息安全發(fā)展研究中心、北京市大數(shù)據(jù)中心近日聯(lián)合發(fā)布《深度合成十大趨勢(shì)報(bào)告（2022）》（以下簡(jiǎn)稱(chēng)“《報(bào)告》”），從技術(shù)研究、領(lǐng)域應(yīng)用、發(fā)展趨勢(shì)等多個(gè)方面，全面深入地介紹和研判深度合成技術(shù)及應(yīng)用帶來(lái)的機(jī)遇與挑戰(zhàn)，并就其發(fā)展與治理給出切實(shí)可行的建議和措施。

《報(bào)告》截圖

深度合成爆發(fā)式增長(zhǎng)

深度合成的圖像、視頻、音頻、文本等內(nèi)容，例如熱門(mén)影視劇片段、話題明星的換臉視頻等等，具有極強(qiáng)的娛樂(lè)性與傳播性，伴隨著技術(shù)的發(fā)展成熟，越來(lái)越多的創(chuàng)作者在互聯(lián)網(wǎng)上發(fā)布和分享深度合成內(nèi)容，數(shù)量逐年高速增長(zhǎng)。以視頻為例，《報(bào)告》顯示，在國(guó)內(nèi)外主流音視頻網(wǎng)站、社交媒體平臺(tái)上，2021年新發(fā)布的深度合成視頻的數(shù)量較2017年已增長(zhǎng)10倍以上。

深度合成在影視制作、廣告營(yíng)銷(xiāo)、社交娛樂(lè)等領(lǐng)域發(fā)展出多元化的商業(yè)應(yīng)用，例如AI合成主播、虛擬偶像、修復(fù)歷史老照片、影視劇本地化配音、“數(shù)字復(fù)活”已過(guò)世演員等。

《報(bào)告》截圖

一些面向公眾開(kāi)發(fā)的合成類(lèi)產(chǎn)品也陸續(xù)推出，《報(bào)告》顯示，視頻、語(yǔ)音和文本形式的服務(wù)最為普遍，例如支持風(fēng)格定制的特效視頻制作軟件等風(fēng)靡網(wǎng)絡(luò)；語(yǔ)音方向衍生出了語(yǔ)音導(dǎo)航、有聲讀物、自動(dòng)新聞播報(bào)等應(yīng)用；文本合成則在新聞報(bào)道、詩(shī)文創(chuàng)作、聊天問(wèn)答等方面發(fā)揮著重要作用。

“元宇宙”等新商業(yè)思維的提出，也為深度合成提供了更廣闊的應(yīng)用場(chǎng)景。阿里巴巴安全感知與認(rèn)知智能部負(fù)責(zé)人薛輝表示，比如虛擬人、數(shù)字人即是深度合成的主要應(yīng)用，也是“元宇宙”的重要組成部分。

清華大學(xué)新聞與傳播學(xué)院常務(wù)副院長(zhǎng)陳昌鳳認(rèn)為，深度合成將重新定義虛擬數(shù)字化空間，從傳播社會(huì)學(xué)意義上看，一個(gè)新的人類(lèi)生存場(chǎng)景將以深度合成技術(shù)為基石展開(kāi)。

瑞萊智慧CEO田天表示，技術(shù)不斷成熟是深度合成內(nèi)容迎來(lái)爆發(fā)式增長(zhǎng)的重要原因。研究論文的持續(xù)增加、開(kāi)源技術(shù)工具和大量代表性方法的涌現(xiàn)，令深度合成內(nèi)容的效果更加逼真、制作也更加高效，尤其是生成對(duì)抗網(wǎng)絡(luò)等算法的出現(xiàn)，讓合成內(nèi)容達(dá)到了 “真假難辨”的程度。

“深度偽造”風(fēng)險(xiǎn)加劇，亟需治理

正因如此，深度合成激發(fā)了新內(nèi)容創(chuàng)造力的同時(shí)，也帶來(lái)了新的威脅。

隨著技術(shù)逐步“平民化”，不法分子可輕易偽造音頻、視頻，實(shí)施誣陷、誹謗、詐騙、勒索等違法行為，甚至捏造國(guó)家政要言論擾亂社會(huì)與政治秩序。

2021年10月，安徽合肥警方曾查獲一起非法利用深度合成技術(shù)偽造手機(jī)用戶(hù)人臉動(dòng)態(tài)視頻破解身份核驗(yàn)，為黑灰產(chǎn)業(yè)提供注冊(cè)虛擬手機(jī)卡等技術(shù)支撐的案件。近年來(lái)，類(lèi)似事件開(kāi)始更多的進(jìn)入公眾視野。

深度合成內(nèi)容模糊了真實(shí)和虛假的邊界，將對(duì)社會(huì)信任、媒體信任、政治信任產(chǎn)生巨大的影響。陳昌鳳表示，虛假內(nèi)容的高難度甄別影響了事實(shí)核查的有效性，在社會(huì)重大事件或政治事件節(jié)點(diǎn)上，深度合成技術(shù)可能被用于操作輿論意見(jiàn)，借助社交媒體，使虛假信息短時(shí)間內(nèi)引發(fā)產(chǎn)生病毒式擴(kuò)散，激化社會(huì)矛盾。

負(fù)面風(fēng)險(xiǎn)不斷加劇，如何有效甄別深度合成內(nèi)容就成為了關(guān)鍵，但隨著合成質(zhì)量的不斷提升，傳統(tǒng)基于生物特征的鑒別方式越來(lái)越難以發(fā)揮作用。

浙江大學(xué)網(wǎng)絡(luò)空間安全學(xué)院院長(zhǎng)任奎表示，目前對(duì)深度合成的檢測(cè)主要依賴(lài)于人工智能模型，依賴(lài)于訓(xùn)練數(shù)據(jù)的完備性，包括檢測(cè)器泛用性相低、公開(kāi)數(shù)據(jù)集適用性、數(shù)據(jù)敏感等，這些都將帶來(lái)諸多挑戰(zhàn)。

田天也表示，新型偽造方法層出不窮、網(wǎng)絡(luò)傳播環(huán)境的日趨復(fù)雜，加上基于檢測(cè)算法存在漏洞缺陷等，反深偽檢測(cè)技術(shù)面臨“強(qiáng)對(duì)抗性”，需要持續(xù)更新與迭代。

《報(bào)告》顯示，目前學(xué)術(shù)界和產(chǎn)業(yè)界均已對(duì)反深偽檢測(cè)投入了大量研究，Meta（原Facebook）、谷歌、微軟等機(jī)構(gòu)均推出了深度合成視頻認(rèn)證的方法或產(chǎn)品。在國(guó)內(nèi)，清華大學(xué)、中科大等高校在深度偽造內(nèi)容檢測(cè)方面取得顯著成果，清華大學(xué)孵化團(tuán)隊(duì)瑞萊智慧推出的深度偽造內(nèi)容檢測(cè)平臺(tái)DeepReal擁有工業(yè)級(jí)的檢測(cè)性能和應(yīng)對(duì)實(shí)網(wǎng)環(huán)境對(duì)抗變化的檢測(cè)能力。清華大學(xué)人工智能研究院基礎(chǔ)理論研究中心主任朱軍認(rèn)為，深度合成檢測(cè)面臨持續(xù)的攻防和博弈，未來(lái)還需融合多模態(tài)內(nèi)容的取證分析、基于數(shù)字水印的溯源技術(shù)等多方面能力，實(shí)現(xiàn)精準(zhǔn)識(shí)別。

同時(shí)，我們不能因?yàn)榧夹g(shù)風(fēng)險(xiǎn)就因噎廢食。

中國(guó)工程院院士鄔賀銓認(rèn)為，第一，任何新技術(shù)的出現(xiàn)和應(yīng)用，都會(huì)帶來(lái)社會(huì)問(wèn)題，其中當(dāng)然也有倫理問(wèn)題；第二，倫理問(wèn)題需要從道德和法律的層面來(lái)解決；第三，對(duì)于技術(shù)失控和技術(shù)濫用的問(wèn)題，需要通過(guò)發(fā)展技術(shù)來(lái)解決，當(dāng)前深度合成的技術(shù)發(fā)展得還不夠，所謂“道高一尺魔高一丈”，發(fā)展永遠(yuǎn)在路上。

《報(bào)告》截圖