-
治理AI“深度偽造”,中國(guó)正在與美歐并跑
-
周遠(yuǎn)方zhouyufang@guancha.cn
【導(dǎo)讀】 2021年11月,聯(lián)合國(guó)教科文組織在全球共識(shí)的基礎(chǔ)上發(fā)布了《人工智能倫理建議書(shū)》,成為全球首個(gè)針對(duì)人工智能的倫理規(guī)范框架,中科院自動(dòng)化所研究員、聯(lián)合國(guó)教科文組織AI倫理特設(shè)專(zhuān)家組專(zhuān)家曾毅作為中方代表參與了建議書(shū)的討論、咨詢(xún)和起草。
【編輯/周遠(yuǎn)方】
作為人工智能領(lǐng)域的新實(shí)踐,近年來(lái),利用深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等生成合成類(lèi)算法制作圖像、音頻、視頻、虛擬場(chǎng)景等信息的深度合成技術(shù),已在多個(gè)領(lǐng)域大量應(yīng)用,伴隨著不斷涌現(xiàn)的使用需求,深度合成內(nèi)容數(shù)量和關(guān)注度呈現(xiàn)快速增長(zhǎng)態(tài)勢(shì)。
另一方面,每一次技術(shù)變革,在造福社會(huì)的同時(shí),也不可避免地會(huì)帶來(lái)安全風(fēng)險(xiǎn)。惡意使用該技術(shù)生成的音視頻,也顯現(xiàn)出了巨大的破壞力,給個(gè)人、企業(yè)造成了聲譽(yù)損害和財(cái)產(chǎn)損失,也對(duì)社會(huì)、國(guó)家安全造成威脅。
為了對(duì)人工智能和深度合成技術(shù)的健康發(fā)展提供參考和指引,清華大學(xué)人工智能研究院、北京瑞萊智慧科技有限公司、清華大學(xué)智媒研究中心、國(guó)家工業(yè)信息安全發(fā)展研究中心、北京市大數(shù)據(jù)中心近日聯(lián)合發(fā)布《深度合成十大趨勢(shì)報(bào)告(2022)》(以下簡(jiǎn)稱(chēng)“《報(bào)告》”),從技術(shù)研究、領(lǐng)域應(yīng)用、發(fā)展趨勢(shì)等多個(gè)方面,全面深入地介紹和研判深度合成技術(shù)及應(yīng)用帶來(lái)的機(jī)遇與挑戰(zhàn),并就其發(fā)展與治理給出切實(shí)可行的建議和措施。
《報(bào)告》截圖
深度合成爆發(fā)式增長(zhǎng)
深度合成的圖像、視頻、音頻、文本等內(nèi)容,例如熱門(mén)影視劇片段、話題明星的換臉視頻等等,具有極強(qiáng)的娛樂(lè)性與傳播性,伴隨著技術(shù)的發(fā)展成熟,越來(lái)越多的創(chuàng)作者在互聯(lián)網(wǎng)上發(fā)布和分享深度合成內(nèi)容,數(shù)量逐年高速增長(zhǎng)。以視頻為例,《報(bào)告》顯示,在國(guó)內(nèi)外主流音視頻網(wǎng)站、社交媒體平臺(tái)上,2021年新發(fā)布的深度合成視頻的數(shù)量較2017年已增長(zhǎng)10倍以上。
深度合成在影視制作、廣告營(yíng)銷(xiāo)、社交娛樂(lè)等領(lǐng)域發(fā)展出多元化的商業(yè)應(yīng)用,例如AI合成主播、虛擬偶像、修復(fù)歷史老照片、影視劇本地化配音、“數(shù)字復(fù)活”已過(guò)世演員等。
《報(bào)告》截圖
一些面向公眾開(kāi)發(fā)的合成類(lèi)產(chǎn)品也陸續(xù)推出,《報(bào)告》顯示,視頻、語(yǔ)音和文本形式的服務(wù)最為普遍,例如支持風(fēng)格定制的特效視頻制作軟件等風(fēng)靡網(wǎng)絡(luò);語(yǔ)音方向衍生出了語(yǔ)音導(dǎo)航、有聲讀物、自動(dòng)新聞播報(bào)等應(yīng)用;文本合成則在新聞報(bào)道、詩(shī)文創(chuàng)作、聊天問(wèn)答等方面發(fā)揮著重要作用。
“元宇宙”等新商業(yè)思維的提出,也為深度合成提供了更廣闊的應(yīng)用場(chǎng)景。阿里巴巴安全感知與認(rèn)知智能部負(fù)責(zé)人薛輝表示,比如虛擬人、數(shù)字人即是深度合成的主要應(yīng)用,也是“元宇宙”的重要組成部分。
清華大學(xué)新聞與傳播學(xué)院常務(wù)副院長(zhǎng)陳昌鳳認(rèn)為,深度合成將重新定義虛擬數(shù)字化空間,從傳播社會(huì)學(xué)意義上看,一個(gè)新的人類(lèi)生存場(chǎng)景將以深度合成技術(shù)為基石展開(kāi)。
瑞萊智慧CEO田天表示,技術(shù)不斷成熟是深度合成內(nèi)容迎來(lái)爆發(fā)式增長(zhǎng)的重要原因。研究論文的持續(xù)增加、開(kāi)源技術(shù)工具和大量代表性方法的涌現(xiàn),令深度合成內(nèi)容的效果更加逼真、制作也更加高效,尤其是生成對(duì)抗網(wǎng)絡(luò)等算法的出現(xiàn),讓合成內(nèi)容達(dá)到了 “真假難辨”的程度。
“深度偽造”風(fēng)險(xiǎn)加劇,亟需治理
正因如此,深度合成激發(fā)了新內(nèi)容創(chuàng)造力的同時(shí),也帶來(lái)了新的威脅。
隨著技術(shù)逐步“平民化”,不法分子可輕易偽造音頻、視頻,實(shí)施誣陷、誹謗、詐騙、勒索等違法行為,甚至捏造國(guó)家政要言論擾亂社會(huì)與政治秩序。
2021年10月,安徽合肥警方曾查獲一起非法利用深度合成技術(shù)偽造手機(jī)用戶(hù)人臉動(dòng)態(tài)視頻破解身份核驗(yàn),為黑灰產(chǎn)業(yè)提供注冊(cè)虛擬手機(jī)卡等技術(shù)支撐的案件。近年來(lái),類(lèi)似事件開(kāi)始更多的進(jìn)入公眾視野。
深度合成內(nèi)容模糊了真實(shí)和虛假的邊界,將對(duì)社會(huì)信任、媒體信任、政治信任產(chǎn)生巨大的影響。陳昌鳳表示,虛假內(nèi)容的高難度甄別影響了事實(shí)核查的有效性,在社會(huì)重大事件或政治事件節(jié)點(diǎn)上,深度合成技術(shù)可能被用于操作輿論意見(jiàn),借助社交媒體,使虛假信息短時(shí)間內(nèi)引發(fā)產(chǎn)生病毒式擴(kuò)散,激化社會(huì)矛盾。
負(fù)面風(fēng)險(xiǎn)不斷加劇,如何有效甄別深度合成內(nèi)容就成為了關(guān)鍵,但隨著合成質(zhì)量的不斷提升,傳統(tǒng)基于生物特征的鑒別方式越來(lái)越難以發(fā)揮作用。
浙江大學(xué)網(wǎng)絡(luò)空間安全學(xué)院院長(zhǎng)任奎表示,目前對(duì)深度合成的檢測(cè)主要依賴(lài)于人工智能模型,依賴(lài)于訓(xùn)練數(shù)據(jù)的完備性,包括檢測(cè)器泛用性相低、公開(kāi)數(shù)據(jù)集適用性、數(shù)據(jù)敏感等,這些都將帶來(lái)諸多挑戰(zhàn)。
田天也表示,新型偽造方法層出不窮、網(wǎng)絡(luò)傳播環(huán)境的日趨復(fù)雜,加上基于檢測(cè)算法存在漏洞缺陷等,反深偽檢測(cè)技術(shù)面臨“強(qiáng)對(duì)抗性”,需要持續(xù)更新與迭代。
《報(bào)告》顯示,目前學(xué)術(shù)界和產(chǎn)業(yè)界均已對(duì)反深偽檢測(cè)投入了大量研究,Meta(原Facebook)、谷歌、微軟等機(jī)構(gòu)均推出了深度合成視頻認(rèn)證的方法或產(chǎn)品。在國(guó)內(nèi),清華大學(xué)、中科大等高校在深度偽造內(nèi)容檢測(cè)方面取得顯著成果,清華大學(xué)孵化團(tuán)隊(duì)瑞萊智慧推出的深度偽造內(nèi)容檢測(cè)平臺(tái)DeepReal擁有工業(yè)級(jí)的檢測(cè)性能和應(yīng)對(duì)實(shí)網(wǎng)環(huán)境對(duì)抗變化的檢測(cè)能力。清華大學(xué)人工智能研究院基礎(chǔ)理論研究中心主任朱軍認(rèn)為,深度合成檢測(cè)面臨持續(xù)的攻防和博弈,未來(lái)還需融合多模態(tài)內(nèi)容的取證分析、基于數(shù)字水印的溯源技術(shù)等多方面能力,實(shí)現(xiàn)精準(zhǔn)識(shí)別。
同時(shí),我們不能因?yàn)榧夹g(shù)風(fēng)險(xiǎn)就因噎廢食。
中國(guó)工程院院士鄔賀銓認(rèn)為,第一,任何新技術(shù)的出現(xiàn)和應(yīng)用,都會(huì)帶來(lái)社會(huì)問(wèn)題,其中當(dāng)然也有倫理問(wèn)題;第二,倫理問(wèn)題需要從道德和法律的層面來(lái)解決;第三,對(duì)于技術(shù)失控和技術(shù)濫用的問(wèn)題,需要通過(guò)發(fā)展技術(shù)來(lái)解決,當(dāng)前深度合成的技術(shù)發(fā)展得還不夠,所謂“道高一尺魔高一丈”,發(fā)展永遠(yuǎn)在路上。
《報(bào)告》截圖
- 責(zé)任編輯: 周遠(yuǎn)方 
-
糧食、天然氣、金屬全線漲價(jià),歐洲壓力山大……
2022-02-23 16:52 觀網(wǎng)財(cái)經(jīng)-海外 -
-
-
廣州等多地銀行下調(diào)房貸利率,京滬不變但審批提速
2022-02-23 09:16 中國(guó)房市 -
大公司早報(bào)|楊國(guó)福提交上市申請(qǐng) 字節(jié)跳動(dòng)辟謠員工猝死
2022-02-23 09:10 大公司 -
-
-
茅臺(tái)增產(chǎn)“滿足消費(fèi)者需求”,其它酒廠要緊張了?
2022-02-22 21:40 觀網(wǎng)財(cái)經(jīng)-消費(fèi) -
當(dāng)過(guò)李佳琦老板的胡海泉,資本之路翻車(chē)了?
2022-02-22 18:14 投資 -
對(duì)標(biāo)拼多多失敗,騰訊電商夢(mèng)又折戟
2022-02-22 17:46 觀網(wǎng)財(cái)經(jīng)-消費(fèi) -
多地密集放寬樓市政策,省會(huì)城市也加入了
2022-02-22 14:33 觀網(wǎng)財(cái)經(jīng)-房產(chǎn) -
滴滴將從3月4日起停止在俄羅斯及哈薩克斯坦的業(yè)務(wù)
2022-02-22 14:16 觀網(wǎng)財(cái)經(jīng)-海外 -
印尼爆發(fā)新一波疫情,美媒稱(chēng)國(guó)藥、科興滅活疫苗面臨考驗(yàn)
2022-02-22 11:25 觀網(wǎng)財(cái)經(jīng)-海外 -
網(wǎng)友建議整治部分網(wǎng)站強(qiáng)制要求下載App,工信部:將深入研究
2022-02-22 09:13 -
大公司早報(bào)|字節(jié)跳動(dòng)出售證券業(yè)務(wù)海豚股票 騰訊澄清“重錘”謠言
2022-02-22 09:04 大公司 -
-
2022年不新發(fā)游戲版號(hào)? 游戲工委相關(guān)負(fù)責(zé)人:沒(méi)有這樣的消息
2022-02-21 19:23 電子游戲 -
外媒:如果俄羅斯進(jìn)攻烏克蘭,美國(guó)將切斷與俄羅斯主要銀行的聯(lián)系
2022-02-21 17:51 觀網(wǎng)財(cái)經(jīng)-海外 -
-
相關(guān)推薦 -
-
多家美企施壓中國(guó)供應(yīng)商降價(jià),“中方不會(huì)容忍” 評(píng)論 160升級(jí)!美防長(zhǎng)撂狠話,胡塞:瞄準(zhǔn)所有美軍艦只 評(píng)論 183國(guó)安部曝光4名“臺(tái)獨(dú)”網(wǎng)軍分子 評(píng)論 443“特朗普想搞新世界秩序,但美元要先遭殃” 評(píng)論 66“因?yàn)槠站┎幌矚g”,特朗普將自家俄烏特使降格 評(píng)論 58最新聞 Hot
-
多家美企施壓中國(guó)供應(yīng)商降價(jià),“中方不會(huì)容忍”
-
“我和普京約好時(shí)間了,要談發(fā)電廠和資產(chǎn)分割”
-
“什么時(shí)候了還在指望美國(guó),癡心妄想!”
-
“出差”8天,“加班”9個(gè)月,終于看到了回地球的曙光
-
升級(jí)!美防長(zhǎng)撂狠話,胡塞:瞄準(zhǔn)所有美軍艦只
-
中國(guó)頂尖人才來(lái)自美國(guó)?斯坦福博士“真相”了
-
莫迪對(duì)華最新表態(tài)
-
“民主黨支持率跌至歷史新低”
-
香港《大公報(bào)》再發(fā)文:飲水思源有擔(dān)當(dāng),背靠祖國(guó)謀發(fā)展
-
美方直說(shuō)了:做好“割地”準(zhǔn)備吧,加入北約也沒(méi)戲
-
怕美國(guó)針對(duì),法國(guó)總理“窩里橫”:歐盟這么搞不對(duì)
-
菲警方:若ICC需要,可配合逮捕杜特爾特盟友
-
方濟(jì)各病重住院后的首張照片公布
-
馬克龍“硬杠”:不需要俄方許可
-
“特朗普想搞新世界秩序,但美元要先遭殃”
-
“因?yàn)槠站┎幌矚g”,特朗普將自家俄烏特使降格
快訊- 人工韌帶有望打破國(guó)外壟斷,投資人為何等不及國(guó)產(chǎn)替代?
- 檢察機(jī)關(guān)依法對(duì)山西焦煤集團(tuán)原董事長(zhǎng)武華太等5名廳官提起公訴
- “我和普京約好時(shí)間了,要談發(fā)電廠和資產(chǎn)分割”
- 財(cái)政部:逐步推行免費(fèi)學(xué)前教育
- 3倍積分、可兌車(chē)票,銀發(fā)族的火車(chē)票在悄悄增值
- 外交部回應(yīng)莫迪最新對(duì)華表態(tài):贊賞
- 泰國(guó)因遣返中國(guó)公民將遭美制裁,外交部回應(yīng)
- 財(cái)報(bào)季|理想汽車(chē):2024年凈利潤(rùn)80億元,現(xiàn)金儲(chǔ)備達(dá)1128億元
-