【文/觀察者網(wǎng) 呂棟】

今年以來，隨著人工智能技術(shù)不斷發(fā)展，生成式人工智能（AIGC）成為絕對的市場焦點(diǎn)。為促進(jìn)生成式人工智能技術(shù)健康發(fā)展和規(guī)范應(yīng)用，國家互聯(lián)網(wǎng)信息辦公室近日起草了《生成式人工智能服務(wù)管理辦法（征求意見稿）》（下稱《征求意見稿》），并向社會(huì)公開征求意見。

從百度的“文心一言”到阿里的“通義千問”再到商湯的“日日新”，國內(nèi)各大廠相繼發(fā)布生成式人工智能產(chǎn)品。作為一項(xiàng)正快速發(fā)展的技術(shù)，AIGC可通過算法、模型、規(guī)則等方式生成各種類型的文本、圖片、聲音、視頻、代碼等內(nèi)容，市場應(yīng)用前景廣泛。

然而，生成式人工智能技術(shù)也面臨著一些挑戰(zhàn)，其中包括知識(shí)產(chǎn)權(quán)、安全、倫理和數(shù)據(jù)等問題。針對這些挑戰(zhàn)，《征求意見稿》對人工智能生成內(nèi)容、主體責(zé)任、訓(xùn)練數(shù)據(jù)和數(shù)據(jù)處理等方面都做出了規(guī)定，旨在保障生成式人工智能技術(shù)的合規(guī)性和安全性。

華東政法大學(xué)數(shù)據(jù)法律研究中心主任高富平解讀指出，我國對人工智能的研發(fā)一直采取鼓勵(lì)發(fā)展的態(tài)度。此次《征求意見稿》對人工智能的監(jiān)管措施，只是針對面向公眾提供的人機(jī)交互式的生成式人工智能，而不是針對所有人工智能的?！墩髑笠庖姼濉穼ι墒饺斯ぶ悄墚a(chǎn)品的開發(fā)提供了基本遵循，對此類產(chǎn)品的開發(fā)有積極的正向引導(dǎo)作用。

但與此同時(shí)也有學(xué)者提出，人工智能產(chǎn)業(yè)剛剛起步，業(yè)界還不清楚究竟會(huì)出現(xiàn)哪些問題，又需要設(shè)置哪些規(guī)則。在這種情況下，過于超前的立法也有可能會(huì)阻礙技術(shù)的發(fā)展和創(chuàng)新。

例如，《征求意見稿》提到：“提供生成式人工智能服務(wù)應(yīng)當(dāng)按照《中華人民共和國網(wǎng)絡(luò)安全法》規(guī)定，要求用戶提供真實(shí)身份信息。”對此，北京大學(xué)法學(xué)院教授薛軍表示：“生成式人工智能服務(wù)，在特定情況下更類似于搜索服務(wù)，本質(zhì)是一種智能檢索，應(yīng)當(dāng)允許用戶以游客的身份使用。比如，必應(yīng)搜索引擎遷入了ChatGPT問答模型，普通游客都可以瀏覽使用。這樣，也可以更好保護(hù)用戶的隱私，方便網(wǎng)民使用?！?

AI生成的圖片

在生成內(nèi)容方面，《征求意見稿》提到：“利用生成式人工智能生成的內(nèi)容應(yīng)當(dāng)真實(shí)準(zhǔn)確，采取措施防止生成虛假信息”，確立了內(nèi)容真實(shí)性的要求。但這一規(guī)定目前存在頗多爭議。

一些行業(yè)人士指出，從實(shí)踐的角度來看，生成內(nèi)容的真實(shí)準(zhǔn)確性與生成式人工智能的技術(shù)原理是互相沖突的，人工智能生成內(nèi)容并不是從知識(shí)庫中搜索并拼湊出結(jié)果，生成結(jié)果是通過計(jì)算機(jī)算法得來的，所以對于生成信息的真實(shí)準(zhǔn)確性，會(huì)存在一些不可避免的技術(shù)限制。

中國社會(huì)科學(xué)院大學(xué)法學(xué)院副教授、互聯(lián)網(wǎng)法治研究中心執(zhí)行主任劉曉春表示，大模型服務(wù)提供者有責(zé)任積極采取與技術(shù)發(fā)展水平相適應(yīng)的風(fēng)險(xiǎn)預(yù)防措施，及時(shí)響應(yīng)監(jiān)管要求，對權(quán)利主體提出的合理訴求給出及時(shí)的回應(yīng)。如果按照規(guī)定執(zhí)行，可以明確大模型服務(wù)提供者的具體治理義務(wù)，在其盡到與技術(shù)發(fā)展水平相應(yīng)的義務(wù)的情況下，給予一定的免責(zé)規(guī)則。

在訓(xùn)練數(shù)據(jù)方面，《征求意見稿》對預(yù)訓(xùn)練數(shù)據(jù)提出了更多的要求，要求能夠保證訓(xùn)練數(shù)據(jù)的“真實(shí)性、準(zhǔn)確性、客觀性、多樣性”。

中國國家創(chuàng)新與發(fā)展戰(zhàn)略研究會(huì)副會(huì)長呂本富認(rèn)為，“真實(shí)”“準(zhǔn)確”缺乏明晰的衡量標(biāo)準(zhǔn)，網(wǎng)絡(luò)上的新聞、認(rèn)知存在刷新、反轉(zhuǎn)等情況，且數(shù)據(jù)來源于網(wǎng)絡(luò)，需要發(fā)揮各個(gè)網(wǎng)站主體意識(shí)，從源頭上保障“真實(shí)準(zhǔn)確客觀”。綜合來看，對提供者和使用者、傳播者的違法行為進(jìn)行規(guī)制，或許更符合實(shí)際情況。

清華大學(xué)中國發(fā)展規(guī)劃研究院執(zhí)行副院長董煜則指出，數(shù)據(jù)訓(xùn)練的規(guī)模會(huì)決定人工智能生成內(nèi)容的質(zhì)量，數(shù)據(jù)的數(shù)量和質(zhì)量比算法和模型更重要。從歐盟、美國、韓國、日本等國家針對預(yù)訓(xùn)練數(shù)據(jù)合法性的要求來看，為了支持大模型的發(fā)展，他們允許使用各種出版物對生成式人工智能訓(xùn)練數(shù)據(jù)進(jìn)行分析。因此，如果由于真實(shí)性、版權(quán)等問題無法使用相關(guān)訓(xùn)練數(shù)據(jù)，將對人工智能技術(shù)發(fā)展帶來很大的負(fù)面影響。

在責(zé)任認(rèn)定方面，《征求意見稿》第五條提出，“利用生成式人工智能產(chǎn)品提供聊天和文本、圖像、聲音生成等服務(wù)的組織和個(gè)人，包括通過提供可編程接口等方式支持他人自行生成文本、圖像、聲音等，承擔(dān)該產(chǎn)品生成內(nèi)容生產(chǎn)者的責(zé)任”。

對此，中國人民大學(xué)教授、國家發(fā)展與戰(zhàn)略研究院研究員劉永謀表示，生成式AI產(chǎn)品提供的服務(wù)大多是生成文本、圖像、聲音等信息內(nèi)容，在使用在不同的場景可能會(huì)產(chǎn)生不同的影響。作為內(nèi)容生產(chǎn)者的提供方，是無法確定使用者的具體用途的。比如說，一段由AI生成的正常的文字，或者一張AI繪制的圖片，平臺(tái)方是無法得知它是否被用于創(chuàng)作領(lǐng)域，還是用于一些灰黑產(chǎn)業(yè)的，其產(chǎn)生的后果其理所應(yīng)當(dāng)由內(nèi)容的使用方負(fù)責(zé)。

此外，《征求意見稿》第十五條規(guī)定“對于運(yùn)行中發(fā)現(xiàn)、用戶舉報(bào)的不符合本辦法要求的生成內(nèi)容，除采取內(nèi)容過濾等措施外，應(yīng)在3個(gè)月內(nèi)通過模型優(yōu)化訓(xùn)練等方式防止再次生成”。

但在當(dāng)前環(huán)境下，大型語言模型的參數(shù)規(guī)模在到達(dá)一個(gè)臨界值后，涌現(xiàn)能力變得越來越強(qiáng)。即使是OpenAI這樣的團(tuán)隊(duì)，也很難解釋這樣的涌現(xiàn)現(xiàn)象。在這種情況下，人工智能基座大模型生成的內(nèi)容往往是難以精確預(yù)測和控制的，這是生成式人工智能方法的固有缺陷之一。

因此，清華大學(xué)人工智能研究院視覺智能研究中心主任鄧志東教授提出，“通過模型優(yōu)化訓(xùn)練的方式防止再次生成侵權(quán)內(nèi)容，在技術(shù)上非常難以實(shí)現(xiàn)，而利用價(jià)值對齊的算法采取內(nèi)容過濾等措施或可實(shí)現(xiàn)。如果要求生成式人工智能產(chǎn)品服務(wù)提供方在收到侵權(quán)問題反饋時(shí)，第一時(shí)間過濾侵權(quán)內(nèi)容，并通過模型優(yōu)化訓(xùn)練，實(shí)際上是非常困難的，人工智能立法應(yīng)當(dāng)在智能涌現(xiàn)能力和安全性中找到平衡”。

法立于上則俗成于下。劉永謀指出，未來新法規(guī)的出臺(tái)，將界定新技術(shù)服務(wù)的“底線”和“紅線”，使科技得以在合乎倫理的軌道上運(yùn)行發(fā)展。同時(shí)也應(yīng)注意到，新產(chǎn)業(yè)、新業(yè)態(tài)和新模式，雖然意味著新的風(fēng)險(xiǎn)，但也正在為生產(chǎn)力和經(jīng)濟(jì)增長注入新動(dòng)能。新法規(guī)的制定，為市場留足發(fā)展空間，才會(huì)讓人工智能大范圍的得到普及，讓創(chuàng)新更進(jìn)一步。

本文系觀察者網(wǎng)獨(dú)家稿件，未經(jīng)授權(quán)，不得轉(zhuǎn)載。